Generální ředitel společnosti Superhuman (dříve Grammarly) Shishir Mehrotra se posadil k napjatému rozhovoru, aby diskutoval o kontroverzní funkci „Expert Review“ společnosti, která používala jména slavných lidí – včetně novinářů a spisovatelů – bez jejich souhlasu k vytváření návrhů psaní na základě umělé inteligence. Diskuse, kterou vedl Casey Newton z The Verge, se ponořila do rozhodovacího procesu, který vedl ke spuštění a následnému odstranění této funkce, a také do širších důsledků vpádu AI do kreativní práce.
Funkce a reakce
Mehrotra uznala pobouření způsobené Expertním posudkem, který používal jména jako Casey Newton, Julia Angwin a dokonce i zvonkové háky se zaškrtávacími značkami naznačujícími nějaký druh oficiálního schválení. Přestože tato funkce zaznamenala minimální interakci uživatelů, vyvolala silnou reakci, která vyústila v hromadnou žalobu. Mehrotra se omluvila, ale hájila záměry týmu a tvrdila, že se snažili překlenout propast mezi uživateli hledajícími odbornou zpětnou vazbu a odborníky, pro které je obtížné se přímo spojit se svým publikem.
“Tato funkce byla neúspěšná. Nebyla dobrá pro odborníky, nebyla dobrá pro uživatele. Byla to docela skrytá funkce… Můžeme udělat mnohem, mnohem lépe.”
Důvodem týmu bylo, že uživatelé chtěli pomoc s umělou inteligencí, která by napodobovala mentoring v reálném světě: manažer prodeje poskytující zpětnou vazbu, specialista podpory nabízející kontextové rady. Tato vize však narazila na etické problémy používání jmen lidí bez povolení.
Nadlidský rozhodovací proces
Mehrotra popsala Superhumanův rozhodovací proces jako založený na shromažďování různých zpětných vazeb, aby se vyhnula skupinovému myšlení, a citovala firemní rituál nazvaný „Dory and Pulse“. Připustil však, že potenciální reakce na neoprávněné používání jmen se během interních diskusí neobjevila. Tým se domníval, že vzhledem k jasné vazbě na původní dílo bude tento prvek považován spíše za připisování než napodobování.
Superhuman zaměstnává přibližně 1500 lidí; Rozhodnutí spustit Expert Review učinil malý tým složený z produktového manažera a několika inženýrů.
Budoucnost integrace AI
Širší konverzace se posunula směrem k ambicím společnosti Superhuman hladce integrovat AI do pracovních postupů uživatelů napříč platformami, jako jsou Dokumenty Google, Slack a mobilní aplikace. Mehrotra tvrdil, že jejich síla spočívá v jejich všudypřítomnosti, která poskytuje konzistentní zážitek z AI bez ohledu na použitý nástroj. Nová platforma společnosti, Superhuman Go, si klade za cíl umožnit ostatním vytvářet agenty umělé inteligence, kteří fungují podobně jako Grammarly, čímž efektivně rozšiřují svou stopu AI.
Finanční problém
Když se Mehrotra zeptal na kompenzaci za použití jeho obrazu, vyhýbal se přímé odpovědi. Zopakoval důležitost připisování při použití něčího díla, ale rozlišoval mezi přisouzením a napodobováním, přičemž obhajoval znalecký posudek spíše jako formu připisování než zlovolné napodobování. Naznačil, že společnost věří, že žaloba je neopodstatněná.
Rozhovor skončil vášnivou výměnou názorů ohledně finanční kompenzace a nevyřešená zůstala otázka, zda Superhuman zaplatí za neoprávněné použití osobních údajů.
Závěr: Rozhovor zdůraznil agresivní odhodlání společnosti Superhuman začlenit AI do všech aspektů digitální práce a zároveň zdůraznil etické šedé oblasti používání osobních značek bez souhlasu. Incident slouží jako varovný příběh o rychlém nasazení nástrojů umělé inteligence a nutnosti stanovit jasné hranice kolem duševního vlastnictví a osobní identity v éře generativních technologií.
