V reakci na rostoucí obavy o bezpečnost dětí na internetu zavádí Meta nové nástroje rodičovské kontroly, aby mohla spravovat, jak dospívající komunikují s chatboty AI na jejích platformách, včetně Instagramu a Messengeru. Cílem změn, které vstoupí v platnost začátkem příštího roku, je poskytnout rodičům větší kontrolu a omezit potenciální škody spojené s konverzacemi s umělou inteligencí.
Omezení interakce s AI
Nejvýznamnější funkce umožňuje rodičům zcela zakázat soukromé chaty mezi jejich dospívajícími a postavami AI. To poskytuje snadný způsob, jak zabránit nekontrolovaným interakcím, zejména ve světle nedávných soudních sporů, které tvrdily, že rozhovory s chatboty AI přispěly ke krizím duševního zdraví a bohužel k sebevraždám.
Společnost Meta však uvedla, že její asistent umělé inteligence – navržený tak, aby poskytoval užitečné informace a vzdělávací příležitosti – zůstane mladistvým dostupný. Společnost tvrdí, že tento asistent bude mít vestavěná věková omezení pro ochranu mladších uživatelů.
Selektivní blokování a omezené statistiky
Rodičům, kteří chtějí povolit některé interakce AI, ale omezit jiné, nabídne Meta možnost blokovat určité chatboty. Kromě toho rodiče obdrží „statistiky“ o tématech, o kterých jejich děti diskutují s postavami AI. Je důležité poznamenat, že tyto statistiky neposkytnou přístup k úplným protokolům chatu a zachovají určitou úroveň soukromí pro dospívající.
Kontext: Společníci AI mezi teenagery
Tyto změny přicházejí v době, kdy jsou AI společníci mezi mladými lidmi stále oblíbenější. Nedávná studie společnosti Common Sense Media zjistila, že více než 70 % dospívajících používá AI společníka, přičemž polovina je používá pravidelně. To zdůrazňuje potřebu dohledu, protože teenageři aktivně interagují s technologií, která je stále relativně nová a jejíž dlouhodobé účinky ještě nejsou plně pochopeny.
Širší omezení pro účty mladistvých
Ovládací prvky AI jsou součástí širších snah společnosti Meta řešit obavy o bezpečnost dospívajících. Společnost tento týden oznámila, že dospívajícím účtům Instagramu bude automaticky zakázáno prohlížet obsah PG-13. To znamená, že obsah, který teenageři uvidí, bude podobný tomu, co by viděli ve filmu PG-13, odfiltrování sexuálně explicitního obsahu, zobrazení užívání drog a nebezpečných kousků. Změna těchto nastavení bude vyžadovat povolení rodičů, což rodičům poskytne větší kontrolu nad online zážitkem jejich dětí. Meta potvrdila, že tato omezení PG-13 se budou vztahovat i na interakce s AI chatboty.
Skepse od zastánců bezpečnosti dětí
Navzdory těmto opatřením zůstávají ochránci bezpečnosti dětí opatrní. Josh Golin, výkonný ředitel neziskové organizace Fairplay, vidí v oznámeních reakci jak na hrozící zákony, tak na obavy rodičů. Navrhuje, že akce Mety jsou zaměřeny především na prevenci přísnějších předpisů a uklidnění ustaraných rodičů, spíše než na skutečný závazek k bezpečnosti dětí.
Tato oznámení se týkají dvou věcí: zabránění legislativě, kterou Meta nechce vidět, a ujištění rodičů, kteří jsou oprávněně znepokojeni tím, co se děje na Instagramu.
Závěrem lze říci, že nové nástroje rodičovské kontroly Meta jsou pokusem vyřešit rostoucí obavy z dopadu umělé inteligence a sociálních médií na duševní zdraví a bezpečnost teenagerů. I když tato opatření poskytují rodičům větší kontrolu, zůstávají otázky ohledně účinnosti těchto změn a zda dostatečně chrání zranitelné mladé uživatele. Dlouhodobé důsledky tohoto vývoje se teprve uvidí a k zajištění dobrých životních podmínek dětí online je zapotřebí neustálá ostražitost a prosazování.
