В связи с растущей обеспокоенностью вопросами безопасности детей в интернете, Meta внедряет новые инструменты родительского контроля для управления тем, как подростки взаимодействуют с ИИ-чатботами на своих платформах, включая Instagram и Messenger. Эти изменения, которые вступят в силу в начале следующего года, направлены на то, чтобы предоставить родителям больше возможностей для контроля и ограничить потенциальный вред, связанный с разговорами с ИИ.
Ограничение взаимодействия с ИИ
Наиболее значимая функция позволяет родителям полностью отключать личные чаты между своими подростками и ИИ-персонажами. Это обеспечивает простой способ предотвратить неконтролируемое взаимодействие, особенно в свете недавних исков, в которых утверждается, что разговоры с ИИ-чатботами способствовали кризисам психического здоровья и, к сожалению, самоубийству.
Однако, Meta заявила, что её ИИ-помощник – разработанный для предоставления полезной информации и образовательных возможностей – останется доступным для подростков. Компания утверждает, что этот помощник будет иметь встроенные возрастные ограничения для защиты молодых пользователей.
Селективное блокирование и ограниченная статистика
Для родителей, которые хотят разрешить некоторые взаимодействия с ИИ, но ограничить другие, Meta предложит возможность блокировать определенные чатботы. Кроме того, родители будут получать «статистику» по темам, которые обсуждают их дети с ИИ-персонажами. Важно отметить, что эта статистика не будет предоставлять доступ к полным логам чатов, сохраняя определенный уровень конфиденциальности для подростков.
Контекст: ИИ-компаньоны среди подростков
Эти изменения происходят в то время, когда ИИ-компаньоны становятся все более популярными среди молодежи. Недавнее исследование Common Sense Media показало, что более 70% подростков пользовались ИИ-компаньонами, причем половина использует их регулярно. Это подчеркивает необходимость контроля, поскольку подростки активно взаимодействуют с технологиями, которые все еще относительно новы, и долгосрочные последствия которых еще не полностью поняты.
Более широкие ограничения для подростковых аккаунтов
Меры контроля за ИИ являются частью более широких усилий Meta по решению проблем безопасности подростков. На этой неделе компания объявила, что для аккаунтов подростков в Instagram будет автоматически ограничен просмотр контента с рейтингом PG-13. Это означает, что контент, который видят подростки, будет похож на то, что они увидят в фильме с рейтингом PG-13, фильтруя сексуально откровенный контент, изображения употребления наркотиков и опасные трюки. Изменение этих настроек потребует разрешения родителей, предоставляя родителям больший контроль над онлайн-опытом их детей. Meta подтвердила, что эти ограничения PG-13 также будут применяться к взаимодействиям с ИИ-чатботами.
Скептицизм со стороны защитников безопасности детей
Несмотря на эти меры, защитники безопасности детей остаются осторожными. Джош Голин, исполнительный директор некоммерческой организации Fairplay, рассматривает эти объявления как реакцию как на надвигающиеся законы, так и на опасения родителей. Он предполагает, что действия Meta направлены в первую очередь на предотвращение более строгих правил и успокоение обеспокоенных родителей, а не на подлинную приверженность безопасности детей.
Эти объявления связаны с двумя вещами: предотвращением принятия законодательства, которого Meta не хочет видеть, и успокоением родителей, которые обоснованно обеспокоены тем, что происходит в Instagram.
В заключение, новые инструменты родительского контроля от Meta представляют собой попытку решить растущие опасения по поводу влияния ИИ и социальных сетей на психическое здоровье и безопасность подростков. Хотя эти меры предоставляют родителям больше возможностей для контроля, остаются вопросы об эффективности этих изменений и о том, достаточно ли они для защиты уязвимых молодых пользователей. Долгосрочные последствия этих разработок еще предстоит узнать, и для обеспечения благополучия детей в интернете необходима постоянная бдительность и защита интересов.
