Enfrentando preocupações crescentes sobre a segurança infantil online, a Meta está lançando novos controles parentais para gerenciar como os adolescentes interagem com chatbots de IA em suas plataformas, incluindo Instagram e Messenger. As mudanças, previstas para entrar em vigor no início do próximo ano, visam dar aos pais mais supervisão e a capacidade de limitar potenciais danos associados às conversas com IA.
Limitando interações de IA
O recurso mais significativo permite que os pais desativem completamente os bate-papos individuais entre seus filhos adolescentes e personagens de IA. Isto oferece uma forma simples de evitar interações não supervisionadas, especialmente à luz dos recentes processos judiciais que alegam que as conversas do chatbot com IA contribuíram para crises de saúde mental e, tragicamente, para o suicídio.
No entanto, a Meta afirmou que o seu assistente de IA – concebido para fornecer informações úteis e oportunidades educacionais – permanecerá acessível aos adolescentes. A empresa afirma que este assistente terá proteções padrão adequadas à idade para proteger os usuários jovens.
Bloqueio seletivo e insights limitados
Para pais que desejam permitir algumas interações de IA, mas restringir outras, o Meta oferecerá a capacidade de bloquear chatbots específicos. Além disso, os pais receberão “insights” sobre os tópicos que seus filhos estão discutindo com personagens de IA. É importante ressaltar que esses insights não fornecerão acesso aos registros completos do bate-papo, mantendo um certo grau de privacidade para os adolescentes.
Contexto: Companheirismo de IA entre adolescentes
Essas mudanças ocorrem à medida que os companheiros alimentados por IA se tornam cada vez mais populares entre os jovens. Um estudo recente da Common Sense Media descobriu que mais de 70% dos adolescentes usaram companheiros de IA, e metade os usou regularmente. Isto realça a necessidade de controlos, uma vez que os adolescentes estão prontamente envolvidos com tecnologias que ainda são relativamente novas e cujos efeitos a longo prazo não são totalmente compreendidos.
Restrições mais amplas para contas de adolescentes
As medidas de controle de IA fazem parte de um esforço mais amplo da Meta para abordar as preocupações sobre a segurança dos adolescentes. No início desta semana, a empresa anunciou que contas de adolescentes no Instagram serão automaticamente restritas a ver conteúdo para menores de 13 anos. Isso significa que o conteúdo ao qual os adolescentes são expostos será semelhante ao que veriam em um filme para maiores de 13 anos, filtrando material sexualmente sugestivo, representações de uso de drogas e acrobacias perigosas. A alteração dessas configurações exigirá permissão dos pais, dando aos pais maior controle sobre as experiências on-line de seus filhos. Meta confirmou que essas restrições PG-13 também se aplicarão às interações do chatbot de IA.
Ceticismo dos defensores da segurança infantil
Apesar destas medidas, os defensores da segurança infantil permanecem cautelosos. Josh Golin, diretor executivo da organização sem fins lucrativos Fairplay, vê esses anúncios como uma resposta tanto à legislação iminente quanto às ansiedades dos pais. Ele sugere que as ações da Meta visam principalmente evitar regulamentações mais rígidas e tranquilizar os pais preocupados, em vez de serem motivadas por um compromisso genuíno com a segurança infantil.
Esses anúncios tratam de duas coisas: prevenir uma legislação que Meta não quer ver e tranquilizar os pais que estão compreensivelmente preocupados com o que está acontecendo no Instagram.
Em conclusão, os novos controlos parentais da Meta representam uma tentativa de abordar as preocupações crescentes sobre o impacto da IA e das redes sociais na saúde e segurança mental dos adolescentes. Embora as medidas ofereçam aos pais uma maior supervisão, permanecem questões sobre a eficácia destas mudanças e se vão suficientemente longe para proteger os jovens utilizadores vulneráveis. As consequências a longo prazo destes desenvolvimentos ainda estão a revelar-se e são necessárias vigilância e defesa contínuas para garantir o bem-estar das crianças online.
