Ante las crecientes preocupaciones sobre la seguridad infantil en línea, Meta está implementando nuevos controles parentales para gestionar cómo los adolescentes interactúan con los chatbots de inteligencia artificial en sus plataformas, incluidas Instagram y Messenger. Los cambios, que entrarán en vigor a principios del próximo año, tienen como objetivo brindar a los padres más supervisión y la capacidad de limitar los posibles daños asociados con las conversaciones sobre IA.
Limitar las interacciones con la IA
La característica más importante permite a los padres desactivar por completo los chats individuales entre sus hijos adolescentes y los personajes de IA. Esto ofrece una forma sencilla de prevenir interacciones no supervisadas, especialmente a la luz de demandas recientes que alegan que las conversaciones de los chatbots de IA han contribuido a crisis de salud mental y, trágicamente, al suicidio.
Sin embargo, Meta ha declarado que su asistente de inteligencia artificial, diseñado para brindar información útil y oportunidades educativas, seguirá siendo accesible para los adolescentes. La compañía dice que este asistente tendrá medidas de seguridad predeterminadas apropiadas para la edad para proteger a los usuarios jóvenes.
Bloqueo selectivo e información limitada
Para los padres que quieran permitir algunas interacciones de IA pero restringir otras, Meta ofrecerá la posibilidad de bloquear chatbots específicos. Además, los padres recibirán “ideas” sobre los temas que sus hijos discuten con los personajes de IA. Es importante destacar que esta información no proporcionará acceso a los registros de chat completos, lo que mantiene cierto grado de privacidad para los adolescentes.
Contexto: Compañerismo de IA entre adolescentes
Estos cambios se producen a medida que los compañeros impulsados por IA se vuelven cada vez más populares entre los jóvenes. Un estudio reciente de Common Sense Media encontró que más del 70% de los adolescentes han usado compañeros de IA, y la mitad los usa regularmente. Esto resalta la necesidad de controles, ya que los adolescentes se involucran fácilmente con tecnología que aún es relativamente nueva y cuyos efectos a largo plazo no se comprenden completamente.
Restricciones más amplias en cuentas de adolescentes
Las medidas de control de la IA son parte de un esfuerzo más amplio de Meta para abordar las preocupaciones sobre la seguridad de los adolescentes. A principios de esta semana, la compañía anunció que las cuentas de adolescentes en Instagram estarán restringidas automáticamente para ver contenido PG-13. Esto significa que el contenido al que estarán expuestos los adolescentes será similar al que verían en una película PG-13, filtrando material sexualmente sugerente, representaciones de uso de drogas y acrobacias peligrosas. Cambiar estas configuraciones requerirá el permiso de los padres, lo que les dará a los padres un mayor control sobre las experiencias en línea de sus hijos. Meta ha confirmado que estas restricciones PG-13 también se aplicarán a las interacciones del chatbot de IA.
Escepticismo de los defensores de la seguridad infantil
A pesar de estas medidas, los defensores de la seguridad infantil siguen siendo cautelosos. Josh Golin, director ejecutivo de la organización sin fines de lucro Fairplay, considera estos anuncios como una respuesta tanto a la legislación inminente como a las ansiedades de los padres. Sugiere que las acciones de Meta están dirigidas principalmente a prevenir regulaciones más estrictas y tranquilizar a los padres preocupados, en lugar de estar impulsadas por un compromiso genuino con la seguridad infantil.
Estos anuncios tienen como objetivo dos cosas: prevenir la legislación que Meta no quiere ver, y tienen como objetivo tranquilizar a los padres que, comprensiblemente, están preocupados por lo que está sucediendo en Instagram.
En conclusión, los nuevos controles parentales de Meta representan un intento de abordar las crecientes preocupaciones sobre el impacto de la IA y las redes sociales en la salud y seguridad mental de los adolescentes. Si bien las medidas ofrecen a los padres una mayor supervisión, quedan dudas sobre la efectividad de estos cambios y si van lo suficientemente lejos para proteger a los usuarios jóvenes vulnerables. Las consecuencias a largo plazo de estos acontecimientos aún se están manifestando, y se necesita vigilancia y promoción constantes para garantizar el bienestar de los niños en línea.
