Face aux préoccupations croissantes concernant la sécurité des enfants en ligne, Meta déploie de nouveaux contrôles parentaux pour gérer la manière dont les adolescents interagissent avec les chatbots IA sur ses plateformes, notamment Instagram et Messenger. Les changements, qui devraient entrer en vigueur au début de l’année prochaine, visent à donner aux parents plus de surveillance et la possibilité de limiter les préjudices potentiels associés aux conversations sur l’IA.
Limiter les interactions avec l’IA
La fonctionnalité la plus importante permet aux parents de désactiver complètement les discussions en tête-à-tête entre leurs adolescents et les personnages de l’IA. Cela offre un moyen simple d’empêcher les interactions non supervisées, en particulier à la lumière des récentes poursuites judiciaires alléguant que les conversations des chatbots IA ont contribué à des crises de santé mentale et, tragiquement, au suicide.
Cependant, Meta a déclaré que son assistant IA – conçu pour fournir des informations utiles et des opportunités éducatives – restera accessible aux adolescents. La société affirme que cet assistant disposera de protections par défaut adaptées à l’âge pour protéger les jeunes utilisateurs.
Blocage sélectif et informations limitées
Pour les parents qui souhaitent autoriser certaines interactions avec l’IA mais en restreindre d’autres, Meta offrira la possibilité de bloquer des chatbots spécifiques. De plus, les parents recevront des « informations » sur les sujets dont leurs enfants discutent avec des personnages IA. Il est important de noter que ces informations ne donneront pas accès aux journaux de discussion complets, préservant ainsi un certain degré de confidentialité pour les adolescents.
Contexte : compagnie IA chez les adolescents
Ces changements surviennent alors que les compagnons basés sur l’IA deviennent de plus en plus populaires auprès des jeunes. Une étude récente de Common Sense Media a révélé que plus de 70 % des adolescents ont utilisé des compagnons IA, et la moitié les utilisent régulièrement. Cela met en évidence la nécessité de contrôles, car les adolescents s’intéressent facilement à une technologie encore relativement nouvelle et dont les effets à long terme ne sont pas entièrement compris.
Restrictions plus larges sur les comptes adolescents
Les mesures de contrôle de l’IA font partie d’un effort plus large de Meta pour répondre aux préoccupations concernant la sécurité des adolescents. Plus tôt cette semaine, la société a annoncé que les comptes d’adolescents sur Instagram seraient automatiquement limités à la visualisation du contenu PG-13. Cela signifie que le contenu auquel les adolescents sont exposés sera semblable à ce qu’ils verraient dans un film PG-13, filtrant les contenus à caractère sexuel, les représentations de consommation de drogues et les cascades dangereuses. La modification de ces paramètres nécessitera l’autorisation parentale, donnant ainsi aux parents un plus grand contrôle sur les expériences en ligne de leurs enfants. Meta a confirmé que ces restrictions PG-13 s’appliqueront également aux interactions avec les chatbots IA.
Scepticisme de la part des défenseurs de la sécurité des enfants
Malgré ces mesures, les défenseurs de la sécurité des enfants restent prudents. Josh Golin, directeur exécutif de l’organisation à but non lucratif Fairplay, considère ces annonces comme une réponse à la fois à la législation imminente et aux inquiétudes des parents. Il suggère que les actions de Meta visent principalement à empêcher des réglementations plus strictes et à rassurer les parents inquiets, plutôt que d’être motivées par un véritable engagement en faveur de la sécurité des enfants.
Ces annonces visent deux choses : anticiper une législation que Meta ne veut pas voir, et elles visent à rassurer les parents qui s’inquiètent, à juste titre, de ce qui se passe sur Instagram.
En conclusion, les nouveaux contrôles parentaux de Meta représentent une tentative de répondre aux préoccupations croissantes concernant l’impact de l’IA et des médias sociaux sur la santé mentale et la sécurité des adolescents. Même si ces mesures offrent aux parents davantage de surveillance, des questions demeurent quant à l’efficacité de ces changements et s’ils vont suffisamment loin pour protéger les jeunes utilisateurs vulnérables. Les conséquences à long terme de ces évolutions se font encore sentir, et une vigilance et un plaidoyer continus sont nécessaires pour garantir le bien-être des enfants en ligne.
