Geconfronteerd met de groeiende zorgen over de veiligheid van kinderen online, introduceert Meta nieuw ouderlijk toezicht om te beheren hoe tieners omgaan met AI-chatbots op zijn platforms, waaronder Instagram en Messenger. De veranderingen, die begin volgend jaar van kracht worden, zijn bedoeld om ouders meer toezicht te geven en de mogelijkheid te bieden om de potentiële schade die gepaard gaat met AI-gesprekken te beperken.
AI-interacties beperken
De belangrijkste functie stelt ouders in staat één-op-één chats tussen hun tieners en AI-personages volledig uit te schakelen. Dit biedt een eenvoudige manier om interacties zonder toezicht te voorkomen, vooral in het licht van recente rechtszaken waarin wordt beweerd dat AI-chatbotgesprekken hebben bijgedragen aan crises op het gebied van de geestelijke gezondheidszorg en, tragisch genoeg, aan zelfmoord.
Meta heeft echter verklaard dat zijn AI-assistent – ontworpen om nuttige informatie en educatieve mogelijkheden te bieden – toegankelijk zal blijven voor tieners. Het bedrijf zegt dat deze assistent standaard leeftijdsadequate veiligheidsmaatregelen zal treffen om jonge gebruikers te beschermen.
Selectieve blokkering en beperkte inzichten
Voor ouders die bepaalde AI-interacties willen toestaan maar andere willen beperken, biedt Meta de mogelijkheid om specifieke chatbots te blokkeren. Bovendien krijgen ouders ‘inzichten’ in de onderwerpen die hun kinderen bespreken met AI-personages. Belangrijk is dat deze inzichten geen toegang bieden tot de volledige chatlogboeken, waardoor een zekere mate van privacy voor tieners behouden blijft.
Context: AI-gezelschap onder tieners
Deze veranderingen komen doordat AI-aangedreven metgezellen steeds populairder worden onder jongeren. Uit een recent onderzoek van Common Sense Media is gebleken dat meer dan 70% van de tieners AI-metgezellen heeft gebruikt, terwijl de helft deze regelmatig gebruikt. Dit benadrukt de noodzaak van controles, omdat tieners gemakkelijk in aanraking komen met technologie die nog relatief nieuw is en waarvan de langetermijneffecten nog niet volledig worden begrepen.
Bredere beperkingen voor tieneraccounts
De AI-controlemaatregelen maken deel uit van een bredere inspanning van Meta om de zorgen over de veiligheid van tieners weg te nemen. Eerder deze week kondigde het bedrijf aan dat tieneraccounts op Instagram automatisch worden beperkt tot het bekijken van PG-13-inhoud. Dit betekent dat de inhoud waaraan tieners worden blootgesteld vergelijkbaar zal zijn met wat ze in een PG-13-film zouden zien, waarbij seksueel suggestief materiaal, afbeeldingen van drugsgebruik en gevaarlijke stunts worden weggefilterd. Voor het wijzigen van deze instellingen is toestemming van de ouders vereist, waardoor ouders meer controle krijgen over de online ervaringen van hun kinderen. Meta heeft bevestigd dat deze PG-13-beperkingen ook van toepassing zullen zijn op AI-chatbot-interacties.
Scepsis van voorstanders van kinderveiligheid
Ondanks deze maatregelen blijven voorstanders van kinderveiligheid voorzichtig. Josh Golin, uitvoerend directeur van de non-profitorganisatie Fairplay, beschouwt deze aankondigingen als een reactie op zowel dreigende wetgeving als de zorgen van ouders. Hij suggereert dat de acties van Meta in de eerste plaats gericht zijn op het voorkomen van strengere regelgeving en het geruststellen van bezorgde ouders, in plaats van gedreven te worden door een oprechte toewijding aan de veiligheid van kinderen.
Deze aankondigingen gaan over twee dingen: het voorkomen van wetgeving die Meta niet wil zien, en ze gaan over het geruststellen van ouders die zich begrijpelijkerwijs zorgen maken over wat er op Instagram gebeurt.
Concluderend is het nieuwe ouderlijk toezicht van Meta een poging om de groeiende zorgen over de impact van AI en sociale media op de geestelijke gezondheid en veiligheid van tieners weg te nemen. Hoewel de maatregelen ouders meer toezicht bieden, blijven er vragen bestaan over de effectiviteit van deze veranderingen en of ze ver genoeg gaan om kwetsbare jonge gebruikers te beschermen. De langetermijngevolgen van deze ontwikkelingen zijn nog steeds zichtbaar, en voortdurende waakzaamheid en belangenbehartiging zijn nodig om het welzijn van kinderen online te garanderen.
