Een nieuwe golf van door AI aangedreven apps voor het genereren van video’s roept ernstige zorgen op over de verspreiding van deepfakes, online privacy en de fundamenten van het vertrouwen in digitale informatie. OpenAI’s Sora 2, een populaire app waarmee gebruikers korte video’s kunnen maken van tekstprompts, is een voorbeeld van deze angsten. Hoewel het ogenschijnlijk is ontworpen voor entertainment – denk aan het rappen van koningin Elizabeth of komische camerabeelden van de deurbel – is het potentieel voor misbruik van Sora 2 alarmerend voor experts en belangengroepen.
De aantrekkingskracht van Sora 2 ligt in zijn eenvoud. Gebruikers typen elk scenario dat ze zich voorstellen, en de AI genereert een korte video. Dit gebruiksgemak voedt echter de angst dat kwaadwillende actoren het kunnen misbruiken om overtuigende maar volledig verzonnen inhoud te creëren. Naast louter grappen zijn de gevolgen diepgaand: deepfakes zonder wederzijds goedvinden kunnen de reputatie schaden, desinformatie verspreiden of zelfs aanzetten tot geweld.
Public Citizen, een consumentenwaakhondgroep, leidt de aanklacht tegen Sora 2. In een brief gericht aan Sam Altman, CEO van OpenAI en doorgestuurd naar het Amerikaanse Congres, beschuldigen zij het bedrijf ervan prioriteit te geven aan snelheid boven veiligheid bij het uitbrengen van de app. Ze beweren dat de snelle lancering van Sora 2, gedreven door concurrentiedruk, blijk geeft van ‘een roekeloze minachting’ voor gebruikersrechten, privacy en democratische stabiliteit.
JB Branch, voorstander van technologiebeleid bij Public Citizen, benadrukt de potentiële bedreiging voor de democratie: “Ik denk dat we een wereld betreden waarin mensen niet echt kunnen vertrouwen op wat ze zien. En we beginnen strategieën in de politiek te zien waarbij het eerste beeld, de eerste video die wordt vrijgegeven, is wat mensen zich herinneren.”
Deze angst is niet ongegrond. Recente rapporten benadrukken hoe Sora 2 is gebruikt om verontrustende inhoud te genereren, zoals video’s van vrouwen die worden gewurgd. Hoewel OpenAI beweert naaktheid te blokkeren, reikt de strijd tegen inhoudsmoderatie verder dan expliciet materiaal.
Het bedrijf heeft geprobeerd de schade onder controle te houden na veel kritiek. Ze zijn overeengekomen om het ongeoorloofde gebruik van gelijkenissen van prominente figuren als Martin Luther King Jr. en Bryan Cranston in Sora 2-video’s te voorkomen na verzet van hun landgoederen en vakbonden die acteurs vertegenwoordigen. Branch stelt echter dat deze reactieve maatregelen tekortschieten. Hij is van mening dat OpenAI prioriteit moet geven aan ontwerpkeuzes die de schade beperken voordat producten worden uitgebracht, in plaats van problemen pas aan te pakken na publieke verontwaardiging.
De staat van dienst van OpenAI met zijn vlaggenschipproduct, de ChatGPT-chatbot, voedt deze zorgen nog meer. Zeven rechtszaken die in de VS zijn aangespannen beweren dat ChatGPT gebruikers tot zelfmoord en schadelijke waanvoorstellingen heeft aangezet, ondanks interne waarschuwingen over het potentieel voor manipulatie. Deze parallellen benadrukken een terugkerend patroon: OpenAI brengt krachtige AI-tools voortijdig uit, waardoor ze kwetsbaar worden voor misbruik voordat er robuuste waarborgen zijn geïmplementeerd.
Het debat rond Sora 2 belicht een kritiek moment. Nu de AI-technologie zich razendsnel ontwikkelt, wordt het vinden van een evenwicht tussen innovatie en ethische verantwoordelijkheid steeds belangrijker. Als platforms als Sora 2 niet zorgvuldig worden gereguleerd en niet worden geleid door ethische overwegingen, kunnen de gevolgen voor individuen en de samenleving verstrekkend en zeer verontrustend zijn.
