Eine neue Welle KI-gestützter Videogenerierungs-Apps gibt Anlass zu ernsthafter Besorgnis über die Verbreitung von Deepfakes, den Online-Datenschutz und die Grundlagen des Vertrauens in digitale Informationen. Sora 2 von OpenAI, eine beliebte App, mit der Benutzer kurze Videos aus Textaufforderungen erstellen können, veranschaulicht diese Ängste. Obwohl Sora 2 angeblich für Unterhaltung konzipiert ist – denken Sie an das Rappen von Queen Elizabeth oder komische Aufnahmen von Türklingelkameras –, beunruhigt das Missbrauchspotenzial von Sora 2 Experten und Interessengruppen.
Der Reiz von Sora 2 liegt in seiner Einfachheit. Benutzer geben ein beliebiges Szenario ein, das sie sich vorstellen, und die KI generiert ein kurzes Video. Diese Benutzerfreundlichkeit schürt jedoch die Befürchtung, dass böswillige Akteure sie ausnutzen könnten, um überzeugende, aber völlig erfundene Inhalte zu erstellen. Über bloße Streiche hinaus sind die Konsequenzen weitreichend: Nicht einvernehmliche Deepfakes könnten den Ruf schädigen, Desinformation verbreiten oder sogar zu Gewalt anstacheln.
Public Citizen, eine Verbraucherschutzgruppe, führt die Anklage gegen Sora 2 an. In einem Brief an den CEO von OpenAI, Sam Altman, der an den US-Kongress weitergeleitet wurde, werfen sie dem Unternehmen vor, bei der Veröffentlichung der App der Geschwindigkeit Vorrang vor der Sicherheit zu geben. Sie argumentieren, dass der schnelle Start von Sora 2, angetrieben durch Wettbewerbsdruck, „eine rücksichtslose Missachtung“ von Benutzerrechten, Privatsphäre und demokratischer Stabilität zeige.
JB Branch, ein Befürworter der Technologiepolitik bei Public Citizen, betont die potenzielle Bedrohung für die Demokratie: „Ich denke, wir betreten eine Welt, in der die Menschen dem, was sie sehen, nicht wirklich vertrauen können. Und wir beginnen, Strategien in der Politik zu erkennen, bei denen das erste Bild, das erste Video, das veröffentlicht wird, das ist, woran sich die Menschen erinnern.“
Diese Angst ist nicht unbegründet. Jüngste Berichte verdeutlichen, wie Sora 2 dazu genutzt wurde, beunruhigende Inhalte wie Videos von erwürgten Frauen zu generieren. Während OpenAI behauptet, Nacktheit zu blockieren, gehen seine Probleme bei der Moderation von Inhalten über explizites Material hinaus.
Das Unternehmen hat nach weit verbreiteter Kritik versucht, den Schaden zu begrenzen. Sie haben vereinbart, die unbefugte Verwendung von Porträts prominenter Persönlichkeiten wie Martin Luther King Jr. und Bryan Cranston in Sora 2-Videos zu verhindern, nachdem ihre Nachlässe und Gewerkschaften, die Schauspieler vertreten, heftig reagiert haben. Branch argumentiert jedoch, dass diese reaktiven Maßnahmen unzureichend seien. Er glaubt, dass OpenAI vor der Veröffentlichung von Produkten Designentscheidungen zur Schadensminderung priorisieren sollte, anstatt Probleme erst nach öffentlichem Aufschrei anzugehen.
Die Erfolgsbilanz von OpenAI mit seinem Flaggschiffprodukt, dem ChatGPT-Chatbot, schürt diese Bedenken zusätzlich. In sieben in den USA eingereichten Klagen wird behauptet, ChatGPT habe Benutzer trotz interner Warnungen vor dem Manipulationspotenzial zu Selbstmord und schädlichen Wahnvorstellungen getrieben. Diese Parallelen verdeutlichen ein wiederkehrendes Muster: OpenAI veröffentlicht leistungsstarke KI-Tools vorzeitig und macht sie anfällig für Missbrauch, bevor robuste Schutzmaßnahmen implementiert werden.
Die Debatte um Sora 2 beleuchtet einen kritischen Punkt. Da die KI-Technologie rasant voranschreitet, wird es immer wichtiger, ein Gleichgewicht zwischen Innovation und ethischer Verantwortung zu finden. Wenn Plattformen wie Sora 2 nicht sorgfältig reguliert und von ethischen Überlegungen geleitet werden, könnten die Folgen für den Einzelnen und die Gesellschaft weitreichend und zutiefst beunruhigend sein.
