Bulletin of the Atomic Scientists posunul Hodiny soudného dne na 85 sekund do půlnoci – blíže než kdy předtím symbolické globální katastrofě. Zatímco jaderná eskalace a klimatická nečinnost zůstávají kritickými hrozbami, umělá inteligence (AI) je nyní hlavním akcelerátorem globálního rizika, narušuje důvěru v informace a zvyšuje mezinárodní napětí.
Prolomení důvěry ve věku umělé inteligence
Odborníci uvádějí roli umělé inteligence při urychlování dezinformací jako klíčový faktor při posunu Hodiny soudného dne kupředu. Generativní nástroje umělé inteligence nyní umožňují vytvářet vysoce přesvědčivé deepfakes a podvody v masivním měřítku, takže je stále obtížnější rozlišovat mezi pravdou a lží. Tato degradace informační integrity představuje zásadní hrozbu pro demokratické systémy a kolektivní akce.
„Informační integrita je matkou všech modelů, protože demokracii nelze postavit na nefunkčním operačním systému,“ varuje nositelka Nobelovy ceny za mír Maria Ressaová.
Následky jsou dalekosáhlé. Bez společného porozumění realitě je boj s existenčními hrozbami, jako je změna klimatu a šíření jaderných zbraní, exponenciálně obtížnější. Dezinformační kampaně poháněné umělou inteligencí mohou manipulovat veřejným míněním, zasévat nedůvěru v instituce a dokonce prohlubovat konflikty.
Závody ve zbrojení v AI: Nebezpečí nekontrolovaného rozvoje
Zrychlující se vývoj AI není jen dezinformací. Rostou obavy z závodů ve zbrojení v oblasti umělé inteligence, protože země a korporace soutěží o vybudování stále výkonnějších systémů bez odpovídajících bezpečnostních standardů. Tento závod o dominanci by mohl vést k vývoji autonomních zbraňových systémů, ekonomickému narušení a ztrátě lidské kontroly nad kritickými technologiemi.
Generální ředitel společnosti Anthropic Dario Amodei varuje, že lidstvu je předávána „téměř nepředstavitelná síla“, aniž by byla dostatečně vyspělá, aby ji mohla zodpovědně používat. Dokonce i Vatikán vyjádřil znepokojení a varoval, že AI ohrožuje základní lidskou komunikaci a myšlenkové procesy tím, že napodobuje vědomí a empatii.
Otočení hodin zpět: Výzva k akci
Navzdory ponuré předpovědi odborníci zdůrazňují, že hodiny soudného dne nejsou předpovědí nevyhnutelného, ale varováním. Hodiny jsou hrozbami způsobenými lidmi, což znamená, že je lze obrátit. Vědci, politici a veřejnost musí požadovat akci na třech frontách:
- Přesné informace: Hledejte spolehlivé zdroje a odolejte šíření dezinformací.
- Mezinárodní standardy: Vytvořte globální rámec pro bezpečnost AI a zabraňte závodům ve zbrojení.
- Politický tlak: Přimějte vedoucí k odpovědnosti za řešení změny klimatu, jaderných hrozeb a odpovědný vývoj umělé inteligence.
Hodiny soudného dne nakonec slouží jako jasná připomínka toho, že budoucnost není předem určena. Kolektivní akce a oddanost pravdě jsou zásadní pro předcházení nejhorším scénářům a otočení času směrem k udržitelnější a bezpečnější budoucnosti.
