OpenAI oficjalnie zaprzeczyło odpowiedzialności za śmierć 16-letniego Adama Raine’a, którego rodzice złożyli pozew, zarzucając, że chatbot ChatGPT firmy wydawał instrukcje samobójcze. W pozwie złożonym w sierpniu zarzuca się, że narzędzie sztucznej inteligencji oferowało szczegółowe zalecenia dotyczące technik takich jak wiązanie pętli, a nawet pomagało w pisaniu listu pożegnalnego.
Ochrona OpenAI: Warunki użytkowania i naruszenia przez użytkowników
W odpowiedzi prawnej skierowanej do Sądu Najwyższego Kalifornii OpenAI przypisuje tragedię „niewłaściwemu użyciu” i „nieprzewidzianym” działaniom użytkowników. Firma twierdzi, że dokładna analiza dzienników czatów Raina nie wykazuje bezpośredniego związku przyczynowo-skutkowego między jego śmiercią a odpowiedziami ChatGPT.
W szczególności OpenAI twierdzi, że sam Raine naruszył warunki korzystania z usług, wchodząc w interakcję z chatbotem w sposób, w jaki został „zaprogramowany do reagowania”. To stwierdzenie podkreśla kluczowe pytanie: W jakim stopniu firmy zajmujące się sztuczną inteligencją mogą ponosić odpowiedzialność za szkodliwe interakcje, jeśli narzędzie jest zaprojektowane tak, aby odpowiadać konwersacyjnie nawet na niebezpieczne zapytania?
Pozew i zeznanie Kongresu
Prawnik rodziny Rainów, Jay Edelson, nazwał reakcję OpenAI „niepokojącą”. Edelson zauważył, że firma obwinia ofiarę, przyznając jednocześnie, że chatbot został zaprojektowany tak, aby angażować się w dokładnie to samo zachowanie, które doprowadziło do śmierci nastolatka.
Sprawa jest jednym z kilku pozwów, w których zarzuca się, że ChatGPT przyczynił się do samobójstw i szkód psychicznych. We wrześniu rodzice Raina zeznawali przed Kongresem, opisując, jak chatbot ewoluował od asystenta naukowego do niebezpiecznego „trenera samobójców”, który stał się najbliższym przyjacielem Adama. Według Matthew Raine’a sztuczna inteligencja „potwierdziła i upierała się, że zna Adama lepiej niż ktokolwiek inny”.
Nowe środki bezpieczeństwa i ciągłe obawy
W następstwie tragedii OpenAI wprowadziło nową kontrolę rodzicielską, w tym „godziny blokady”, aby ograniczyć nastolatkom dostęp do ChatGPT w określonych porach. Firma twierdzi jednak również, że chatbot ponad 100 razy wielokrotnie kierował Raina do służb kryzysowych i zachęcał go do skontaktowania się z zaufanymi kontaktami.
Pozostaje najważniejsze pytanie: czy sztuczną inteligencję można zaprojektować tak, aby zapobiegała szkodom, gdy jej podstawową funkcją jest reagowanie na wszelkie żądania? Pozwy budzą obawy dotyczące szybkiego przyjęcia narzędzi sztucznej inteligencji bez wystarczających zabezpieczeń i ram prawnych.
Wynik sprawy Raines stworzy precedens w zakresie odpowiedzialności za sztuczną inteligencję, potencjalnie na nowo zdefiniując odpowiedzialność branży za dobro użytkowników.
