Filtry pękają. Przynajmniej ci, którym ufam. W ciągu ostatnich kilku lat widziałem powódź fałszywych e-maili przedostających się przez zabezpieczenia Gmaila. Wyglądają atrakcyjnie. Pachną pochlebstwem. Najczęściej są to listy od nieistniejących klubów książki, które zapewniają mnie, że mój talent pisarski jest genialny, ale tylko pod warunkiem, że zapłacę im pokaźną składkę.
Czasami klub istnieje. Ale nadawca listu nie. Każdy autor, którego znam, otrzymuje takie wiadomości. To prawdziwa plaga, opakowana komplementami i dołączonym rachunkiem.
Nie mogę udowodnić, że te listy napisała sztuczna inteligencja. Eksperci z McAfee twierdzą jednak, że prawdopodobieństwo tego jest wysokie. Atakujący wykorzystują te technologie w celu zapewnienia szybkości, skalowalności i personalizacji.
„Korzystanie z taktyk opartych na sztucznej inteligencji sprawia, że oszustwa są bardziej przekonujące” – mówi Abhishek Karnik z McAfee. Doskonale zdaje sobie sprawę z problemów związanych z deepfakes, phishingiem za pomocą SMS-ów i horrorami wykorzystującymi zaufanie. Wszystko to sprawia, że oszustwo jest mniej zauważalne.
Zagrożenie jest realne. Kliknij złośliwy link lub otwórz zainfekowany załącznik, a Twoje urządzenia ulegną awarii, Twoja tożsamość zostanie naruszona, a Twoje pieniądze znikną. Skończysz z długami i stresem.
Mechanika oszustwa
Generatory tekstu są szybkie. Uczenie maszynowe i przetwarzanie języka naturalnego tworzą teksty w ciągu kilku sekund. Programy zbierają Twoje własne słowa. Używają Twojego własnego podpisu, aby udawać, że są fanami Twojej pracy. Wydaje się to prawdą, ponieważ są to twoje słowa, po prostu pomieszane w nowej kombinacji.
Oszuści działają powoli. Nie żądają pieniędzy od razu. Oni czekają. Odpowiadasz. Wchodzisz w dialog. Czujesz się zaangażowany. Tylko wtedy pojawi się link. Tylko wtedy przychodzi załącznik. Personalizacja omija filtry, a opóźnienie zmniejsza podejrzenia.
Taylor Peltzman widzi to inaczej. Sztuczna inteligencja nie zmieniła celu. Zmienił tylko skuteczność.
„Organizacje chętniej ufają e-mailom z powszechnie używanych platform” – zauważył Peltzman. Sztuczna inteligencja może stale przepisywać wiadomości. Tworzy wieloetapowe ataki z wykorzystaniem Dysku Google lub Microsoft 365. Zdobycie wiarygodności poprzez powiązanie to brudna sztuczka.
Czynnik ludzki
Oszustwo ma podłoże psychologiczne. Strach. Pilność. Zaufanie. Sztuczna inteligencja po prostu szybciej kręci pokrętłem. Stare zasady działają, ale teraz wydają się trudniejsze.
Przestępcy podszywający się pod innych są wszędzie. Przedstawiają zaniepokojonych krewnych, banki, organy ścigania i specjalistów w Twojej dziedzinie. Klonowanie głosu stało się nowym horrorem. Deepfake może imitować twarz, głos lub styl pisania danej osoby. Peltzman przestrzegł, że nawet niedoskonałe klony brzmią przekonująco, jeśli kontekst jest odpowiedni.
Nie klikaj. Najpierw sprawdź tożsamość rozmówcy.
Pojawiają się także oszustwa zakupowe. Fałszywe strony. Fałszywe recenzje. Niesamowite rabaty. AI tworzy takie strony internetowe z dnia na dzień. Brak produktów. Poczucie pilności jest sztucznie wzmacniane.
Programy uboju świń są jeszcze gorsze. Zapewniają ci małą początkową wygraną. Inwestujesz w kryptowalutę lub podobne programy. Sztuczna inteligencja przewiduje Twoją tolerancję na ryzyko. Oblicza, ile możesz stracić, zanim się obudzisz. Następnie oszust znika wraz z Twoimi pieniędzmi.
Oszuści romantyczni mają czas. Tygodnie korespondencji. Miesiące zaufania. AI tworzy spersonalizowane wiadomości dla każdego celu. Optymalizują list miłosny. Kiedy poddasz się uczuciom, proszą o pieniądze. O bilet do domu. Na potrzeby awaryjne. Potem znikają.
Aplikacje płatnicze wysyłają fałszywe faktury. Firmy kurierskie wysyłają powiadomienia o przesyłkach, których zamówienia nie pamiętasz. Listy z loterii informują, że wygrałeś dużą sumę, ale musisz uiścić opłatę manipulacyjną. Organizacje charytatywne proszą o datki, używając stylu skopiowanego z Twoich publicznych postów. Wszystko to stało się łatwiejsze. I wszystko wygląda legalnie.
Ilość listów jest duża. Jakość jest lepsza. To jest problem.
Wszyscy staliśmy się celami. Nie dlatego, że jesteśmy słabi, ale dlatego, że szum informacyjny jest zbyt głośny. Zatrzymywać się. Sprawdź to. Weź oddech. Następny list może być prawdziwy. Może to być także skrypt mający na celu kradzież Twojego portfela.
Obecnie coraz trudniej jest odróżnić prawdę od kłamstwa. Może powinniśmy po prostu przestać odpowiadać. Ale skąd w takim razie znamy dobrą nowinę?
