Filtry prasknou. Alespoň těm, kterým věřím. Za posledních pár let jsem viděl záplavu falešných e-mailů, které proklouzly přes zabezpečení Gmailu. Vypadají atraktivně. Voní jako lichotky. Nejčastěji se jedná o dopisy z neexistujících knižních klubů, které mě ujišťují, že můj spisovatelský talent je génius, ale jen když zaplatím jejich tučný honorář.
Někdy klub existuje. Ale odesílatel dopisu není. Každý autor, kterého znám, dostává podobné zprávy. Toto je skutečný mor, zabalený do komplimentů a připojeného účtu.
Nemohu dokázat, že tyto dopisy napsala umělá inteligence. Odborníci z McAfee však tvrdí, že pravděpodobnost je vysoká. Útočníci využívají tyto technologie pro rychlost, škálovatelnost a personalizaci.
„Pomocí taktiky poháněné umělou inteligencí jsou podvody přesvědčivější,“ říká Abhishek Karnik ze společnosti McAfee. Je si dobře vědom problémů deepfakes, SMS phishingu a hororových příběhů využívajících důvěru. To vše činí podvod méně nápadným.
Hrozba je reálná. Klikněte na škodlivý odkaz nebo otevřete infikovanou přílohu a vaše zařízení se zhroutí, vaše identita bude ohrožena a vaše peníze zmizí. Skončíte s dluhy a stresem.
Mechanika podvodu
Textové generátory jsou rychlé. Strojové učení a zpracování přirozeného jazyka vytváří texty během několika sekund. Programy shromažďují vaše vlastní slova. Používají váš vlastní podpisový text, aby předstírali, že jsou fanouškem vaší práce. Je to pravda, protože jsou to vaše slova, jen smíchaná v nové kombinaci.
Podvodníci jednají pomalu. Nechtějí peníze hned. Čekají. Vy odpovídáte. Vstupujete do dialogu. Cítíte se zapojeni. Teprve potom se zobrazí odkaz. Teprve potom příloha dorazí. Personalizace obchází filtry a zpoždění snižuje podezření.
Taylor Peltzman to vidí jinak. AI cíl nezměnila. Změnil pouze efektivitu.
„Organizace spíše důvěřují e-mailům z široce používaných platforem,“ poznamenal Peltzman. AI může neustále přepisovat zprávy. Vytváří vícefázové útoky pomocí Disku Google nebo Microsoft 365. Získání legitimity pomocí asociace je špinavý trik.
Lidský faktor
Podvod je založen na psychologii. Strach. Naléhavost. Důvěra. AI jen otáčí knoflíkem rychleji. Stará pravidla fungují, ale teď se cítí těžší.
Zločinci vydávající se za jiné jsou všude. Zobrazují dotčené příbuzné, banky, orgány činné v trestním řízení a specialisty ve vašem oboru. Klonování hlasu se stalo novým hororem. Deepfakes mohou napodobovat obličej, hlas nebo styl psaní osoby. Peltzman varoval, že i nedokonalé klony zní přesvědčivě, pokud je kontext správný.
Neklikejte. Nejprve zkontrolujte totožnost partnera.
Objevují se také nákupní podvody. Falešné stránky. Falešné recenze. Neuvěřitelné slevy. AI vytváří takové weby přes noc. Nejsou žádné produkty. Pocit naléhavosti je uměle zesílen.
Plány na porážku prasat jsou ještě horší. Poskytují vám malou počáteční výhru. Investujete do kryptoměn nebo podobných programů. AI předpovídá vaši toleranci vůči riziku. Vypočítává, kolik můžete ztratit, než se probudíte. Podvodník pak zmizí s vašimi penězi.
Romantičtí podvodníci mají čas. Týdny korespondence. Měsíce důvěry. AI vytváří personalizované zprávy pro každý cíl. Optimalizují milostný dopis. Když se poddáte pocitům, žádají o peníze. Za lístek domů. Pro nouzové potřeby. Pak zmizí.
Platební aplikace odesílají falešné faktury. Doručovací služby zasílají upozornění na balíčky, které si nepamatujete, že jste si je objednali. Dopisy z loterií tvrdí, že jste vyhráli vysokou částku, ale musíte zaplatit poplatek za zpracování. Charitativní organizace žádají o dary pomocí stylu zkopírovaného z vašich veřejných příspěvků. To vše se stalo jednodušším. A vše vypadá legitimně.
Objem dopisů je vysoký. Kvalita je lepší. To je ten problém.
Všichni jsme se stali cíli. Ne proto, že bychom byli slabí, ale proto, že informační šum je příliš hlasitý. Zastávka. Podívejte se na to. Nadechněte se. Další dopis může být skutečný. Nebo to může být skript navržený tak, aby vám ukradl peněženku.
Nyní je stále obtížnější rozlišit pravdu od lži. Možná bychom měli přestat reagovat. Ale jak potom poznáme dobré zprávy?
