Фільтри ламаються. Принаймні, ті, яким я довіряю. Останні кілька років я спостерігаю, як потік підроблених листів просочується через захист Gmail. Вони виглядають привабливо. Вони пахнуть лестощами. Найчастіше це листи від неіснуючих книжкових клубів, які запевняють, що мій письменницький талант є геніальним, але лише за умови сплати їхньої чималої плати.
Іноді клуб існує. А ось відправник листа – ні. Такі повідомлення отримують усі автори, яких я знаю. Це справжня чума, загорнута в компліменти та доданий рахунок.
Я не можу довести, що ці листи написав штучний інтелект. Проте експерти з McAfee стверджують, що ймовірність цього є високою. Зловмисники використовують ці технології для швидкості, масштабованості та персоналізації.
«Використання тактик на базі ІІ робить шахрайство більш переконливим», – каже Абішек Карнік із McAfee. Він добре знає про проблеми глибоких підробок (deepfakes), смшингу (SMS-фішингу) і «страшилок», що експлуатують довіру. Все це робить обман менш помітним.
Загроза є реальною. Клікніть за шкідливим посиланням або відкрийте заражений вкладення – ваші пристрої вийдуть з ладу, особистість буде скомпрометована, гроші зникнуть. У результаті ви залишитеся з боргом та стресом.
Механіка обману
Генератори тексту працюють швидко. Машинне навчання та обробка природної мови створюють тексти за секунди. Програми збирають ваші ж слова. Вони використовують ваш власний текст-візитку, щоб прикинутися шанувальником вашої творчості. Це відчувається як правда, тому що це ваші слова, просто перемішані в новій комбінації.
Шахраї діють повільно. Вони не вимагають грошей одразу. Вони чекають. Ви відповідаєте. Ви вступаєте у діалог. Ви відчуваєте свою залученість. Тільки тоді з’являється посилання. * Тільки тоді * прилітає вкладення. Персоналізація оминає фільтри, а затримка знижує підозри.
Тейлор Пельцман дивиться на це інакше. ІІ не змінив мету. Він змінив лише ефективність.
«Організації з більшою ймовірністю довіряють листам від платформ, що широко використовуються», — зазначив Пельцман. ІІ може постійно переписувати повідомлення. Він створює багатоетапні атаки, використовуючи Google Drive або Microsoft 365. Надання легітимності рахунок асоціації — брудний трюк.
Людський фактор
Шахрайство спирається на психологію. Страх. Терміновість. Довіра. ІІ просто крутить ручку швидше. Старі правила працюють, але тепер вони відчуваються важче.
Злочинці, які видають себе за інших, усюди. Вони зображують стурбованих родичів, банки, правоохоронні органи, вузьких спеціалістів у вашій галузі. Новим жахом стало клонування голосу. Deepfakes можуть імітувати обличчя, голос або стиль листа. Пельцман попередив, що навіть недосконалі клони звучать переконливо, якщо контекст підходить.
Чи не клікайте. Спочатку перевірте особу співрозмовника.
З’являються і шахрайські схеми у сфері покупок. Фейкові сайти. Помилкові відгуки. Неймовірні знижки. ІІ створює такі сайти за ніч. Товарів немає. Почуття терміновості штучно нагнітається.
Схеми «розведення свиней» (pig butchering) ще гірші. Вони надають вам невеликий початковий виграш. Ви інвестуєте у криптовалюту чи схожі схеми. ІІ прогнозує вашу толерантність до ризику. Він розраховує, скільки ви можете втратити, перш ніж прокинетеся. Потім шахрай зникає з грошима.
Шахраї, що спеціалізуються на романтичних зв’язках, мають час. Тижня листування. Місяці довіри. ІІ створює персоналізовані повідомлення кожної мети. Вони оптимізують любовний лист. Коли ви піддаєтеся почуттям, вони просять гроші. На квиток додому. На екстрені потреби. Потім вони зникають.
Програми для оплати розсилають фальшиві рахунки. Служби доставки надсилають повідомлення про посилки, замовлення яких ви не пам’ятаєте. Листи від лотерей стверджують, що ви виграли велику суму, але маєте сплатити комісію за обробку. Благодійні організації просять пожертвування, використовуючи стилістику, скопійовану з ваших публічних постів. Все це стало простіше. І все це легітимно.
Об’єм листів високий. Якість краща. У цьому проблема.
Усі ми стали цілями. Не тому, що ми слабкі, а тому, що інформаційний шум занадто гучний. Зупиніться. Перевірте. Зробіть вдих. Наступний лист може бути дійсним. А може бути скриптом, розробленим, щоб украсти ваш гаманець.
Тепер все важче відрізнити правду від брехні. Можливо нам варто просто перестати відповідати. Але тоді як ми дізнаємось про хороші новини?
