Фильтры ломаются. По крайней мере те, которым я доверяю. Последние пару лет я наблюдаю, как поток поддельных писем просачивается через защиту Gmail. Они выглядят привлекательно. Они пахнут лестью. Чаще всего это письма от несуществующих книжных клубов, которые уверяют, что мой писательский талант гениален, но лишь при условии уплаты их немалой платы.
Иногда клуб существует. А вот отправитель письма — нет. Такие сообщения получают все авторы, которых я знаю. Это настоящая чума, завёрнутая в комплименты и приложенный счёт.
Я не могу доказать, что эти письма написал искусственный интеллект. Однако эксперты из McAfee утверждают, что вероятность этого высока. Злоумышленники используют эти технологии для скорости, масштабируемости и персонализации.
«Использование тактик на базе ИИ делает мошенничество более убедительным», — говорит Абишек Карник из McAfee. Он хорошо знает о проблемах глубоких подделок (deepfakes), смшинга (SMS-фишинга) и «страшилок», эксплуатирующих доверие. Всё это делает обман менее заметным.
Угроза реальна. Кликните по вредоносной ссылке или откройте заражённый вложение — ваши устройства выйдут из строя, личность будет скомпрометирована, деньги исчезнут. В итоге вы останетесь с долгом и стрессом.
Механика обмана
Генераторы текста работают быстро. Машинное обучение и обработка естественного языка создают тексты за секунды. Программы собирают ваши же слова. Они используют ваш собственный текст-визитку, чтобы притвориться поклонником вашего творчества. Это ощущается как правда, потому что это ваши слова, просто перемешанные в новой комбинации.
Мошенники действуют медленно. Они не требуют денег сразу. Они ждут. Вы отвечаете. Вы вступаете в диалог. Вы чувствуете свою вовлечённость. Только тогда появляется ссылка. Только тогда прилетает вложение. Персонализация обходит фильтры, а задержка снижает подозрения.
Тейлор Пельцман смотрит на это иначе. ИИ не изменил цель. Он изменил лишь эффективность.
«Организации с большей вероятностью доверяют письмам от широко используемых платформ», — отметил Пельцман. ИИ может постоянно переписывать сообщения. Он создаёт многоэтапные атаки, используя Google Drive или Microsoft 365. Придание легитимности за счёт ассоциации — грязный трюк.
Человеческий фактор
Мошенничество опирается на психологию. Страх. Срочность. Доверие. ИИ просто крутит ручку быстрее. Старые правила работают, но теперь они ощущаются тяжелее.
Преступники, выдающие себя за других, повсюду. Они изображают обеспокоенных родственников, банки, правоохранительные органы, узких специалистов в вашей области. Новым ужасом стало клонирование голоса. Deepfakes могут имитировать лицо, голос или стиль письма. Пельцман предупредил, что даже несовершенные клоны звучат убедительно, если контекст подходит.
Не кликайте. Сначала проверьте личность собеседника.
Появляются и мошеннические схемы в сфере покупок. Фейковые сайты. Ложные отзывы. Невероятные скидки. ИИ создаёт такие сайты за ночь. Товаров не существует. Чувство срочности искусственно нагнетается.
Схемы «разведения свиней» (pig butchering) ещё хуже. Они обеспечивают вам небольшой первоначальный выигрыш. Вы инвестируете в криптовалюту или похожие схемы. ИИ прогнозирует вашу толерантность к риску. Он рассчитывает, сколько вы можете потерять, прежде чем проснётесь. Затем мошенник исчезает с вашими деньгами.
У мошенников, специализирующихся на романтических связях, есть время. Недели переписки. Месяцы доверия. ИИ создаёт персонализированные сообщения для каждой цели. Они оптимизируют любовное письмо. Когда вы поддаетесь чувствам, они просят деньги. На билет домой. На экстренные нужды. Затем они исчезают.
Приложения для оплаты рассылают фальшивые счета. Службы доставки отправляют уведомления о посылках, заказ которых вы не помните. Письма от лотерей утверждают, что вы выиграли крупную сумму, но должны оплатить комиссию за обработку. Благотворительные организации просят пожертвования, используя стилистику, скопированную из ваших публичных постов. Всё это стало проще. И всё это выглядит легитимно.
Объём писем высок. Качество лучше. В этом и проблема.
Все мы стали целями. Не потому, что мы слабы, а потому что информационный шум слишком громкий. Остановитесь. Проверьте. Сделайте вдох. Следующее письмо может быть настоящим. А может быть скриптом, разработанным, чтобы украсть ваш кошелёк.
Теперь всё сложнее отличить правду от лжи. Возможно, нам стоит просто перестать отвечать. Но тогда как мы узнаем хорошие новости?
