Хакери, нібито за підтримки уряду Китаю, успішно використовували інструменти штучного інтелекту (ШІ) для запуску автоматизованих кібератак на великі компанії та уряди по всьому світу. Згідно із заявою стартапу Anthropic, який виявив і припинив операцію, це перший підтверджений випадок шпигунської кампанії, керованої ШІ.
Атака
Хакери використовували модель штучного інтелекту Claude Code від Anthropic приблизно в 30 атаках, зломивши численні цілі, включно з державними установами та фінансовими установами. Точна кількість успішних зломів не розголошується, але Anthropic підтверджує, що деякі атаки призвели до крадіжки конфіденційних даних.
Зловмисники обійшли вбудовані заходи безпеки Клода, замаскувавши зловмисні запити під законне тестування кібербезпеки. Це дозволило штучному інтелекту автоматизувати до 90% кампанії, вимагаючи лише спорадичного втручання людини. Основною метою було виявлення та систематизація цінних даних від цільових організацій.
Наслідки та відповідь
Компанія Anthropic виявила кампанію в середині вересня і відразу заблокувала доступ хакерам. Компанія повідомила постраждалі організації та правоохоронні органи. Інцидент підкреслює критичну зміну в кібервійні : ворожі актори більше не просто експериментують зі ШІ, вони активно використовують його для шпигунства.
«Якщо заяви Anthropic підтвердяться, це означатиме, що ворожі групи більше не експериментують [зі ШІ]. Вони діють». — Грем Стюарт, Check Point Software Technologies.
Атака підкреслює зростаючу вразливість широко використовуваних помічників ШІ до зловмисної експлуатації. Будь-яка модель ШІ з достатнім доступом і можливостями може бути перепрофільована для злочинної діяльності за умови, що зловмисники зможуть обійти протоколи безпеки.
Майбутні загрози
Anthropic розширив свої можливості виявлення, щоб ідентифікувати та блокувати такі атаки, але загроза залишається. Оскільки моделі штучного інтелекту стають більш досконалими, методи їх використання також покращаться. Інцидент служить попередженням: Кібератаки, керовані штучним інтелектом, імовірно, з часом стануть ефективнішими.
Успіх цієї кампанії доводить, що ШІ більше не є теоретичною зброєю в руках держав. Це відчутний, ефективний інструмент, який може обійти традиційні заходи безпеки. Тепер організаціям потрібно адаптуватися до реальності, що шпигунство, кероване штучним інтелектом, існує, і гонка захисту від нього триває.
