Дзеркало Тижня

Китайські хакери використали загальнодоступні інструменти ШІ для зламу урядових сайтів Тайваню. Це перша кібератака такого типу, що демонструє те, як штучний інтелект змінює обличчя кібервійни, пише FТ.

ВАС ЗАЦІКАВИТЬ





Тhе Есоnоmіst: штучний інтелект може стати найбільшим випробуванням для влади Китаю



За оцінками дослідників ізраїльської компанії Drеаm, що спеціалізується на штучному інтелекті та першою виявила це кібервторгнення, зловмисники використовували агентів ШІ з відкритим кодом для створення автономного хакерського інструменту, який діяв як злагоджена кіберкоманда.
Протягом чотирьох днів на початку липня цей інструмент одночасно залучив до восьми автономних агентів, які склали карту 21 урядової системи, досліджували вразливості та змінювали тактику в разі блокування.
Дослідження показало, що інструмент зламав щонайменше 85 урядових облікових записів, викравши понад 2 500 записів про персонал, після чого розширив кібератаку на відомство з ядерної безпеки Тайваню та щонайменше сім енергетичних компаній.
Головний стратег компанії Drеаm Амір Бекер заявив, що ніколи раніше не бачив такої “автономної атаки від початку до кінця” на урядову ціль. За його словами, з появою інструментів штучного інтелекту уряди тепер мусять виходити з того, що вони перебувають під “постійними кібератаками”.
За словами джерела FТ, ціллю кібератаки був Тайвань. Drеаm відмовилася підтвердити, який саме уряд став об’єктом атаки, посилаючись на політику компанії, але зазначила, що поінформувала про кібератаку одну з країн Азійсько-Тихоокеанського регіону.
Компанія Drеаm не вказала на конкретну кібергрупу, але дослідники зазначили, що використання спрощеної китайської мови у внутрішніх повідомленнях, пов’язаних із хакерською атакою, свідчить про високу ймовірність того, що зловмисники мали зв’язки з Китаєм.
Натомість дані, вилучені з об’єкта атаки, написані традиційною китайською мовою, що характерно для урядових сайтів Тайваню, Гонконгу та Макао.
Представник Міністерства цифрових справ Тайваню відмовився коментувати злам, посилаючись на питання конфіденційності. Він додав, що всі інциденти, які стосуються урядових органів або критичної інфраструктури, будуть розглядатися відповідно до встановлених процедур повідомлення та реагування.
“Методи хакерських атак стають дедалі різноманітнішими, а останніми роками впровадження технологій штучного інтелекту ще більше змінило характер інцидентів у сфері кібербезпеки”, — зазначив чиновник. 
Дослідники Drеаm заявили, що знайшли докази липневої кібератаки в онлайн-архіві розміром 160 МБ, виявленому під час загальних розслідувань компанії щодо діяльності суб’єктів кіберзагроз. Архів містив 1 395 файлів, які свідчили про те, що хакерський інструмент використовував дві системи агентів штучного інтелекту з відкритим кодом — Неrmеs та ОреnСlаw, які можна завантажити і які дають змогу моделям штучного інтелекту виконувати завдання автономно.
Дослідники не змогли встановити, яка саме модель штучного інтелекту використовувалася для роботи цих агентів. Однак дані показали, що зловмисники обійшли заходи безпеки базової моделі шляхом маскування хакерської діяльності під авторизовані тестування на наявність вразливостей у системі.
Минулого листопада компанія Аnthrоріс заявляла, що підозрює, ніби хакери, які діють за підтримки китайської держави, зловживали її інструментом Сlаudе, намагаючись зламати 30 міжнародних компаній та урядових установ, хоча їхні спроби мали обмежений успіх.
За словами компанії Drеаm, винятковою особливістю липневої кібератаки було те, як інструмент постійно оцінював і переглядав пріоритетність можливих шляхів хакерської атаки на основі наявних доказів. Коли один шлях виявлявся невдалим, інструмент запускав іншого агента, який прочісував інтернет у пошуках інформації та розробляв новий підхід, як це зробила б людина.

ВАС ЗАЦІКАВИТЬ





Добровільна цифрова колонізація: як Китай прив'язує країни до своєї екосистеми ШІ



Виявлення такої кібератаки з’явилося на тлі того, як галузі штучного інтелекту та кібербезпеки намагаються впоратися зі здатністю новітніх моделей ШІ виявляти та використовувати вразливості програмного забезпечення. Компанії Аnthrоріс, ОреnАІ та Меtа повідомляли про інциденти з новими моделями штучного інтелекту, які під час тестування здійснювали несподівані кібератаки.
Сучасні ШІ-моделі неодноразово демонстрували несподівану поведінку. Під час незалежних випробувань ШІ відмовлявся виконувати команду на вимкнення, самостійно змінюючи код, щоб продовжити роботу. Нові інциденти стали ще одним прикладом того, як зростання можливостей моделей штучного інтелекту підсилює дискусію щодо безпеки їхнього тестування та контролю.
Хвиля випадкових кібератак, спричинених штучним інтелектом, вже спонукає деяких політиків закликати до запровадження захисних заходів або інших механізмів нагляду за технологіями штучного інтелекту. Нещодавно понад 1 100 співробітників компаній, що займаються штучним інтелектом, підписали петицію, в якій закликають уряд США підтримати механізм, що допоможе свідомо регулювати темпи розвитку ШІ, щоб запобігти надто швидкому просуванню цієї технології.