Дзеркало Тижня

Невдовзі після заяви Раlіsаdе Rеsеаrсh щодо того, що штучний інтелект може автономно зламувати системи та самовідновлюватися, дослідники з Університету Торонто продемонстрували прототип комп’ютерного хробака на основі ШІ, який може самостійно поширюватися мережею та адаптуватися до нових цілей. Науковці попереджають, що розвиток відкритих ШІ-моделей може суттєво змінити ландшафт кіберзагроз, передає Тhе Nеw Yоrk Тіmеs. 
Команда на чолі з професором комп’ютерної інженерії Ніколасом Папернотом описала створення прототипу ШІ-хробака, який зміг самостійно поширитися тестовою мережею без участі людини. Особливістю нової розробки стала можливість адаптувати спосіб атаки залежно від системи, яку вона намагається зламати. За словами дослідників, програма може аналізувати ситуацію та фактично “міркувати” над тим, який метод проникнення буде найефективнішим для конкретного пристрою.
“Ви повинні мати ідеально безпечну систему, щоб захиститися від цього — і ми знаємо, що наразі це нездійсненно”, — заявив Папернот.

ВАС ЗАЦІКАВИТЬ





Ризик самовдосконалення систем: Аnthrоріс пропонує запровадити міжнародний контроль над ШІ



Професор зазначив, що експеримент проводився в ізольованому середовищі. Частину технічних деталей автори свідомо не оприлюднили, щоб запобігти можливому використанню розробки кіберзлочинцями.
Дослідники порівнюють свою розробку з відомими комп’ютерними хробаками минулих десятиліть, зокрема SQL Slаmmеr, Соnfісkеr, Stuхnеt та WаnnаСry. Однак якщо класичні хробаки використовували одну конкретну вразливість, новий підхід дозволяє динамічно підлаштовуватися під різні слабкі місця програмного забезпечення.
За словами авторів роботи, це суттєво ускладнює захист від подібних атак. Якщо традиційно достатньо було встановити виправлення для конкретної вразливості, то адаптивний ШІ-хробак потенційно здатний знаходити інші шляхи проникнення.
Прототип може працювати на комп’ютерах з операційними системами Wіndоws та Lіnuх. Хоча для виконання складних обчислень йому потрібні більш потужні машини, він також здатний атакувати менш продуктивні пристрої в межах тієї ж мережі, включаючи ноутбуки, принтери та камери спостереження.

ВАС ЗАЦІКАВИТЬ





ШІ допоміг обійти захист Аррlе: дослідники знайшли критичні вразливості МасОS



На думку дослідників, появу такої загрози прискорює розвиток відкритих моделей штучного інтелекту. Якщо раніше вважалося, що відкриті ШІ-системи недостатньо потужні для автономних кібератак, то останні досягнення у цій сфері ставлять це припущення під сумнів.
При цьому автори не розкривають, яку саме відкриту модель використовували для створення прототипу. Вони лише зазначають, що доопрацювали її для виконання більш складних завдань, пов’язаних з пошуком та експлуатацією вразливостей.
Не всі експерти вважають загрозу неминучою. Генеральний директор компанії Іrrеgulаr Ден Лагав зазначив, що сучасні системи штучного інтелекту все ще припускаються помилок і поводяться непередбачувано.
“Зазвичай існує значний розрив між тим, що можна створити в лабораторії, і тим, що реально завдає значної шкоди у світі”, — наголосив Лагав.

ВАС ЗАЦІКАВИТЬ





Хакери використовують ШІ для зламу комп’ютерів: Gооglе заявила про перший випадок



Водночас він погодився, що розвиток ШІ змушує компанії приділяти більше уваги кібербезпеці та оперативному усуненню вразливостей. За його словами, ШІ може використовуватися не лише для атак, а й для пошуку слабких місць у програмному забезпеченні.
Таку думку поділяє і професор комп’ютерних наук Девід Лі, який ознайомився з дослідженням. Він зазначив, що технологію можна адаптувати для автоматичного виправлення знайдених вразливостей.
“Можна модифікувати хробака так, щоб він виправляв знайдені вразливості. Сила технології залежить від того, як її використовують”, — підкреслив Лі.
Нагадаємо, що в квітні компанія Аnthrоріс надала доступ до свого інструменту кібербезпеки Сlаudе Мythоs лише 50 організаціями, через те, що можливості ШІ можуть використовувати не лише для захисту, а й для миттєвого зламу комп'ютерних мереж. Через деякий час про аналогічні обмеження щодо своєї подібної системи заявила і компанія ОреnАІ, яка спершу поділилася розробкою з сотнями організацій, а згодом розширила випуск на тисячі партнерів.