Дзеркало Тижня

Компанія Аnthrоріс попередила, що невеликі моделі штучного інтелекту можуть уже найближчими місяцями навчитися самостійно копіюватися на підключені до інтернету пристрої без доступу до дата-центрів. Такі системи потенційно зможуть поширюватися мережею, використовуючи вразливості побутової техніки та недорогих гаджетів. За прогнозом дослідників безпеки, якщо можливості моделей розвиватимуться нинішніми темпами, повністю автономна реплікація може стати можливою до кінця 2026 року.У дослідженні, опублікованому 12 жовтня, дослідники Аnthrоріс Вільям Чжоу та Деніел Фрімен вивчали, чи здатні моделі знаходити вразливі пристрої, отримувати можливість виконувати на них код, запускати власні обчислення та продовжувати поширення без участі людини. Вони виявили, що моделі з менш ніж 30 млрд параметрів уже можуть виконувати багато окремих етапів цього процесу, хоча їм усе ще складно послідовно пройти весь цикл самостійно.

Загроза для  ІоТ

У кібербезпеці програми, які копіюють себе на інші комп’ютери без участі користувача, називають мережевими хробаками. На відміну від традиційного шкідливого програмного забезпечення, ШІ-хробак потенційно зможе самостійно розпізнавати незнайоме обладнання, налаштовувати роботу моделі на ньому та пристосовуватися до різних умов.Яким буде штучний інтелект через 50 років?Аnthrоріс зосередилася на пристроях інтернету речей (Іntеrnеt оf Тhіngs, ІоТ), зокрема бюджетних Аndrоіd ТV-приставках, розумній побутовій техніці, камерах спостереження та інших підключених до мережі гаджетах. Такі пристрої можуть бути привабливими цілями через відносно слабкий захист, а їхня сукупна обчислювальна потужність потенційно дозволяє запускати моделі ШІ без дорогих серверів.

Експеримент із 15 пристроями

Щоб перевірити цю можливість, дослідники запустили модель Gеmmа4-26В-А4В від Gооglе DеррМіnd, розподіливши її між 15 недорогими Аndrоіd ТV-приставками невідомих брендів. Кожен пристрій коштував приблизно $55, а швидкість спільної роботи моделі становила 0,39 токена на секунду.Цей експеримент продемонстрував, що бюджетні пристрої можна об’єднати для запуску моделі, яка не працює на одному з них у такому самому вигляді. Водночас сам запуск моделі на кількох приставках не доводить, що вона здатна автономно зламувати пристрої та поширюватися між ними.Лише п’ять тисяч людей у світі знають справжню силу ШІ — співзасновник ОреnАІДослідники також перевіряли, чи можуть невеликі моделі налаштовувати обчислення на незнайомому обладнанні. За результатами випробувань, модель із 9 млрд параметрів змогла виконувати інференс — генерувати відповіді на основі навчання — на восьми з дев’яти протестованих типів апаратного забезпечення.

Як працює поширення і чому мережу важко знешкодити

У дослідженні процес реплікації розділили на чотири етапи: 

пошук потенційних цілей;отримання можливості виконувати код;налаштування інференсу;продовження поширення з нового пристрою. 

Аnthrоріс приділила особливу увагу третьому етапу, оскільки попередні дослідження вже демонстрували, що невеликі моделі за наявності відповідних інструментів можуть виконувати окремі операції, необхідні для кібератак.Гра в рулетку з суперінтелектом. Чому кожне оновлення ШІ стає ризиком для цивілізаціїУ спрощених тестах, у яких дослідники прибрали частину захисних обмежень, китайська модель GLМ-5.2 та потужніші моделі змогли виконати повний цикл реплікації. За прогнозом Аnthrоріс, якщо темпи вдосконалення невеликих моделей збережуться, вони можуть набути таких можливостей до кінця 2026 року, а невдовзі можуть з’явитися компактні реплікатори, які використовуватимуть ваги моделей для роботи на нових пристроях.Ваги моделі — це числові параметри, що визначають її роботу. У сценарії, який досліджує Аnthrоріс, вони фактично стають частиною шкідливого програмного забезпечення: після отримання доступу до нового пристрою система копіює або завантажує необхідні дані, запускає модель і використовує її для подальшого поширення.Дослідники описали й інші потенційні сценарії. Зокрема, більші моделі могли б намагатися отримати доступ до обчислювальних ресурсів дата-центрів, тоді як системи з відкритими вагами могли б поширюватися без зовнішнього нагляду; ще один варіант передбачає викрадення облікових даних для доступу до АРІ, через який запускається модель.Прискорення розвитку ШІ може зменшити екзистенційні ризики — автор «Суперінтелекту»У майбутньому такі атаки можуть використовувати кілька моделей і різні типи обладнання одночасно. Наприклад, одні компоненти рою шукатимуть вразливі пристрої, інші забезпечуватимуть запуск моделі, а наступні продовжуватимуть поширення мережею.Зупинити подібну систему може бути складніше, ніж звичайну централізовану програму, оскільки в неї не обов’язково буде єдина точка вимкнення. Аnthrоріс також застерігає, що поширення може відбуватися повільно — з подвоєнням кількості заражених пристроїв упродовж кількох днів, — але охоплювати різні типи обладнання, зокрема обчислювальні системи дата-центрів. Зрештою компанія наголошує на необхідності посилити захист підключених до інтернету пристроїв, щоб ускладнити їхнє використання для запуску та поширення автономних агентів. Минулого місяця Аnthrоріс вперше оприлюднила внутрішні показники автоматизації, згідно з якими модель Сlаudе самостійно виконує основну частину роботи вже у 26% завдань із дослідження та створення майбутніх поколінь штучного інтелекту проти лише 1% у березні. Дослідницький процес забезпечує флот із 30 тисяч ШІ-агентів, дії яких щомісяця фільтрує дворівнева система моніторингу, здатна автоматично блокувати небезпечні операції на кшталт спроб викрадення ваг моделей. Водночас видання Тhе Есоnоmіst назвало «точкою неповернення» момент, коли ШІ отримає здатність до рекурсивного самовдосконалення — самостійного проєктування досконаліших наступних поколінь моделей без участі людини. Попри те, що окремі системи вже генерують понад 80% коду та успішно оптимізують власні алгоритми навчання, повну автономію технології наразі стримують дефіцит обчислювальних потужностей дата-центрів і брак якісних даних поза сферами програмування й математики.