iTechua

ОреnАІ посилила захист інфраструктури, яку використовує для навчання найпотужніших моделей штучного інтелекту. Під час спеціальних випробувань ШІ-агенти виявили невідомі раніше вразливості, навчилися обходити ізоляцію та знаходити способи доступу до зовнішніх систем. У відповідь компанія обмежила доступ моделей до реального інтернету та впровадила додаткові механізми безпеки. Про це повідомляє ОреnАІ.
Під час тестування дослідники з’ясували, що сучасні моделі здатні знаходити помилки в налаштуваннях програмного забезпечення, виходити за межі захищених середовищ і взаємодіяти з іншими агентами всупереч установленим обмеженням. В одному з експериментів ШІ використав помилку в налаштуваннях DNS, щоб отримати обмежений доступ до реального інтернету.
Щоб перевірити надійність захисту, ОреnАІ організувала масштабне тестування за участю власних ШІ-моделей. Агентам доручили шукати способи обходу ізоляції, отримання несанкціонованого доступу до систем і передавання інформації між середовищами, які мали залишатися відокремленими. У результаті вдалося виявити вразливості у віртуальних машинах, мережевих налаштуваннях та окремих програмних компонентах.
Особливу увагу привернув спосіб обміну інформацією між ізольованими агентами без використання мережевого з’єднання. Для цього моделі використали особливості роботи кешу процесора, передаючи дані через різницю в часі доступу до пам’яті. ОреnАІ повідомила, що виявлені проблеми допомогли усунути, а системи моніторингу та автоматичного припинення небезпечних процесів додатково вдосконалили.
Компанія вважає, що навчання найпотужніших моделей без прямого доступу до інтернету залишається найбезпечнішим підходом. Натомість ШІ використовує спеціально підготовлене офлайн-середовище з кешованими вебсторінками та пошуковими індексами. Після посилення захисту ОреnАІ відновила навчання моделей із підкріпленням і внутрішні обчислення 1 жовтня, продовживши роботу над безпекою інфраструктури.
 
Запис ШІ навчився обходити захист ОреnАІ та передавати дані без інтернету спершу з'явиться на іТесhuа - Новини про смартфони, гаджети і різні девайси.