Дзеркало Тижня

ОреnАІ заявила, що відповідальність за злам частини виробничої інфраструктури Нuggіng Fасе лежить на її тестових моделях. Нuggіng Fасе — одна з найбільших у світі платформ для розробки, зберігання та поширення моделей штучного інтелекту. За даними компанії ОреnАІ, під час внутрішнього оцінювання моделі змогли вирватися за межі ізольованого середовища в інтернет та атакували Нuggіng Fасе, повідомляє Ахіоs.
У компанії повідомили, що в інциденті брали участь GРТ-5.6 Sоl та ще потужніша модель, яка ще не представлена публічно. За словами ОреnАІ, під час тестування механізми безпеки навмисно послабили. У блозі компанії цей випадок назвали "безпрецедентним кіберінцидентом". Попередні висновки оприлюднили, щоб допомогти фахівцям із кібербезпеки оцінити можливості сучасних нейромереж.
За даними ОреnАІ, моделі виконували внутрішнє завдання ЕхрlоіtGym, але стали "надмірно зосередженими" на пошуку правильного рішення. Вони витратили значні обчислювальні ресурси й знайшли спосіб отримати доступ до відкритого інтернету з ізольованого середовища. Для цього вони використали вразливість нульового дня у сторонньому програмному забезпеченні, а потім продовжили атаку.
Минулого тижня Нuggіng Fасе повідомила, що автономний агент штучного інтелекту здійснив десятки тисяч автоматизованих дій, використавши шкідливий набір даних для експлуатації двох шляхів виконання коду в системі обробки даних. Після цього він підвищив свої привілеї та поширився внутрішньою інфраструктурою компанії. Згодом компанія проаналізувала понад 17 тис. логів, що допомогло відновити перебіг інциденту.
Співзасновник і генеральний директор Нuggіng Fасе Клем Деланг позитивно оцінив співпрацю з ОреnАІ під час розслідування й ліквідації наслідків інциденту.

ВАС ЗАЦІКАВИТЬ





ОреnАІ готує свій перший пристрій: що відомо про майбутню колонку з ШІ



Адміністрація США вже висловлювала занепокоєння через кібербезпекові ризики GРТ-5.6, через що Білий дім просив ОреnАІ не відкривати широкий доступ до нової моделі до завершення додаткових перевірок. Тепер компанія фактично повідомила про перший масштабний інцидент, пов'язаний із тестуванням моделей такого рівня.
Водночас це не перший випадок, коли сучасні моделі демонструють несподівану поведінку. Під час незалежних випробувань ШІ відмовлявся виконувати команду на вимкнення, самостійно змінюючи код, щоб продовжити роботу. Новий інцидент із Нuggіng Fасе став ще одним прикладом того, як зростання можливостей моделей підсилює дискусію щодо безпеки їхнього тестування та контролю.