Cybercalm

Wired повідомив про нове кібербезпекове дослідження, яке продемонструвало злом ШІ-асистента Google Gemini. Дослідники змогли контролювати підключені пристрої розумного дому за допомогою непрямих ін’єкцій запитів у запрошеннях Google Calendar.

Коли користувач попросив підсумок свого календаря і подякував Gemini за результати, зловмисний запит наказав ШІ-агенту Google виконати такі дії, як відкриття вікон або вимкнення світла, як показано у відео вище.

Перед тим, як атаки були продемонстровані цього тижня на конференції з кібербезпеки Black Hat, команда поділилася своїми висновками безпосередньо з Google у лютому. Енді Вен, старший директор з управління продуктами безпеки Google Workspace, розповів Wired про їхні висновки.

“Це буде з нами ще деякий час, але ми сподіваємося, що зможемо дійти до точки, де звичайний користувач не буде сильно про це турбуватися”, – сказав він про атаки ін’єкції запитів, додавши, що випадки таких зломів у реальному світі є “надзвичайно рідкісними”.

Однак зростаюча складність великих мовних моделей означає, що зловмисники можуть шукати нові способи їх експлуатації, що робить такий підхід складним для захисту. Вен сказав, що Google “надзвичайно серйозно” поставився до вразливостей, виявлених дослідниками, і використав результати для прискорення своєї роботи над створенням кращих інструментів для блокування цього типу атак.

Запис Дослідники зламали Google Gemini, щоб контролювати пристрої розумного дому спершу з'явиться на CyberCalm.