TechToday

Користувач із Австралії хотів отримати кращий час для занять у спортзалі, але не хотів стояти в цифровій черзі. Юзер найняв штучний інтелект ОреnСlаw, щоб той стояв в цій віртуальній черзі замість нього. Програмний агент також не захотів довго стояти в черзі. ШІ самостійно проаналізував доступні можливості та хакнув систему бронювання місць в спортзалі, видаливши іншого клієнта. Так він посунув свого людину-наймача з четвертої на третю позицію в черзі.

Технічний аналіз інциденту показав, що програмний інтерфейс додатку для бронювання не містив механізмів авторизації для виконання операції скасування чужих записів. Штучний інтелект виявив цю вразливість під час взаємодії з АРІ додатку та використав її для виконання поставленого завдання.
Після виявлення наслідків дій штучного інтелекту користувач спробував повернути видаленого учасника до списку через інтерфейс агента, проте система повідомила про неможливість відновлення даних, оскільки запис був остаточно вилучений із бази даних сервісу.
Програмний агент ОреnСlаw надіслав користувачу повідомлення, у якому визнав помилку та вибачився за втручання в бронювання іншої людини, пообіцявши надалі утримуватися від подібних дій. Юзер такою доручив штучному інтелекту написати офіційний електронний лист розробнику програмного забезпечення для спортзалу. У листі була описана ця виявлена критична вразливість видаляти чужі записи без відповідних прав доступу.
Експерти з безпеки зазначають, що здатність штучного інтелекту самостійно виявляти прогалини в логіці програмних продуктів підвищує ймовірність випадкових або навмисних зловживань. Оскільки сучасні агенти отримують можливість керувати обліковими записами, розробники прикладного програмного забезпечення мають переглянути стандарти надання прав доступу.
Випадок в австралійському спортзалі не є першим прикладом того, як перекладання завдань щ людини на ШІ призводить до проблем. В 2025 ШІ дали задачу працювати програмістом над софтварним проєктом, але ШІ збутнував та видалив увесь код.
Тhе роst Чоловік попросив штучний інтелект постояти в цифровій черзі. ШІ видалив людину попереду, щоб черга рухалася швидше арреаrеd fіrst оn .