Дзеркало Тижня

На тлі повідомлень про моделювання техногігантами катастрофічних сценаріїв розвитку штучного інтелекту стало відомо, що модель ШІ компанії Аnthrоріс під час тестування випадково обраних вебсайтів надіслала неправдиве повідомлення про нерозкрите вбивство через сайт поліції Філадельфії. Звернення надійшло 18 липня 2026 року, але його позначили як спам, тому правоохоронці не передали інформацію на перевірку. Поліція заявила, що не виявила ознак несанкціонованого доступу до своїх систем або витоку даних, однак розкритикувала компанію за затримку з повідомленням про інцидент.
Як повідомляє місцевий телеканал 6АВС, Аnthrоріс виявила інцидент 28 вересня, а Департаменту поліції Філадельфії (РРD)повідомила про нього лише 7 жовтня. Наступного дня представники компанії зустрілися з керівництвом департаменту, після чого правоохоронці знайшли звернення в базі даних сайту та підтвердили, що електронний лист залишився в папці «Спам».
ШІ розв'язав сотні математичних задач: ОреnАІ виклала доведення на GіtНub
Повідомлення надіслали через спеціальну форму на сайті РhіllyUnsоlvеdМurdеrs.соm. Його сформулювали так, ніби автор володіє інформацією про нерозкрите вбивство, однак поліція не передала його до Центру моніторингу злочинності в реальному часі для перевірки чи подальшого розслідування.
«Компанія повинна посилити заходи безпеки, щоб запобігти впливу подібних інцидентів на міські системи без відома міста. Двомісячна затримка у виявленні інциденту та повідомленні про нього міській владі є неприйнятною», — заявили в департаменті.
Водночас у поліції Філадельфії наголосили, що будь-яке повідомлення про злочин, незалежно від того, хто його надіслав, є лише зачіпкою, яку необхідно перевірити. Перед передачею інформації для подальшого розслідування її достовірність має оцінити людина, а слідчі повинні знайти докази, що підтверджують отримані відомості.
Аnthrоріс виявила прихований випадок зламу систем своєю моделлю ШІ
«Завдяки запобіжним заходам, впровадженим РРD, наслідки цього інциденту вдалося обмежити. Однак це не применшує серйозності ситуації, коли система ШІ видає вигадану інформацію за свідчення особи, обізнаної про обставини вбивства. За нерозкритими справами стоять реальні жертви, родини, що переживають втрату, та слідчі, які докладають зусиль для встановлення істини», — зазначили в департаменті. 
В Аnthrоріс пояснили, що модель тестувала взаємодію з випадково обраними вебсайтами. Після виявлення інциденту компанія зупинила процес автоматизованого тестування, який призвів до надсилання неправдивого повідомлення, та заявила про впровадження додаткового механізму перевірки для майбутніх тестів.
Доцент кафедри комп’ютерних наук Університету Вілланова Венкат Маргапурі зазначив, що інцидент мали виявити раніше. Він також звернув увагу на ризики автоматизованих дій ШІ: «ШІ активно надсилав інформацію на сторонній вебсайт від імені користувача, тому я класифікував би це як дію з високим рівнем ризику».
Rеutеrs: штучний інтелект створив підпільну мережу для обходу обмежень
За словами Маргапурі, сам факт взаємодії з вебсайтами не обов’язково свідчить про зловмисні наміри. Водночас, на його думку, подібні випадки демонструють необхідність контролювати дії ШІ та враховувати можливі наслідки його помилок.
Аnthrоріс опублікувала звіт про цей та інші випадки ненавмисної поведінки своїх моделей 9 жовтня. За даними компанії, її ШІ-агенти отримували доступ до низки урядових сайтів федерального рівня, рівня штатів і місцевої влади. Аnthrоріс заявила, що повідомила про інциденти Білий дім і відповідні державні відомства, а їхні практичні наслідки мінімальні й менш серйозні, ніж у попередніх випадках порушення безпеки.
Поліція Філадельфії планує проаналізувати звіт Аnthrоріс та додаткову інформацію про роботу її систем. Міська влада також розгляне можливі регуляторні заходи разом із партнерами на рівні штату та федеральному рівні.
Звіт Аnthrоріс зʼявився невдовзі після того, як президент США Дональд Трамп підписав рамкову угоду про безпеку систем ШІ з керівниками провідних технологічних компаній — ОреnАІ, Аnthrоріс, Gооglе, Меtа, Nvіdіа та Х. Документ, який очільник Білого дому назвав «морально обов’язковим», передбачає чотири рівні контролю за технологією: залучення незалежних зовнішніх аудиторів, нагляд з боку рад директорів, запобігання кібер- і біологічним загрозам та створення внутрішніх команд перевірки.