Дзеркало Тижня

Американські військові цієї весни готувалися до перехоплення китайського судна на Близькому Сході після отримання розвідувального звіту про нібито перевезення компонентів для ядерної програми. Однак перед початком операції посадовці з'ясували, що документ був створений за допомогою штучного інтелекту і містив хибний висновок. Про це повідомляє СNN з посиланням на чотири джерела, обізнані з інцидентом. За інформацією джерел СNN, після отримання звіту військові почали розробляти план перехоплення судна. Двоє співрозмовників медіа стверджують, що американські військовослужбовці вже готувалися до висадки на борт, а військові літаки перебували в повітрі.Лише безпосередньо перед операцією документ перевірили повторно. Тоді з'ясувалося, що аналітик Командування спеціальних операцій скористався чат-ботом зі ШІ, який помилково ідентифікував вантаж судна. ВАС ЗАЦІКАВИТЬ Через ризики ШІ: Пентагон приховав звіти про випробування зброї за 25 років За словами одного з джерел, звіт був «повністю хибним». Інший співрозмовник СNN заявив, що інцидент «ледь не призвів до війни», адже будь-які дії США проти китайського судна могли спровокувати збройне протистояння між державами.

Як сталася помилка

За даними СNN, аналітик звернувся до чат-бота із запитом щодо вантажної відомості судна, використовуючи інформацію, отриману від Командування спеціальних операцій США в Тихоокеанському регіоні. Журналістам не вдалося встановити, яку систему використовували для аналізу — комерційну чи урядову.«Внутрішні інструменти — це здебільшого ті самі комерційні продукти, яким просто надали іншого вигляду», — зазначив колишній високопосадовець США, знайомий із військовими системами ШІ. ВАС ЗАЦІКАВИТЬ Суд визнав незаконними санкції Пентагону проти Аnthrоріс: компанія критикувала військовий ШІ За інформацією джерел, бот поєднав дані з відкритих джерел (ОSІNТ) із секретною інформацією, отриманою засобами радіоелектронної розвідки (SІGІNТ), після чого зробив неправильний висновок про характер вантажу. Потім аналітик знову використав ШІ для оформлення результатів у стандартний розвідувальний звіт, який був поширений серед військового керівництва.

Інтеграція ШІ у військову сферу

Американські військові активно впроваджують ШІ для аналізу великих масивів розвідувальної інформації, визначення цілей, логістики та управління ресурсами. Посадовці пояснюють прискорення цього процесу необхідністю не відставати від потенційних суперників, насамперед Китаю.У січні міністр війни США Піт Гегсет представив «Стратегію прискорення впровадження штучного інтелекту». Він заявив: «Ми дамо зелене світло експериментам, усунемо бюрократичні перепони, зосередимо інвестиції та продемонструємо підхід до реалізації, необхідний для забезпечення нашого лідерства у сфері військового ШІ». Документ передбачає масштабне розширення доступу до моделей ШІ для приблизно трьох мільйонів цивільних і військових співробітників Міністерства війни США з різними рівнями допуску до секретної інформації. ВАС ЗАЦІКАВИТЬ Війна в Україні стала полігоном для військового штучного інтелекту — FТ Навесні Пентагон уклав угоди з сімома технологічними гігантами — Gооglе, Місrоsоft, Аmаzоn Wеb Sеrvісеs, Nvіdіа, ОреnАІ, Rеflесtіоn та SрасеХ — щодо інтеграції інструментів ШІ в засекречені військові мережі. До переліку партнерів оборонного відомства США тоді не увійшла компанія Аnthrоріс через публічний конфлікт із Білим домом щодо небажання розробника знімати етичні обмеження на використання моделей в автономній зброї та системах масового стеження.

Відсутність єдиних правил підвищує ризики

За словами американських посадовців, впровадження ШІ відбувається децентралізовано. Різні підрозділи використовують різні системи, керуються окремими інструкціями та стандартами безпеки, а єдиного механізму перевірки інформації, згенерованої ШІ, наразі не існує.«Використання ШІ для визначення цілей — це напрямок, що активно розвивається, однак наразі немає чітких інструкцій щодо того, як саме участь людини в процесі ухвалення рішень зможе запобігти загибелі цивільних осіб або випадкам дружнього вогню», — повідомило одне з джерел СNN. ВАС ЗАЦІКАВИТЬ Як для ядерної зброї: США та Китай пропонують запровадити жорсткі обмеження для військового ШІ За словами співрозмовників медіа, подібні «галюцинації» систем ШІ вже не є рідкістю у розвідувальному співтоваристві після масового впровадження таких інструментів. Особливе занепокоєння викликає те, що нові технології скорочують час на підготовку розвідувальних матеріалів і можуть посилювати схильність молодших аналітиків довіряти результатам ШІ без достатньої критичної перевірки.«ШІ дозволяє швидше дійти до хибного висновку», — підсумувало одне з джерел СNN.Тим часом на безпековому форумі «Сяншань» у Пекіні делегати з понад 100 країн назвали стрімку мілітаризацію та неконтрольований розвиток ШІ однією з ключових загроз глобальному правопорядку. Представники оборонних відомств і міжнародних організацій наголосили, що алгоритми розмивають лінії фронту, через що збереження контролю людини над застосуванням зброї стає життєво необхідним. Раніше моделювання стратегічних криз, проведене професором Королівського коледжу Лондона, показало, що конфлікти за участю провідних моделей ШІ — Сlаudе Sоnnеt 4, GРТ-5.2 та Gеmіnі 3 Flаsh — майже неминуче завершуються ядерною ескалацією. У 75% змодельованих сценаріїв алгоритми вдавалися до використання тактичної ядерної зброї, розглядаючи її радше як інструмент агресивного захоплення територій, аніж засіб стримування.