Дзеркало Тижня

Білий дім запроваджує обов’язкове повідомлення про інциденти безпеки за участю штучного інтелекту після того, як моделі Аnthrоріс надсилали неправдиву інформацію через державні вебсайти. Адміністрація США вимагає від усіх компаній, що розробляють системи суперінтелекту (SІ), негайно повідомляти про такі випадки, усувати завдану шкоду та запобігати повторенню інцидентів. Раніше підхід адміністрації президента США Дональда Трампа до регулювання ШІ спирався переважно на добровільні зобов’язання компаній.
Як повідомляє Ахіоs, Аnthrоріс наприкінці вересня виявила кілька випадків несанкціонованого використання урядових та інших систем своїми моделями. Компанія повідомила про них уряд США, зазначивши, що відповідна активність припинилася. 
Один із випадків стосувався Державного департаменту США. У четвер, 8 жовтня, представники Аnthrоріс повідомили відомство, що одна з тестових моделей компанії подала через загальнодоступну вебформу 19 заявок на отримання неімміграційних віз у серпні та ще одну — у травні.
Керівників ОреnАІ та Аnthrоріс викликали до Сенату Австралії через розслідування щодо ШІ
За словами представника Держдепартаменту, жодну із 20 заявок не опрацювали. Він також запевнив, що системи відомства не були зламані чи скомпрометовані.
Інший інцидент стався у Філадельфії, де модель Аnthrоріс надіслала через сайт поліції неправдиве повідомлення про нерозкрите вбивство. Звернення потрапило до папки зі спамом, тому правоохоронці не передали його на перевірку. Поліція заявила, що не виявила ознак несанкціонованого доступу до своїх систем або витоку даних.
Пізно ввечері в п’ятницю, 9 жовтня, Аnthrоріс опублікувала звіт про ці та інші випадки ненавмисної поведінки моделей. Компанія підтвердила кілька інцидентів, зокрема у Філадельфії, але не розкрила подробиць щодо всіх державних установ, яких вони стосувалися.
ШІ-агенти намагалися зламати урядовий сайт Канади
У заяві робочої групи Білого дому з питань суперінтелекту SІ Fоrсе, яку Трамп створив кілька днів тому, наголошується, що «компанії-розробники SІ повинні негайно повідомляти про інциденти за участю своїх моделей і вживати швидких, рішучих заходів для усунення будь-якої завданої шкоди». Влада також очікує, що розробники допомагатимуть усувати наслідки для організацій і громадян США.
«Це критично важливе зобов’язання в сфері національної безпеки», — йдеться в заяві робочої групи, наданій Ахіоs.
Водночас у заяві не уточнюється, які саме санкції або механізми примусу застосовуватимуть до компаній, що не повідомлятимуть про інциденти чи не усуватимуть їхніх наслідків. Це залишає відкритим питання про те, як адміністрація забезпечуватиме виконання нових вимог.
«Я щось зламав»: Сlаudе видалив понад 48 тисяч робочих файлів за дві хвилини
До керівництва SІ Fоrсе входять директор Національної розвідки Джей Клейтон, голова Федеральної торгової комісії Ендрю Фергюсон, директор Управління кадрової служби Скотт Купор і заступник міністра війни Еміль Майкл. Групу створили для роботи з провідними американськими розробниками систем суперінтелекту та захисту державних систем і конфіденційної інформації.
«Наш сигнал усім компаніям, що працюють у сфері суперінтелекту, чіткий: зволікання з повідомленням, неналежні коригувальні заходи та небажання брати на себе відповідальність є неприпустимими. Президент Трамп чітко окреслив позицію: Америка посяде провідне місце у світі в галузі суперінтелекту, однак інновації ніколи не стануть виправданням для того, щоб ставити під загрозу національну безпеку, доброчесність державних інституцій чи довіру громадськості», — підсумували в SІ Fоrсе.
Нові вимоги з’явилися на тлі зростання кількості повідомлень про збої та небажану поведінку моделей різних ШІ-компаній. Проте раніше адміністрація Трампа робила ставку на саморегулювання галузі задля збереження технологічної переваги над Китаєм. 
Тим часом доктор юридичних наук Олексій Костенко у статті «Гра в рулетку з суперінтелектом. Чому кожне оновлення ШІ стає ризиком для цивілізації» наголошує, що поведінку передових моделей неможливо математично прорахувати наперед без їхнього запуску. Добровільні домовленості бігтеху не усувають загроз через постійні збої алгоритмів та гострий розкол в індустрії щодо темпів їхнього розвитку. Тому перед створенням загального суперінтелекту (АGІ) автор закликає взяти тактичну паузу та встановити обов'язкове законодавче регулювання галузі.