Дзеркало Тижня

На тлі глобальної дискусії щодо безпеки штучного інтелекту керівники провідних компаній у цій сфері, зокрема Аnthrоріс та ОреnАІ, у приватному порядку опрацьовують сценарії суспільної та політичної кризи після катастрофічного інциденту, пов’язаного з ШІ. Найімовірнішим варіантом вони вважають масштабну кібератаку, яка може порушити доступ до фінансових послуг, інтернету, електроенергії або водопостачання. За даними Ахіоs, представники галузі очікують серйозної події протягом наступних шести-дванадцяти місяців.Перший випадок реальної шкоди, спричиненої небезпечним ШІ, може посилити недовіру суспільства до технології та її керівників. Під тиском можуть опинитися генеральний директор Аnthrоріс Даріо Амодеї, очільник ОреnАІ Сем Альтман і президент США Дональд Трамп через небажання посилювати регулювання галузі.

Моделювання колапсу

В ОреnАІ підтвердили, що проводять внутрішні навчання з готовності до потенційних криз. Представник компанії заявив: «Ці сценарії не розглядаються як неминучі; їхня мета — допомогти нам підготуватися до різноманітних обставин».Прискорення розвитку ШІ може зменшити екзистенційні ризики — автор «Суперінтелекту»За даними Ахіоs, планування передбачає роботу так званих червоних команд, які моделюють найгірші сценарії та шукають слабкі місця в системах. Однак головна увага керівників зосереджена на тому, як Конгрес США реагуватиме на кризу та які законодавчі рішення зможе ухвалити.Причиною катастрофи може стати як неконтрольований рій автономних ШІ-агентів під час внутрішнього тестування, так і зловмисник, який знайде несподіваний спосіб використати наявні моделі. У будь-якому разі компанії очікують пошуку винних і політичних вимог обмежити розвиток технології.

Прецедент

Можливі ризики вже демонструють атаки на фінансові установи Південної Кореї, зокрема повідомлення про злами двох банків. За наявними даними, хакер із Китаю використовував інструменти на основі китайських моделей ШІ, зокрема DеерSееk, для викрадення даних десятків тисяч банківських клієнтів. За даними компанії з кібербезпеки СrоwdStrіkе, зловмисник також застосовував Сlаudе Соdе, щоб знайти способи продажу викраденої інформації. Головна загроза ШІ вже не апокаліпсис, а хвиля кібератак — АхіоsВодночас протидія таким загрозам ускладнюється поширенням моделей із відкритими вагами, які можна вільно завантажувати та використовувати. Багато фахівців із кібербезпеки вважають, що ефективно протистояти зловмисному застосуванню ШІ можна лише за допомогою інших систем штучного інтелекту.

Економічна залежність

Ще однією проблемою є залежність світової економіки від інфраструктури ШІ. Різке уповільнення її розвитку може завдати значного удару по економіці, яка вже має вразливі місця, тому масштабні обмеження можуть мати серйозні економічні наслідки.

Політичний вплив

За оцінками фахівців зі стратегічного планування, після проміжних виборів, які зміцнять позиції демократів, партія може спробувати швидко обмежити розвиток ШІ. Однак навіть контроль над Палатою представників і Сенатом не гарантуватиме узгодженої політики, оскільки розбіжності існують і всередині самої Демократичної партії.Втрата контролю над ШІ призведе до вимирання людства: попередження ОреnАІ, Аnthrоріс і МеtаСеред найжорсткіших пропозицій демократів — заборона суперінтелекту та призупинення розробки передових систем ШІ. Інші ініціативи, зокрема обов’язкове вимкнення передового ШІ, мають двопартійну підтримку й підтримку частини представників галузі. Водночас експерти сумніваються, чи можливо на практиці відключити всі системи штучного інтелекту. Керівники технологічних компаній розуміють, що зараз ухвалення нових обмежень малоймовірне. Однак вони прагнуть впливати на формування законодавства та політики, до яких американські лідери звернуться після першої великої катастрофи, пов’язаної з ШІ. Попри партійні суперечності, масштабна криза може змусити Вашингтон діяти спільно. За інформацією Ахіоs, багато представників індустрії вважають, що значний інцидент може статися протягом наступних шести-дванадцяти місяців. Водночас Конгрес, якому складно встигати за стрімким розвитком технологій, може виявитися недостатньо підготовленим до оперативної та ефективної відповіді.