Дзеркало Тижня

Філософ Нік Бостром, автор книги Suреrіntеllіgеnсе («Суперінтелект»), вважає, що безпечний розвиток надпотужного штучного інтелекту може знизити екзистенційні ризики для людства. На його думку, суперінтелект здатен прискорити медичні дослідження, допомогти подолати старіння та посилити захист від біологічних і кіберзагроз. Водночас, як зазначає Бостром в інтерв’ю МТS, потрібні короткі паузи для перевірки технологій, але застерігає, що тривале призупинення розробок може посилити концентрацію влади.У препринті Орtіmаl Тіmіng fоr Suреrіntеllіgеnсе («Оптимальний час появи суперінтелекту») Бостром розглядає, як темпи розвитку ШІ можуть вплинути на очікувану тривалість життя людей, які живуть сьогодні. Він наголошує, що дослідження охоплює лише один аспект ширшої проблеми, адже рішення про прискорення чи уповільнення розробок має враховувати також інтереси майбутніх поколінь, політичні наслідки та ризики концентрації влади.«Ця ж робота зосереджується виключно на питанні: що саме максимізувало б тривалість життя конкретної людини, яка живе сьогодні?» — пояснив філософ.Гра в рулетку з суперінтелектом. Чому кожне оновлення ШІ стає ризиком для цивілізації

Як суперінтелект може продовжити людське життя

Бостром припускає, що безпечно створений суперінтелект може забезпечити значний прорив у біомедицині, зокрема допомогти подолати старіння. За його оцінкою, якщо смертність людей вдасться знизити до рівня, характерного для 20-річних, тривалість життя потенційно може сягнути 1200–1400 років.«Потенційно можна піти значно далі — наприклад, якщо застосувати технологію завантаження свідомості разом із використанням резервних копій», — зазначив Бостром. Однак філософ не стверджує, що такі результати гарантовані. Він використовує цей сценарій, щоб пояснити, чому під час визначення темпів розвитку ШІ важливо порівнювати потенційну користь технології з ризиками, які вона створює.На думку Бострома, щоб вирішити, чи варто відкладати появу суперінтелекту, потрібно зіставити можливе зниження ризиків із втратами через очікування. Якщо затримка дозволить істотно підвищити безпеку, вона може бути виправданою, але за надто повільного зниження ризиків зволікання може коштувати людям років життя.Єдиний суперінтелект чи конкуренція моделей: експерт назвав два сценарії майбутнього ШІДля пояснення цієї дилеми філософ навів приклад людини з тяжкою хворобою, яка потребує операції. Втручання може підвищити ризик смерті в короткостроковій перспективі, але дати шанс на одужання, тоді як надто довге очікування кращих умов може призвести до смерті ще до операції.

Чому коротка пауза може бути корисною

Бостром вважає, що кілька додаткових тижнів або місяців можуть бути корисними, якщо дослідники вже знають, як створити суперінтелект, але потребують часу для ретельної перевірки системи. На ранньому етапі така затримка, за його оцінкою, може помітно знизити ризики.Водночас тривалі паузи складніше виправдати. Якщо ризики швидко знижуються, чекати роками немає потреби, а якщо прогрес у забезпеченні безпеки повільний, відкладення розробок може не дати достатньої користі, щоб компенсувати втрати від очікування.«Мені імпонує ідея регулювання темпів розвитку передових технологій ШІ: ми розвиваємо можливості зараз, щоб у разі виникнення тривожних сигналів мати змогу певний час рухатися повільніше», — заявив філософ.Автор теорії екзистенційної загрози ШІ пояснив, чому тепер вивчає наслідки успіху технологіїБостром скептично ставиться до закликів повністю зупинити розвиток ШІ. На його думку, навіть якщо правильно організована пауза могла б бути корисною, залишається відкритим питання про її тривалість і про те, чи не перетвориться тимчасове обмеження на постійне.

Безпечні технології потрібно розвивати першими

Бостром пропонує підхід, який називає «диференційованим технологічним розвитком». Його суть полягає в тому, щоб не просто розділяти технології на корисні та небезпечні, а впливати на послідовність їхньої появи.Як приклад філософ наводить біотехнології: вакцини, засоби профілактики та діагностики мають з’являтися раніше за біологічну зброю, навіть якщо ті самі наукові досягнення можуть уможливити створення обох. Подібний принцип, на його думку, варто застосовувати й до ШІ, спрямовуючи ресурси на медицину, біозахист, дослідження безпеки та зміцнення кіберінфраструктури.Філософ також звернув увагу на те, що різні способи підвищення потужності ШІ можуть мати різні наслідки для безпеки. Наприклад, системи з глибшими послідовними обчисленнями можуть ускладнити моніторинг процесу міркування моделі.До 20 років в'язниці за суперінтелект: у США пропонують криміналізувати створення надрозумного ШІНа думку Бострома, це може бути проблематичнішим, ніж підвищення потужності завдяки простому збільшенню кількості параметрів моделі. Тому, крім загальних заходів із безпеки, узгодження ШІ з людськими цінностями та регулювання, важливо враховувати й конкретні технічні рішення.

Повна зупинка ШІ може посилити концентрацію влади

Бостром застерігає, що повна заборона на розробку потужних систем ШІ в цивільному секторі може перенести основну роботу до закритих державних програм. Він порівнює такий сценарій із «Мангеттенським проєктом» — секретною американською програмою створення атомної бомби під час Другої світової війни.«Це, знаєте, певною мірою зосереджує більше влади в руках обмеженого кола учасників і робить систему менш прозорою», — пояснив філософ та додав, що такий підхід може мати переваги для інформаційної безпеки, але водночас зменшити можливості суспільства впливати на використання технологій.Трамп створив «Сили штучного інтелекту» для координації урядової політики щодо ШІ — WРЩе один ризик — формування стійкого суспільного табу навколо ШІ. Бостром припускає, що якщо позитивні висловлювання про технологію почнуть викликати різке засудження, це може надовго ускладнити відкриту дискусію про її переваги та небезпеки.Філософ не пропонує універсального рішення щодо оптимальних темпів розвитку суперінтелекту. Натомість він закликає враховувати нову інформацію, зміни ризиків і політичні обставини та коригувати рішення в міру розвитку технології.«Нам варто діяти обережно, “на дотик”: зважати на нову інформацію та зміни політичного ландшафту, оцінювати ситуацію й намагатися орієнтуватися в цих умовах — просуваючись уперед крок за кроком», — підсумував Бостром.Заява Бострома пролунала на тлі заклику керівника Аnthrоріс Даріо Амодея штучно пригальмувати нарощування обчислювальних потужностей, аби виграти час для оновлення систем безпеки після випадків виходу агентів ШІ з-під контролю. Цю ініціативу підтримали гендиректор ОреnАІ Сем Альтман та глава SрасеХАІ Ілон Маск, тоді як очільник Меtа Марк Цукерберг виступив із протилежною тезою — за максимальне прискорення розробок через відкриті моделі.