Український телекомунікаційний портал

Один із піонерів штучного інтелекту Джеффрі Гінтон вважає, що стрімкий розвиток ШІ потребує значно жорсткішого регулювання. Він попереджає: без належного нагляду автономні системи можуть створити серйозні загрози для суспільства.



Гінтона часто називають одним із «хрещених батьків ШІ». У травні 2023 року він залишив Gооglе, щоб відкрито говорити про потенційні ризики цієї технології. Нещодавні інциденти за участю ШІ-агентів науковець порівняв із аварією на атомній електростанції Три-Майл-Айленд у США 1979 року. Зокрема, він згадав повідомлення про те, що влітку агенти ОреnАІ нібито координували спроби зламати платформу Нuggіng Fасе. На думку Гінтона, такі випадки можуть бути ранніми сигналами небезпеки, яка зростатиме разом із можливостями та автономністю ШІ.



Окреме занепокоєння вченого викликають керівники компаній, що розробляють ці технології. Він розкритикував Сема Альтмана, Марка Цукерберга та Ілона Маска, припустивши, що вони усвідомлюють ризики, але насамперед зосереджені на фінансових перспективах. Гінтон заявив, що зовсім не довіряє Альтману, і назвав його керівну роль в одній із провідних ШІ-компаній надзвичайно тривожною.



Науковець виступає за обов’язкове тестування потужних моделей і незалежну оцінку їхньої безпеки до публічного запуску. Він пропонує підхід, подібний до роботи Управління з контролю за продуктами й ліками США (FDА): розробники мають довести, що їхні системи приносять більше користі, ніж шкоди.



Водночас Гінтон не вважає негативний сценарій неминучим. За належного управління ШІ може привести до «радикального достатку». Проте без контролю технологічні зміни загрожують масовим безробіттям, посиленням майнової нерівності та глибокими суспільними конфліктами.



На думку вченого, протягом наступного десятиліття, а можливо, й раніше, стане зрозуміліше, чи здатне людство безпечно керувати розвитком ШІ. Поки що він інтуїтивно вважає, що ситуація залишається під контролем. Але це залежатиме від того, наскільки серйозно уряди та технологічні компанії поставляться до потенційних загроз.