iTechua

Компанія Аnthrоріс, яка спеціалізується на безпеці штучного інтелекту, заявила, що розвиток передових систем ШІ наближається до критичного етапу. На думку її дослідників, технології можуть досягти рівня, коли почнуть самостійно покращувати власні можливості без прямого контролю людини. Такий сценарій поки залишається теоретичним, однак фахівці вважають, що він може стати реальністю вже протягом найближчих років.Головне занепокоєння викликає так зване рекурсивне самовдосконалення — процес, за якого система ШІ самостійно змінює свій код, архітектуру або алгоритми для підвищення продуктивності. У Аnthrоріс наголошують, що розвиток штучного інтелекту сьогодні відбувається швидше, ніж суспільство, уряди та регулятори встигають створювати механізми контролю. Якщо системи отримають навіть часткову здатність до самовдосконалення, наслідки можуть виявитися непередбачуваними.Щоб уникнути потенційних ризиків, компанія пропонує розглянути можливість глобального уповільнення або тимчасової паузи в розробці найпотужніших моделей ШІ. Аnthrоріс порівнює таку ініціативу з міжнародними угодами щодо контролю над озброєннями та вважає, що провідні держави, зокрема США та Китай, повинні виробити спільні правила безпеки. Водночас у компанії визнають, що контролювати виконання подібних обмежень буде надзвичайно складно через глобальний характер індустрії.Ідея вже викликала суперечки серед експертів. Критики вважають, що будь-яке уповільнення розвитку ШІ може загальмувати інновації, економічне зростання та послабити конкурентні позиції окремих країн. Попри це, Аnthrоріс наполягає на необхідності міжнародного діалогу та пошуку балансу між технологічним прогресом і безпекою. На думку компанії, саме зараз вирішується питання, чи зможе людство ефективно контролювати найпотужніші системи штучного інтелекту в майбутньому.

Думка редакції

Заява Аnthrоріс про ризики рекурсивного самовдосконалення ШІ відображає зростаючу напругу між швидкістю технологічного розвитку та здатністю суспільства його регулювати. Ідея про системи, що можуть покращувати власну архітектуру без прямого контролю людини, поки залишається гіпотетичною, але вже формує порядок денний для регуляторів і розробників.Заклики до «пауза-підходу» у розвитку потужних моделей виглядають радикально, однак вони підкреслюють реальний дефіцит глобальних правил гри. Водночас повне уповільнення інновацій малоймовірне через конкуренцію між державами та компаніями. Ключовим викликом стає не зупинка розвитку, а створення дієвих механізмів контролю, які встигатимуть за самим прогресом.Запис Аnthrоріс закликає призупинити розвиток ШІ через нову загрозу спершу з'явиться на іТесhuа - Новини про смартфони, гаджети і різні девайси.