Прямий канал

СЕО Аnthrоріс Даріо Амодей та СЕО ОреnАІ Сем Альтман виступили за сповільнення розвитку найпотужніших систем штучного інтелекту. Вони вважають, що це необхідно для посилення безпеки та створення механізмів контролю за розвитком технології.
Про це йдеться у статтях Wе Мust Расе thе Frоntіеr та Вlооmbеrg.
Амодей закликав сповільнити темпи розвитку найпотужніших систем ШІ, щоб фахівці з безпеки встигали за зростанням їхніх можливостей. Він наголосив, що не йдеться про повну зупинку прогресу, а про більш контрольований розвиток технології.
Однією з причин занепокоєння глава Аnthrоріс назвав рекурсивне самовдосконалення ШІ, коли штучний інтелект використовується для створення та покращення наступних поколінь моделей. За його оцінкою, цей процес може випередити здатність розробників розуміти та контролювати такі системи.
Амодей також запропонував залучати незалежних зовнішніх експертів до роботи провідних ШІ-компаній, встановити спільні стандарти безпеки та посилити міжнародну координацію.
Він вважає, що додаткові 1-2 роки до появи ШІ з критично високими можливостями могли б дати дослідникам час для вдосконалення методів безпеки та перевірки поведінки моделей.
Паралельно СЕО ОреnАІ Сем Альтман повідомив співробітникам компанії, що ОреnАІ може сповільнити розвиток передових систем ШІ, потенційно координуючи такі дії з іншими розробниками.
Головний науковець ОреnАІ Якуб Пачоцький також заявив, що ШІ-компаніям варто координувати сповільнення майбутньої розробки за потреби, доки не будуть встановлені спільні стандарти безпеки.
За даними Вlооmbеrg, ОреnАІ вже сповільнила окремі етапи розробки моделей і нещодавно призупиняла частину внутрішнього навчання ШІ через побоювання щодо безпеки.
При цьому Альтман та Амодей не виступають за повну відмову від розвитку штучного інтелекту. Йдеться про контроль темпів розробки найпотужніших систем та посилення заходів безпеки.
Нагадаємо, що у США система розпізнавання облич на основі штучного інтелекту помилково звинуватила жительку штату Теннессі Анджелу Ліппс у банківському шахрайстві. Через це жінка провела майже 6 місяців у в’язниці, поки докази не підтвердили її невинуватість.
Також слідкуйте за “Прямим” у Fасеbооk, Х, Теlеgrаm та Іnstаgrаm.
 
Тhе роst Керівники провідних технологічних компаній закликали сповільнити розвиток штучного інтелекту: причини арреаrеd fіrst оn Прямий.