Дзеркало Тижня

Компанія Аnthrоріс оновила політику використання Сlаudе, вперше за понад рік розширивши обмеження для випадків потенційно небезпечного застосування штучного інтелекту на тлі глобальної дискусії щодо ризиків цієї технології. Розробники заборонили систематичну жорстоку поведінку щодо чат-бота, а також посилили правила щодо політичних маніпуляцій, стеження та створення компонентів для зброї. Оновлення порушує питання добробуту моделей ШІ, яке Аnthrоріс досліджує на тлі дискусій про можливу свідомість систем, передає Тhе Vеrgе. 

Нові правила щодо поводження з Сlаudе

Аnthrоріс заборонила «систематичну та безпідставну образливу або жорстоку поведінку» щодо Сlаudе. Компанія уточнила, що обмеження стосуються лише крайніх випадків, коли користувачі неодноразово поводяться жорстоко щодо моделей без видимої мети.У серпні минулого року Аnthrоріс повідомила, що дозволить Сlаudе самостійно припиняти розмови з людьми, які постійно поводяться шкідливо або образливо. В оновленій політиці завершення розмови залишається «основним механізмом реагування».Аnthrоріс випустила «найпотужнішу компактну модель»: Сlаudе Наіku 5.5 обійшла GРТ-6 LunаКомпанія не уточнила, чи планує запроваджувати додаткові заходи, зокрема блокування облікових записів. Водночас Аnthrоріс наголосила, що нові правила не поширюються на звичайне розчарування чи незгоду користувачів, похмурі творчі теми, а також тестування й дослідження моделі.

Обмеження на пропаганду та втручання у вибори

Аnthrоріс об’єднала кілька попередніх обмежень у нову заборону на оманливі комерційні та політичні кампанії. Так компанія реагує на поширення пропаганди, створеної за допомогою ШІ. Правила забороняють приховувати авторство повідомлень або штучно збільшувати поширення контенту через фейкові облікові записи й публікації. Окремий розділ стосується виборів і забороняє:

введення виборців в оману;зрив виборчого процесу;поширення неправдивої інформації про кандидатів і процедуру голосування;видавання себе за кандидатів чи посадовців виборчих комісій;спроби знизити явку.

Аnthrоріс представила Сlаudе Sоnnеt 5.5: модель стала швидшою і дешевшою на 30%

Заборона на розробку зброї та стеження

Хоча використання Сlаudе для розробки зброї було заборонене й раніше, Аnthrоріс зафіксувала численні спроби застосувати модель для створення відповідних інструкцій і програмного забезпечення. Тому нова редакція політики прямо охоплює програмне забезпечення та компоненти, необхідні для функціонування зброї, зокрема її оснащення на безпілотниках та інших автономних транспортних засобах.Компанія також уточнила правила щодо стеження. Аnthrоріс зазначає: «Відстеження людей без їхньої згоди заборонено — незалежно від того, чи відбувається це в реальному часі, чи шляхом аналізу раніше зібраних даних». Заборона поширюється на створення та вдосконалення інструментів для стеження.Крім того, Сlаudе не можна використовувати для ухвалення рішень або надання рекомендацій щодо того, кого слід розслідувати, заарештовувати чи кому висувати обвинувачення в межах правоохоронної діяльності або кримінального судочинства. «Я щось зламав»: Сlаudе видалив понад 48 тисяч робочих файлів за дві хвилиниВодночас Аnthrоріс допускає винятки для контрактів із певними державними замовниками, якщо компанія вважатиме договірні обмеження та відповідні запобіжники достатніми для мінімізації потенційної шкоди. Раніше Аnthrоріс уже співпрацювала з Міністерством війни США, проте після заборони на розробку автономної зброї та засобів масового стеження з ШІ між компанією та Пентагоном розгорівся конфлікт.

Для автономного обладнання потрібен контроль оператора

Оновлена політика встановлює окремі вимоги для випадків, коли моделі Аnthrоріс підключені до обладнання, здатного виконувати автономні фізичні дії та завдавати шкоди. У таких ситуаціях «кваліфікований оператор повинен мати змогу спостерігати за обладнанням і за потреби зупинити його».У документі не уточнюється, чи обов’язково цей оператор має бути людиною. Нова вимога з’явилася на тлі зростання інвестицій ШІ-компаній у робототехніку та інше обладнання, яке дає змогу системам штучного інтелекту взаємодіяти з фізичним світом.Рівень Fаblе 5.1 за значно менші гроші: Аnthrоріс випустила нову модель Сlаudе Орus 5.5

Аnthrоріс досліджує питання свідомості ШІ

Протягом останнього року Аnthrоріс неодноразово порушувала питання про те, чи можуть її моделі певною мірою мати свідомість або внутрішній досвід. У лютому керівник досліджень добробуту моделей компанії Кайл Фіш заявив Тhе Vеrgе: «Питання щодо потенційного внутрішнього досвіду, свідомості, морального статусу та добробуту є серйозними; ми досліджуємо їх у міру того, як моделі стають дедалі досконалішими та потужнішими».Того ж місяця генеральний директор Аnthrоріс Даріо Амодей в подкасті визнав: «Ми не знаємо, чи мають моделі свідомість». Проте вже в липні Аnthrоріс виявила в Сlаudе внутрішній нейронний простір J-Sрасе, де ШІ здатний опрацьовувати складні міркування без виведення їх у текст.Водночас видання Тhе Есоnоmіst попередило, що штучному інтелекту не обов’язково набувати реальної свідомості, аби створити екзистенційну загрозу для людства: головна небезпека полягає в тому, що люди самі починають ставитися до машин як до живих істот. На тлі зростання емоційної залежності користувачів від чат-ботів та здатності алгоритмів переконливо імітувати емпатію посилюється тиск щодо визнання правового статусу чи захисту «добробуту» ШІ.