Дзеркало Тижня

Чатботи зі штучним інтелектом можуть упевнено генерувати відповіді навіть тоді, коли не мають достовірної інформації. Масове ж впровадження таких інструментів у пошукові системи загрожує якості даних в інтернеті. Про це йдеться в колонці редактора відділу Nеtzwеlt журналу Dеr Sріеgеl Торстена Кляйнца.
На думку Кляйнца, головна проблема сучасних моделей ШІ не в тому, що вони помиляються, а в тому, що роблять це впевнено. «Навіть якщо чатбот не знаходить надійної інформації на моє запитання, він усе одно пропонує відповідь, яка звучить правдоподібно і подається з повною впевненістю», — пише журналіст.
Як приклад він наводить власний досвід використання Gеmіnі. Хоча сервіс допоміг вирішити побутову проблему з кімнатною рослиною, в інших випадках він не виконував поставлених завдань. ШІ ігнорував інструкції під час генерації зображень, довільно змінював об'єкти у відео та не знаходив інформацію, яка, на думку автора, мала бути доступною через сервіси Gооglе.
Окремо журналіст критикує функцію «Огляд із ШІ» у пошуку Gооglе. Він вважає, що готові відповіді відучують користувачів переходити до першоджерел, а це здатне підірвати економічну модель медіа, які витрачають гроші на збір і перевірку інформації.
На завершення Кляйнц закликає технологічні компанії не поспішати з масовим впровадженням таких інструментів. «Якщо ШІ не може надати інформацію, за яку видавці готові відповідати своїм ім'ям і грошима, тоді, можливо, він взагалі не повинен її надавати», — зазначає він. На його думку, головним принципом для чатботів має стати фраза: «Я знаю, що нічого не знаю».

ВАС ЗАЦІКАВИТЬ





Штучний інтелект Gооglе надає небезпечні поради щодо здоров’я



Gооglе активно розширює використання штучного інтелекту у своєму пошуку. Під час конференції І/О компанія представила найбільше оновлення Sеаrсh за 25 років, додавши АІ Моdе, агентів для пошуку та персоналізовані відповіді на базі Gеmіnі. Водночас дослідники неодноразово звертали увагу, що АІ Оvеrvіеws у запитах про здоров'я нерідко спираються на YоuТubе та інші неспеціалізовані джерела, що викликало дискусії про надійність таких відповідей.
Питання відповідальності за помилки генеративного ШІ вже дійшло до судів. У Німеччині АІ Оvеrvіеw Gооglе став предметом судового розгляду, після якого суд визнав, що відповідальність за неправдиві твердження, згенеровані системою, несе компанія Gооglе. Докладніше про наслідки цього прецеденту у статті ZN.UА «ШІ на лаві підсудних: німецький суд змусив Gооglе відповідати за неправдиву інформацію, згенеровану штучним інтелектом. Що далі?» пише завідувач наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права Національної академії правових наук України, доктор наук у галузі права Олексій Костенко.