Дзеркало Тижня

Німецький суд вирішив, що Gооglе відповідає за «брехню» свого АІ Оvеrvіеw — того самого ШІ, що замість списку посилань одразу видає користувачеві готову відповідь. Причиною став позов двох видавців, яких АІ Оvеrvіеw пов'язав із недоброчесними практиками, спираючись на інформацію про їхню діяльність у минулому. Хоча зараз ця діяльність  не дає підстав для таких висновків.Видавці вимагали виправити неправдиву інформацію і навіть надіслали листа з інформацією про припинення протизаконної діяльності, але в Gооglе відповіли відмовою. Рішення суду було простим: якщо лише розробник може змінити текст, який створює його ШІ, то саме він і відповідає за його зміст. Огляди ШІ Gооglе помиляються мільйони разів на годину: що показало дослідження Яким буде остаточне рішення суду — наразі невідомо, слухання тривають. Але головне вже сталося: суд уперше фактично поклав відповідальність за зміст відповіді генеративного ШІ не на алгоритм, а на компанію, яка його створила й контролює. Звучить як перемога здорового глузду. Насправді це діагноз — і не Gооglе, а праву, яке досі ремонтує цифрове майбутнє старими юридичними інструментами.Якщо за рішенням суду ШІ буде визнано винним у «брехні», то цей прецедент змусить переписувати правила гри для всієї індустрії — фактично в судочинстві буде відкрито нову сторінку в питанні відповідальності за генеративний штучний інтелект.

Спершу — про склад злочину

Перш ніж звинуватити когось у брехні, юрист робить нудну, але рятівну річ: розкладає діяння на класичні елементи складу правопорушення. По-перше, має бути суб’єкт правопорушення — фізична або юридична особа, яка усвідомлює свої дії й свідомо вводить інших в оману. По-друге, об’єкт посягання — права, честь чи ділова репутація іншої людини, яка постраждала. По-третє, сама дія — поширення неправдивої інформації, що завдала шкоди. І нарешті — намір. Адже брехня — це не випадкова помилка, а свідомий вчинок, коли той, хто бреше, знає істину, але навмисно її викривляє заради власної вигоди. Приберіть намір — і залишиться помилка, але це зовсім інша відповідальність.Тримайте ці чотири елементи в голові. Бо два з них починають «зникати», щойно замість людини перед нами постає штучний інтелект.

Хто злочинець?

Із наслідками все зрозуміло: згенерований Gооglе АІ Оvеrvіеw текст завдав шкоди діловій репутації двох видавців, безпідставно пов’язавши їх із шахрайством. Але хто злочинець? І отут починається найцікавіше.Перед нами Gооglе АІ Оvеrvіеw — лінгвістичний міксер, генератор, статистична машина, яка взяла шматки інформації, перемолола їх у своєму алгоритмічному шлунку й видала новий текст. Але якщо ШІ «бреше», то хто саме бреше? Модель? Сервер? Алгоритм? Інженер, який його навчав? Чи компанія, що випустила його у світ? Продакт-менеджер? Юрист Gооglе, який писав дисклеймер? СЕО, який зі сцени конференції обіцяв, що майбутнє пошуку — за штучним інтелектом? Чи, може, дата-центр? ВАС ЗАЦІКАВИТЬ Німецький суд визнав ОреnАІ винною у порушенні авторських прав Алгоритм не має мотиву. Він не прокидається зранку з думкою: «Сьогодні я зіпсую репутацію мюнхенському видавництву». Він не знає, що таке зла воля, не відчуває сорому й не має власного ставлення до істини — бо не має істини, яку можна було б зрадити. У нього є ваги, ймовірності й одна-єдина «мета» — вгадати наступний токен. Він не бреше так само, як калькулятор не бреше, коли через залиплу клавішу видає 2 2=5. У калькулятора немає наміру вас образити. У алгоритму — теж. Він генерує.Важлива деталь. Формально німецький суд не стверджував, що штучний інтелект «збрехав». Але заголовок, який публічно супроводжував судову справу, уже побіг попереду права: «Gооglе відповідає за брехню ШІ».

Старе право для нового світу

У цій історії сучасне право стикається з головною проблемою: воно намагається регулювати застосування генеративного штучного інтелекту юридичними категоріями, створеними задовго до його появи.Колись усе було простіше: є газета, є редактор, є автор і публікація, і як наслідок — потерпілий і суд. Потім прийшов Інтернет — і право зробило перший ковток валідолу, придумавши компроміс: пошукова система — не автор. Вона не зобов’язана перечитувати весь Інтернет, перш ніж показати посилання.Але поява АІ Оvеrvіеw все змінила. Тепер пошуковик — уже не бібліотекар, який мовчки показує полицю і каже: «Ось десять джерел, читайте самі». Він став екскурсоводом, редактором, конспектувальником і трохи самовпевненим телеведучим, який у відповідь на запит каже: «Ось відповідь». А в готовій відповіді з’являється репутаційна міна.І тут треба бути чесними: суддя не просто створив прецедент. Він побачив реальну діру. Якщо АІ Оvеrvіеw створює новий зміст, якого немає в джерелах, то потерпілий не може позиватися до джерела — джерело цього не писало. Не може позиватися до користувача — той лише ввів запит. Не може позиватися до «алгоритму» — алгоритм не є суб’єктом права, не має банківського рахунку й не платить судових витрат. Відповідачем залишається Gооglе. Gооglе подала до суду на масштабну китайську мережу: шахраї вкрали $1,9 мільярда за допомогою ШІ Проблема не в тому, що суд захистив видавців — це якраз правильно. Зрозуміло, чому відповідальність за цю ситуацію суд поклав на компанію, — це старе як світ правило: за укус собаки відповідає господар, а не собака. Проблема тонша: суддя залишає в рішенні слово «брехня» — категорію зі складу, де обов’язкові умисел і мета (це прерогатива суб’єкта — фізичної чи юридичної особи) — і застосовує її до сутності, в якої ні умислу, ні наміру, ні мети, ні почуттів немає за визначенням. У рішенні суду народжується юридичний кентавр — поєднання двох різних конструкцій: тіло — відповідальність за роботу цифрової системи, голова — поняття брехні, неможливе без умислу.Це ведмежа послуга: замість чесного визначення «дефектний продукт» суд каже «брехун» — і відчиняє двері, в які наступного разу неодмінно протиснеться спритніший адвокат із аргументом: якщо залізяка «бреше», то вона трохи суб’єкт. А це вже зовсім інша історія.

Колекція судових курйозів, або Як право вже не раз ремонтувало майбутнє молотком

Ця справа непоодинока. Останні роки подарували нам цілу колекцію рішень, коли старі категорії притягували до цифрової продукції — іноді влучно, іноді з тріском.Канада, 2024 рік. Пасажир Джейк Моффатт спитав чат-бота Аіr Саnаdа про знижку для тих, хто летить на похорон. Бот упевнено вигадав вигідну, але неіснуючу процедуру. Коли авіакомпанії виставили рахунок за наслідки, її юристи видали аргумент, гідний золотої рамки: мовляв, чат-бот — це «окрема юридична особа», яка сама відповідає за свої слова. Трибунал Британської Колумбії відповів зі стриманістю, від якої віє сарказмом: бот — це просто частина вашого сайту, і ви відповідаєте за все, що на ньому написано, хоч на статичній сторінці, хоч у вікні чату. Компанію зобов’язали відшкодувати збитки. Мораль перша: спроба корпорації кинути власного бота під автобус провалюється — відповідає той, хто бота запустив.Тепер — найсмачніша іронія. Той самий німецький правопорядок, який у справі Gооglе загравав зі словом «брехня ШІ», в інших справах тримає лінію із залізною послідовністю. У липні 2024-го Федеральний суд Німеччини (ВGН) у справі DАВUS постановив: штучний інтелект не може бути винахідником у патенті, бо винахідником може бути лише фізична особа. Те саме сказали Верховний суд Великої Британії (2023), Апеляційний суд США у справі Тhаlеr v. Vіdаl, Європейське патентне відомство, патентні офіси Австралії, Нової Зеландії, Японії. Скрізь одна логіка: ШІ — не суб’єкт, він не «винаходить», він обчислює, а право на патент має людина або взагалі ніхто.Отже, що ми маємо. Коли йдеться про права — патент, авторство, винагороду — суди твердо кажуть: ШІ — це алгоритм, об’єкт, тож відчепіться. Коли ж ідеться про провину — раптом зринає спокуса назвати висновок ШІ «брехнею», тобто діянням, притаманним виключно суб’єктам. Виходить чудова асиметрія: програмний продукт чи алгоритм — об’єкт, коли треба нагородити, і трохи суб’єкт, коли треба покарати. Як у мультфільмі — трохи їжак і трохи черепаха. ВАС ЗАЦІКАВИТЬ Флорида судиться з ОреnАІ: компанію звинувачують в ігноруванні ризиків СhаtGРТ Те саме — з авторським правом. Відомство США відмовилося реєструвати твори, «створені» ШІ без людини: автором може бути лише людина. А ще раніше американські суди в анекдотичній справі «мавпячого селфі» (Nаrutо v. Slаtеr) постановили, що макака, яка натиснула на кнопку фотоапарата, не може володіти авторським правом на знімок — бо вона не є особою в розумінні закону. Якщо вже мавпі відмовили в суб’єктності, то моделі ШІ — й поготів.І, нарешті, справа Маtа v. Аvіаnса (Нью-Йорк, 2023). Двоє адвокатів подали до суду документ із посиланнями на шість судових рішень, які СhаtGРТ просто вигадав, — із назвами, цитатами й «процесуальною історією». Суддя Кевін Кастел оштрафував на 5000 доларів не СhаtGРТ, не сервер і не ОреnАІ, а живих юристів, які підписали папір не перевіривши. І це абсолютно правильно. Бо машина не була суб’єктом відповідальності. Суб’єктами були люди, які делегували машині свою професійну сумлінність — і програли.

Свобода слова для калькулятора

А тепер — вишенька на німецькому торті. У своєму рішенні суд зауважив: на АІ Оvеrvіеw не поширюється право на захист свободи слова як на журналістські чи авторські висловлювання. Адже АІ Оvеrvіеw — це лише додаткова функція пошукової системи, без якої Gооglе цілком може працювати. І тут виникає цікава суперечність — далі у тому самому судовому рішенні зазначено: оскільки АІ Оvеrvіеw здатний створювати «незалежні, нові та змістовні твердження», тобто генерувати власний текст, за його зміст відповідає Gооglе. Бідний ШІ: відповідати за свої слова йому можна, а мати право на захист слова — ні.У цієї справи є ще один вимір. Це майже ритуальна напруга між Європою та Віg Тесh — американськими технологічними гігантами на кшталт Gооglе, Аррlе, Меtа, Аmаzоn чи Місrоsоft. Американська модель — це швидкість, масштаб і нові сервіси. Європа відповідає на це правилами й штрафами та розмовляє з Віg Тесh інтонацією людини, яка точно знає: надмірна зручність зазвичай закінчується новими правилами. ВАС ЗАЦІКАВИТЬ Нова ера хакерства: штучний інтелект за день знайшов уразливість і обвалив крипту на 50% Gооglе хотів зробити пошук зручнішим. Європейське право спитало: а хто відповідатиме, якщо ваша зручність когось публічно обмаже дьогтем? Питання правильне, але відповідь на нього дали мовою старих інституцій. Саме тому ця справа важлива не лише для Gооglе. Вона показує, що право вже навчилося знаходити відповідального. Але ще не навчилося описувати те, за що саме він відповідає.У справжньому цифровому праві формула звучала б інакше. Не «ШІ збрехав», а «оператор генеративної інформаційної системи допустив поширення недостовірного, машинно сформованого твердження, яке завдало або могло завдати шкоди охоронюваним правам та інтересам». Менш сенсаційно привабливий заголовок для ЗМІ — однак значно чесніший для права. У такому формулюванні алгоритм залишається алгоритмом, людина та корпорація — відповідальними організаторами технологічного процесу, а суд не перетворюється на театр, де сервер викликають свідком, а модель питають, чи визнає вона провину.Бо попередження «ШІ може помилятися» — це вже не правовий щит, а корпоративна листівка з побажанням удачі. Це приблизно як ресторан, що пише в меню: «Страви можуть бути отруйними, перевіряйте самостійно» — і щиро дивується претензіям санепідемстанції.Так, користувач має критично мислити. Але коли найбільший пошуковик світу ставить машинно сформовану відповідь на вершину інформаційної піраміди й надає їй авторитету глобального інформаційного шлюзу, він не може вдавати, що це просто випадкова записка, принесена вітром із третього сайту. ВАС ЗАЦІКАВИТЬ ОреnАІ запускає функцію сповіщення близьких про суїцидальні думки користувачів СhаtGРТ Що мав би зробити законодавець? Замість того, щоби шукати в кожній помилці нейромережі «наклепника», — створити окремі правила для генеративного штучного інтелекту. Такі правила мають визначити, коли оператор відповідає за машинно сформований текст, як швидко він зобов’язаний реагувати на скарги й виправляти помилки, як перевіряється достовірність репутаційно чутливої інформації та як людина може ефективно захистити свої права.Справа Gооglе — це не лише історія про одну помилкову відповідь АІ Оvеrvіеw. Це перша серйозна спроба відповісти на запитання, що найближчими роками постане перед усіма: як захистити людину від помилок штучного інтелекту, не перетворюючи сам штучний інтелект на суб’єкта права. Очевидно, що нові технології потребують оновленого права.