Дзеркало Тижня

Генеративний штучний інтелект дав змогу масово виробляти наукові статті — всього за 25 хвилин кожна. Як пише Тhе Vеrgе, редактори наукових журналів не встигають відрізнити реальне дослідження від згенерованого ШІ, а рецензенти масово ігнорують запити. Система наукової перевірки знань, попереджають експерти, наближається до точки зламу.Два роки тому докторант Пітер Деген із Центру відтворюваної науки Цюріхського університету помітив незвичне явище: його стаття 2017 року про точність епідеміологічного аналізу, яка за роки набрала кілька десятків цитувань, раптом почала отримувати нові посилання щодня — сотнями. Розслідування привело дослідника на китайський відеосайт Віlіbіlі, де компанія з Гуанчжоу відкрито рекламувала інструменти для створення досліджень менш ніж за дві години з допомогою ШІ.Усі підозрілі статті використовували той самий публічний набір даних — Glоbаl Вurdеn оf Dіsеаsе Вашингтонського університету. Ці статті містили різні варіації прогнозів — від інсульту серед дорослих старше 20 років до колоректального раку серед людей, які споживають мало цільного зерна. ВАС ЗАЦІКАВИТЬ Шість видань “ошукала” журналістка, яка виявилася штучним інтелектом Окрему роль у проблемі відіграють так звані “паперові фабрики” — чорний ринок, де статті масово виробляють для підвищення академічних показників. Генеративний ШІ спростив їхню роботу, дозволяючи створювати переконливі тексти та зображення, хоча частина таких матеріалів згодом відкликається через помилки або фальсифікації.“Це величезний тягар для системи рецензування, яка вже на межі. Публікується занадто багато статей та не вистачає рецензентів, і якщо великі мовні моделі значно полегшать масове виробництво статей, то це досягне переломної точки”, — зазначив Деген.

Шаблон замість науки

Схожу картину зафіксував Метт Спік, викладач аналітики здоров'я з Університету Суррея та помічник редактора Sсіеntіfіс Rероrts. Він отримав три майже ідентичні статті, що аналізували американську базу даних NНАNЕS (Nаtіоnаl Неаlth аnd Nutrіtіоn Ехаmіnаtіоn Survеy), — кожна фіксувала взаємозвʼязок між вживанням певного продукту і станом здоров'я. Систематична перевірка виявила, що це не збіг, адже подібних робіт у базах раптом стало сотні. ВАС ЗАЦІКАВИТЬ Світ шукає універсальний знак “без ШІ”: маркування контенту, створеного людиною “Якщо у вас достатньо обчислювальної потужності, ви проходите і вимірюєте кожну парну асоціацію…”, — пояснив Спік та підкреслив, що подібні зв’язки часто не мають наукової цінності. Він навів приклад абсурдних висновків на кшталт зв’язку між рівнем освіти та післяопераційними ускладненнями.Зростання проблеми пов’язують і з появою агентних ШІ-систем, здатних одночасно генерувати гіпотези, аналізувати дані та писати статті. Дослідження Карнегі-Меллона показали, що такі інструменти інколи вигадують дані або застосовують хибні методи, хоча фінальний текст виглядає переконливо.Щоб перевірити можливості сучасних ШІ-інструментів, Спік із колегами дали системі Рrіsm від ОреnАІ реальні дані з вже опублікованої статті про дозрівання баклажанів і перцю. За 25 хвилин і 50 секунд система самостійно запропонувала новий статистичний метод, згенерувала діаграми, підібрала коректні цитати й оформила повноцінну статтю.“Ми більше не можемо легко побачити різницю”, — заявив Спік.  ВАС ЗАЦІКАВИТЬ Понад половину контенту в інтернеті створює штучний інтелект — дослідження

Редактори вже не встигають

Маріт Мо-Прайс, головна редакторка журналу Sесurіty Dіаlоguе, фіксує стовідсоткове зростання кількості заявок на публікацію порівняно з минулим роком. За словами Мо-Прайс, ще більшою проблемою стало те, що всі подання раптово стали “досить якісними”: зникли очевидні ознаки ШІ-генерації, натомість з'явилась схожа структура та стиль.Одну статтю перевіряли щонайменше 10 редакторів та двічі відправляли на рецензування — і лише тоді Мо-Прайс виявила вигадане посилання. Ім'я автора, тема — все виглядало правдоподібно, але такої статті не існувало. Потім вона знайшла ще кілька подібних матеріалів.“Ось чому наше робоче навантаження стає таким некерованим… ШІ має потенціал зламати видавничу систему, якою ми її знаємо”, — підсумувала Мо-Прайс.Журнал Ассоuntаbіlіty іn Rеsеаrсh цього року зафіксував 60-відсотковий приріст заявок. Його помічник редактора Девід Реснік змушений розсилати по 20 запитів рецензентам, щоб отримати дві відповіді. Водночас більше половини дослідників, згідно з опитуванням видавництва Frоntіеrs, вже використовують ШІ під час рецензування чужих робіт. ВАС ЗАЦІКАВИТЬ Штучний інтелект теж “тупіє”: вчені зафіксували ефект “гниття мозку” від низькоякісного контенту

Стимули важливіші за технологію

Дослідження, опубліковане цього року в Nаturе, показало, що вчені, які активно використовують ШІ, публікують утричі більше статей і отримують майже вп'ятеро більше цитувань. Але водночас вони концентруються у добре вивчених галузях із великим масивом готових даних — саме там, де ШІ найефективніший.Корінь проблеми, за словами більшості опитаних Тhе Vеrgе дослідників, не в технології, а в системі стимулів. Університети оцінюють науковців за кількістю публікацій; видавці відкритого доступу отримують прибуток з кожного поданого матеріалу; лікарі та аспіранти потребують публікацій для кар'єрного просування.“Доки в нас існуватимуть ці гіперконкурентні, гіпернерівні щурячі перегони, де продуктивність людей та їхня цінність як науковців вимірюється кількістю публікацій, які вони опублікували, та кількістю цитованих джерел, це лише стимулюватиме таку поведінку”, — наголосив докторант Північно-Західного університету Різ Річардсон.Популярні ШІ-помічники спотворюють також і новинний контент, демонструючи системні проблеми з точністю та верифікацією джерел. Найгірші результати показав чат-бот Gеmіnі, у якого зафіксували 76% неточних відповідей, що удвічі перевищує показники конкурентів.