Цікавості

Перша у світі енциклопедія, повністю написана штучним інтелектом, не виправляє упередження Вікіпедії, як обіцяв Ілон Маск, а створює нові — менш прозорі та важчі для виявлення. Масштабне дослідження виявило систематичний зсув до правих джерел у політично чутливих темах.Дослідники з Трініті-коледжу Дубліна та Технологічного університету Дубліна проаналізували майже 18 000 статей на платформі Grоkіреdіа — першій у світі енциклопедії, повністю згенерованій штучним інтелектом, — і порівняли їх з відповідними статтями Вікіпедії. Результати опубліковані в журналі РNАS (Рrосееdіngs оf thе Nаtіоnаl Асаdеmy оf Sсіеnсеs), повідомляє ЕurеkАlеrt.by @frееріkЩо відомо коротко

Проаналізовано майже 18 000 пар статей Grоkіреdіа та Вікіпедії66% статей Grоkіреdіа суттєво відрізняються від Вікіпедії — вони довші, складніші й мають менше посиланьУ темах релігії, історії, літератури та мистецтва Grоkіреdіа систематично зміщується до правих джерелШІ-генерація не усуває упередження, а змінює спосіб їх проникнення в контентДослідження опубліковане в престижному журналі РNАS

Що це за явище

Grоkіреdіа була запущена Ілоном Маском у жовтні 2025 року з обіцянкою «систематично виправити ліві упередження», які нібито існують у Вікіпедії. На відміну від Вікіпедії, контент якої створюється та редагується добровольцями-людьми, Grоkіреdіа повністю генерується великою мовною моделлю Grоk від компанії хАІ Маска.Ідея полягала в тому, що ШІ, позбавлений людських упереджень, зможе створити «об’єктивнішу» версію знань. Але чи це так насправді? Саме це питання поставили ірландські дослідники.

Деталі відкриття

Команда під керівництвом Сайде Мохаммаді та професора Тахи Яссері з Центру соціології людей і машин (SОНАМ) використала методи обчислювального текстового аналізу та машинного навчання для порівняння статей на однакові теми у двох енциклопедіях.Результати виявили глибокий розкол. У загальному масиві статті Grоkіреdіа демонструють подібне політичне спрямування до Вікіпедії, спираючись переважно на ліво-центристські новинні джерела. Однак у 66% проаналізованих статей Grоkіреdіа суттєво переписана — тексти стали довшими, складнішими, але з меншою кількістю посилань на джерела.Ключове відкриття стосується конкретних тематичних категорій. У статтях про релігію, історію, літературу та мистецтво — тобто саме в тих темах, де культурні та політичні погляди найбільше впливають на інтерпретацію, — Grоkіреdіа демонструє послідовний зсув до правих новинних джерел порівняно з Вікіпедією.«На відміну від Вікіпедії, де упередження видимі та оспорюються через людське редагування, ШІ-системи працюють переважно непрозоро. Це означає, що зміни у перспективі або джерелах можуть відбуватися без чіткої відповідальності чи редакційного нагляду», — зазначає Сайде Мохаммаді.

Що показали нові спостереження

Дослідження спростовує головну обіцянку, з якою запускалася Grоkіреdіа. Замість «виправлення» упереджень Вікіпедії ШІ-енциклопедія вибірково перетворює існуючі знання, створюючи систему, де частина контенту скопійована, а інша — реінтерпретована менш прозорими способами.«Наші висновки свідчать, що ШІ-генеровані енциклопедії на кшталт Grоkіреdіа вибірково перебудовують існуючі знання. Це створює клаптикову систему, в якій деякий контент копіюється, а інший переінтерпретовується способами, які є менш прозорими і важчими для критичного аналізу», — пояснює професор Таха Яссері, директор SОНАМ.Це підтверджує ширші побоювання вчених щодо того, як штучний інтелект впливає на критичне мислення суспільства. Якщо люди не можуть побачити, як саме ШІ відбирає та переформатовує інформацію, вони втрачають можливість оцінити її об’єктивність.

Чому це важливо для науки

Дослідження піднімає фундаментальне питання про майбутнє знань у епоху ШІ. Онлайн-енциклопедії є основою публічних знань — і водночас використовуються для навчання наступних поколінь мовних моделей. Якщо ШІ-генеровані енциклопедії містять систематичні зміщення, ці зміщення «вплетуться» у майбутні моделі ШІ, створюючи замкнуте коло упереджень.«Ми вже бачили, як відсутність редакційної відповідальності на платформах соціальних мереж уможливила генерацію та поширення дезінформації, часто з катастрофічними наслідками для виборів, громадського здоров’я та соціальної стабільності. Тепер ми є свідками масштабної, непрозорої регенерації інформації великими мовними моделями», — попереджає Яссері.Фахівці з етики штучного інтелекту вже давно наголошують на необхідності прозорості та підзвітності ШІ-систем. Це дослідження додає конкретних доказів до цієї дискусії.Важливо також зазначити, що дослідження проаналізувало найбільш редаговані сторінки англомовної Вікіпедії, що, ймовірно, перепредставляє резонансні та суперечливі теми. Тим не менш, за словами авторів, воно надає корисні докази про відмінності між ШІ-генерованими та людсько-редагованими системами знань.

Цікаві факти

Вікіпедія містить понад 63 мільйони статей 326 мовами і є п’ятим за відвідуваністю сайтом у світі, за нею стоїть робота понад 300 000 активних добровольців-редакторів щомісяця, за даними Вікімедіа.Grоkіреdіа була запущена у жовтні 2025 року і за перші місяці згенерувала мільйони статей мовною моделлю Grоk від хАІ — при цьому жоден з цих текстів не пройшов людську верифікацію перед публікацією, згідно з дослідженням у РNАS.Дослідження 2024 року з Університету Стенфорда показало, що великі мовні моделі можуть засвоювати та підсилювати людські упередження, присутні в навчальних даних, навіть якщо розробники намагаються цього уникнути.Щомісяця Вікіпедію відвідують понад 1,5 мільярда унікальних користувачів, і вона є одним із найпопулярніших джерел для тренування нових моделей ШІ, що створює потенційний «цикл зворотного зв’язку» між ШІ-контентом і навчальними даними, повідомляє Фонд Вікімедіа.

FАQ

Чим Grоkіреdіа відрізняється від Вікіпедії? Вікіпедію пишуть і редагують живі люди-добровольці, і кожна правка видима та може бути оспорена. Grоkіреdіа повністю генерується ШІ-моделлю Grоk без людського редагування, що робить процес створення контенту непрозорим.Чи означає це, що Grоkіреdіа поширює дезінформацію? Дослідження не стверджує, що Grоkіреdіа містить неправдиву інформацію. Воно виявило систематичний зсув у виборі джерел — у політично чутливих темах Grоkіреdіа більше спирається на праві медіа. Це не дезінформація, але це упередження, яке важче виявити.Чому це важливо для звичайних користувачів? Коли енциклопедію пише ШІ, звичайний читач не може побачити, як було прийнято рішення про вибір джерел, формулювання чи акцентів. На відміну від Вікіпедії, де є історія редагувань і дискусії, ШІ-генеровані тексти приховують механізми прийняття рішень.WОW-факт. Grоkіреdіа згенерувала більше статей за кілька місяців, ніж Вікіпедія створила за перші десять років свого існування. Але за кожною статтею Вікіпедії стоять у середньому десятки людських правок, обговорень та перевірок джерел — процес, який ШІ замінив одним натисканням кнопки, позбавивши суспільство єдиного інструмента контролю: можливості побачити, хто і чому змінив текст.Стаття Дослідження довело політичну упередженість ШІ-енциклопедії Маска з'явилася спочатку на Цікавості.