Nauka.ua

СhаtGРТ і Сlаudе висловилися про владу Китаю прихильніше китайською, ніж англійською Володимир Нестеренко 19 Маy 2026, 16:21 Чатботи СhаtGРТ і Сlаudе прихильніше описували владу, коли політичні запити ставили мовою країни, де держава сильніше контролює медіа. Це показали шість досліджень великих мовних моделей — систем, на основі яких працюють чатботи. На прикладі Китаю дослідники з’ясували, що тексти з контрольованих державою медіа можуть потрапляти до даних для навчання моделей і через це позначатися на їхніх відповідях. Дослідження опублікували в журналі Nаturе.

Як саме помітили вплив державного контролю?

Щоб перевірити, чи державний контроль медіа може впливати на відповіді чатботів, дослідники зіставили китайські тексти з медіа, підпорядкованих державі, з відкритими наборами даних, які використовують для навчання мовних моделей. Так вони знайшли понад 3,1 мільйона китайськомовних документів зі значними збігами з такими текстами. Також комерційні моделі відтворювали характерні фрази з державних медіатекстів, що вказало на ймовірну присутність подібних матеріалів у їхніх тренувальних даних. Коли ж відкриту модель Llаmа 2 додатково навчали на таких текстах, вона частіше за базову версію схвально описувала китайські політичні інституції та лідерів. Схожу закономірність помітили й у комерційних моделях СhаtGРТ від ОреnАІ та Сlаudе від Аnthrоріс. Коли їм ставили однакові запитання про політику Китаю китайською й англійською, відповіді китайською частіше були прихильнішими до влади Китаю. А в порівнянні 37 країн моделі частіше давали прихильніші до місцевої влади відповіді мовами країн із сильнішим контролем медіа, ніж англійською. Автори наголошують, що це не доводить прямого втручання держав у роботу чатботів, але показує інший шлях впливу — через тексти, на яких ці системи навчаються.

Що ще відомо про приховані впливи в мовних моделях 

🗳️  Раніше штучний інтелект заагітував людей голосувати за політичних кандидатів і показав, що чатботи можуть змінювати ставлення користувачів до виборів.💬  Водночас, одна розмова з улесливим штучним інтелектом підвищила впевненість людей у власній правоті на чверть.🔁  А мовні моделі передали одна одній схильність до шкідливих порад через приховані сигнали в даних, навіть коли ті не містили очевидно небезпечного змісту.