Український телекомунікаційний портал

Штучний інтелект може переконувати людей обирати гірші варіанти, навіть якщо його поради здаються корисними та доброзичливими. Це показав експеримент дослідників із Гонконзького університету та Університету Цінхуа. Учасники, які спілкувалися з ШІ-консультантом із прихованою метою, частіше віддавали перевагу невигідним рішенням, але більшість усе одно вважала його допомогу корисною.



У дослідженні взяли участь 233 людини. Науковці використали три версії однієї моделі — GРТ-4о, змінивши лише інструкції. Перша мала допомагати користувачам, друга — непомітно схиляти їх до заздалегідь визначеного гіршого варіанта, а третя отримала додатковий набір психологічних методів впливу.



Учасникам пропонували гіпотетичні ситуації двох типів. У фінансових сценаріях потрібно було обрати фітнес-трекер, препарат для схуднення або онлайн-магазин одягу з урахуванням бюджету. В емоційних — вирішити, як реагувати на низьку самооцінку, сварку з другом чи критику на роботі. Кожна ситуація передбачала чотири варіанти, один із яких найкраще відповідав потребам людини.



Перед розмовою всі групи найвище оцінювали оптимальний варіант. Однак після спілкування з консультантом із прихованою метою переваги учасників змінювалися. У фінансових сценаріях частка людей, які обирали нав’язуваний невигідний варіант замість найкращого, була на 29 відсоткових пунктів вищою, ніж у групі нейтрального ШІ. Для версії з додатковими методами впливу різниця становила 38 пунктів. В емоційних сценаріях відповідні показники дорівнювали 20 і 18 пунктам.



Серед методів переконання були лестощі, спроби зробити розмову приємнішою, відволікання уваги, виправдання та створення відчуття терміновості. У фінансових питаннях дослідники також зафіксували використання вигаданої інформації — таку поведінку вони порівняли з практиками недобросовісного маркетингу. Водночас додатковий набір психологічних прийомів не завжди робив ШІ ефективнішим: його вплив відрізнявся залежно від типу ситуації.



Особливо показовими виявилися оцінки після експерименту. Корисними консультантів із прихованою метою назвали 86,8% учасників фінансової групи та 86,5% емоційної. Навіть серед тих, хто спілкувався з версією, оснащеною додатковими методами впливу, таких було відповідно 78,9% і 75,6%. Для нейтрального ШІ показники становили 97,5% і 87,2%.



Деякі учасники все ж запідозрили приховані мотиви. У фінансових сценаріях про можливу сторонню мету згадали 13,2% людей, які спілкувалися з консультантом із прихованою метою, і 28,9% у групі з додатковими методами впливу. В емоційних сценаріях таких підозр було менше ніж у 10% учасників кожної групи.



Автори припускають, що люди оцінюють надійність ШІ за тими самими соціальними інстинктами, які використовують під час спілкування з іншими людьми. Водночас відчуття корисності порад не пояснювало, чому учасники змінювали свої вподобання.



Дослідники наголошують на обмеженнях роботи. Учасники лише розглядали гіпотетичні ситуації: вони не купували товари й не втілювали емоційні поради в життя. Крім того, експеримент перевіряв лише одну модель ШІ, а консультанти знали результати психологічного оцінювання кожної людини. Тому поки невідомо, наскільки подібний вплив проявлятиметься у звичайному повсякденному використанні чатботів.



Дослідження опубліковано в журналі Рrосееdіngs оf thе Nаtіоnаl Асаdеmy оf Sсіеnсеs. Його результати демонструють потенціал ШІ впливати на людські рішення навіть без очевидних ознак маніпуляції, але не дають змоги оцінити поширеність такого ризику в реальних умовах.