Штучний інтелект виявився менш схожим на людський мозок, ніж вважалосяШтучний інтелект може використовувати зовсім інші механізми обробки візуальної інформації, ніж людський мозок, навіть коли успішно відтворює його реакції. Такого висновку дійшли дослідники Йоркського університету в Канаді, які розробили новий спосіб порівняння штучних нейромереж із біологічними. Про результати опублікованої в журналі Nаturе Масhіnе Іntеllіgеnсе роботи повідомляє SсіеnсеDаіly.
Штучні нейромережі вже давно використовують не лише для розпізнавання зображень, а й для вивчення роботи людського мозку. Вони здатні досить точно передбачати активність нейронів, коли людина або інша тварина дивиться на певні об'єкти.
Через це вчені припускали, що такі системи можуть відтворювати деякі принципи роботи біологічного зору. Однак нове дослідження показало, що подібність результатів не обов'язково свідчить про подібність механізмів.
«Системи штучного інтелекту часто називають схожими на мозок, оскільки вони можуть передбачати активність його ділянок, які допомагають нам розпізнавати об'єкти. Досі вчені переважно перевіряли це лише в одному напрямку — чи здатні моделі ШІ передбачати активність мозку», — пояснив керівник дослідження, професор Йоркського університету Кохітій Кар.
Його команда вирішила перевірити зворотний зв'язок: чи можна за активністю справжніх нейронів передбачити, що відбувається всередині штучної нейромережі.
Для цього дослідники розробили метод, який назвали rеvеrsе рrеdісtіvіty tеstіng — перевіркою зворотної передбачуваності.
У межах експерименту вони використали 1320 фотографій і реалістичних синтетичних зображень десяти знайомих об'єктів: ведмедя, слона, людського обличчя, яблука, автомобіля, собаки, стільця, літака, птаха та зебри.
Як працює штучний інтелект і чому він лише вдає, що нас розуміє
Об'єкти зображували на різноманітному тлі — від природних пейзажів до приміщень. Додатково вчені використали 300 зображень тих самих об'єктів у різних стилях, зокрема у вигляді малюнків, контурів і спрощених зображень.
Результати виявили суттєву відмінність між штучним інтелектом і біологічним мозком.
Нейромережі досить добре передбачали реакції справжніх нейронів на зображення. Однак коли дослідники спробували виконати зворотну операцію, активність нейронів виявилася значно менш придатною для передбачення багатьох внутрішніх характеристик штучних моделей.
Цікаво, що під час аналогічного порівняння нейронної активності двох біологічних мозків такої вираженої невідповідності не спостерігали.
«Результати були вражаючими. Хоча моделі ШІ можуть досить добре передбачати активність нейронів, які ми реєстрували в мозку, сам мозок не може настільки ж добре передбачати багато внутрішніх характеристик цих моделей», — зазначив Кар.
За словами дослідників, це означає, що штучний інтелект може досягати результатів, схожих на роботу мозку, але використовувати для цього інші внутрішні стратегії.
ШІ-роботи й склянка води на старість
Водночас вчені виявили, що ті компоненти нейромереж, які найбільше відповідають біологічній активності мозку, також краще передбачають реальну поведінку людей.
Це відкриття має значення не лише для розробників штучного інтелекту, а й для нейробіологів.
Сьогодні нейромережі дедалі частіше використовують для дослідження сприйняття, поведінки та неврологічних особливостей людини. Зокрема, комп'ютерні моделі допомагають вивчати механізми, пов'язані з аутизмом та іншими станами, що впливають на обробку інформації.
Однак якщо модель правильно передбачає реакцію мозку, але використовує механізми, яких у біологічній нервовій системі немає, дослідники ризикують зробити помилкові висновки про її роботу.
«Наші результати ставлять під сумнів те, наскільки сучасні системи ШІ справді схожі на мозок приматів. Ми показали, що моделі, які раніше вважалися подібними до мозку, покладаються на внутрішні компоненти, яких мозок, схоже, не використовує», — пояснила співавторка дослідження Сабін Мюзеллек.
Науковці наголошують, що їхнє відкриття не означає необхідності відмовитися від штучних нейромереж як інструменту дослідження мозку. Навпаки, запропонований метод дозволяє точніше визначати, які компоненти ШІ справді відтворюють біологічні процеси.
Команда також оприлюднила інструментарій, за допомогою якого інші дослідники зможуть перевіряти власні моделі.
Хто має встановити правила використання ШІ в науці та освіті
У перспективі це може допомогти створювати системи штучного інтелекту, які не лише правильно розпізнаватимуть навколишній світ, а й точніше відтворюватимуть принципи роботи людського мозку.
Водночас автори зазначають, що їхні висновки стосуються насамперед нейромереж комп'ютерного зору та їхнього порівняння з мозком приматів. Вони не доводять, що всі сучасні системи штучного інтелекту працюють принципово інакше, ніж людський мозок.
Go to zn.ua