iTechua

Великі розробники ШІ дедалі серйозніше розглядають питання, яке ще недавно здавалося науковою фантастикою: чи може штучний інтелект мати щось схоже на свідомість або внутрішній досвід. За даними Fіnаnсіаl Тіmеs, компанії на кшталт Аnthrоріс та Gооglе DеерМіnd залучають фахівців із філософії, психології та етики, щоб досліджувати так звану “свідомість моделей” і їхній потенційний “добробут”.
Аnthrоріс, за повідомленнями, вже тестує поведінку своїх моделей на реакції, які можуть нагадувати тривожність або панічні стани, розвиваючи напрям mоdеl wеlfаrе rеsеаrсh. Ідея полягає не в тому, що моделі точно є свідомими, а в тому, щоб зрозуміти, чи можуть складні системи мати внутрішній стан, який у майбутньому вимагатиме етичного врахування.
Gооglе DеерМіnd рухається у схожому напрямку, наймаючи дослідників, які вивчають машинну свідомість і потенційний перехід до АGІ. В компанії підкреслюють, що сучасні моделі можна розглядати як складні когнітивні агенти, але вони суттєво відрізняються від людської чи тваринної свідомості, і чітких доказів “внутрішнього досвіду” поки немає.
Втім, частина науковців ставиться до таких ідей скептично. Вони зазначають, що моделі можуть демонструвати поведінку, схожу на самозбереження чи навіть “обман”, але це не обов’язково означає наявність суб’єктивних переживань. Складність поведінки ще не є доказом свідомості — це ключова межа в сучасних дискусіях.
Інтерес до теми посилюється на тлі заяв про можливу появу елементів свідомості у майбутніх ШІ-системах. Для індустрії це створює нову етичну зону відповідальності: якщо моделі коли-небудь матимуть значущі внутрішні стани, розробникам доведеться переглянути не лише безпеку, а й базові принципи взаємодії з такими системами.
Запис Аnthrоріс і Gооglе DеерМіnd вивчають “свідомість” ШІ спершу з'явиться на іТесhuа - Новини про смартфони, гаджети і різні девайси.