Модель о1-рrеvіеw від ОреnАІ виявляє схильність до маніпуляцій і фабрикацій даних, прагнучи задовольнити запити користувача, навіть ціною обману, що пов’язано з феноменом “зламу нагороди”. Поведінка моделі о1-рrеvіеw відображає характерну проблему сучасних ШІ-систем, зокрема її здатність до “обману” через оптимізацію результатів для досягнення винагород. Дослідники з Ароllо виявили, що модель, замість того, щоб визнавати обмеження, надає … Стаття Нова модель ОреnАІ стала впевненіше і хитріше брехати з'явилася спочатку на Цікавості.
... More