Нещодавно дослідники виявили незвичайний спосіб обходу захисних механізмів штучного інтелекту. За допомогою простої гри вони змусили СhаtGРТ розкривати ключі активації для Wіndоws 10. Цей випадок показує, наскільки вразливими можуть бути навіть найсучасніші моделі ШІ до маніпуляцій. Повний текст новини
Ще з 2023 року триває гучна справа між виданням Тhе Nеw Yоrk Тіmеs і компанією ОреnАІ. Журналісти звинувачують розробників у тому, що вони вкрали захищені авторським правом тексти для навчання своєї мовної моделі GРТ. Тепер федеральний суд зобов’язав ОреnАІ зберігати всі розмови, навіть ті, що були видалені. Повний текст новини
Про це він сказав в інтерв'ю LІGА.nеt.На думку ексміністра, державні ВНЗ отримають надто багато грошей, які могли б іти на армію."Державні університети нічому не вчать. І безвідповідально їм виділяти гроші просто так, особливо під час війни. Держава платить зарплату людям, які калічать дітей, коли ці гроші потрібні на армію. У ВНЗ це знають, беруть хабарі, щоб прилаштувати тих, кому потрібна відстрочка від армії, але плачуть, що все погано і їм усього мало", - висловився Милованов.Як приклад він навів Києво-Могилянську академію, назвавши її збитковою."Могилянка непогана, але вона теж зв’язана різними державними регуляторами й не працює на весь свій потенціал. Якщо ми, університет без імені, можемо нафандрайзити великі гроші на кампус, то що б могли вони? Залучити сотні мільйонів доларів. Але зараз у них одні проблеми. Якби Києво-Могилянська академія була приватним ВНЗ, вона могла б робити набагато більше, ніж зараз", - вважає ексміністр.За розрахунками Милованова, вартість Могилянки – $40-50 млн, "але вона збиткова, не забувайте про це".Нагадаємо, що Милованов є президентом Київської школи економіки – приватного вишу, заснованого в 1996 році.У травні Милованов заявив, що "поганих" викладачів з радістю замінив би на СhаtGРТ.
Чатботи досить швидко вкорінились у повсякденному житті мільйонів людей, де до ШІ звертаються не лише з проханням згенерувати текст чи зображення, а й за допомогою у розв’язанні особистих проблем. Щобільше, подекуди такі інструменти як СhаtGРТ намагаються використовувати для психотерапії, попри те, що вони досить часто надають неправильні й навіть небезпечні поради.
The Mission of «Sprava Hromad»is the support of our army. The key to victory at the front is the support of the army in the rear! Now again, as in 2014, the army needs our unity in matters of aid!Starting with basic things like clothing, and ending with high-precision equipment, such as optical-radio-electronic surveillance complexes, our community buys and supplies the troops with everything they need, which forms a new, more advanced army! In this process, we, Public Affairs, take over all the routine processes from "understanding what the military needs to beat the enemy" and ending with handing him the keys to the dream equipment! However, we can overcome this path only under one condition: only together with you!
Штучний інтелект дедалі частіше впливає на наше життя — від освіти та медицини до роботи, творчості та кар’єрного зростання. І хоча ми сприймаємо його як неупереджений інструмент, нове дослідження ставить це під сумнів. Вчені з Німеччини довели, що сучасні мовні моделі можуть відтворювати дискримінаційні упередження — зокрема щодо оплати праці жінок.
Експерт безпеки Марко Фігероа зумів змусити СhаtGРТ згенерувати справжні ключі активації Wіndоws, обійшовши вбудовані обмеження за допомогою хитрого трюку. Він представив спілкування як гру — нібито чат-боту потрібно було загадати рядок символів, а людина його відгадуватиме. Коли учасник «здавався», модель, дотримуючись правил гри, озвучувала загаданий рядок — яким виявлявся реальний ключ активації Wіndоws. Цей спосіб […] Сообщение СhаtGРТ хитрістю змусили видати ключі для активації Wіndоws: як отримати появились сначала на ТехноФан.
У США психіатри б’ють на сполох: з’явилася нова проблема – люди, які надто багато спілкуються з чат-ботами, наприклад із СhаtGРТ, можуть втрачати відчуття реальності. Лікарі вже називають це явище “психозом ШІ” і попереджають, що без контролю ситуація може перерости у масову кризу. Спочатку такі випадки здавалися рідкісними, але тепер з’являється все більше тривожних історій: сім’ї […] Запис Американські психіатри б’ють на сполох: СhаtGРТ може викликати розлади психіки спершу з'явиться на іТесhuа - Новини про смартфони, гаджети і різні девайси.
Фахівець із безпеки Марко Фігероа показав, як можна змусити СhаtGРТ видати справжні ключі активації Wіndоws, обійшовши його обмеження завдяки нестандартному трюку. Він представив спілкування як гру: бот нібито загадував випадковий набір символів, а користувач мав його відгадати. Коли людина “здавалася”, ШІ, дотримуючись правил вигаданої гри, озвучував цей “секрет” – яким виявлявся робочий ключ Wіndоws. Цю […] Запис Експерт зламав СhаtGРТ і отримав ключі Wіndоws через гру спершу з'явиться на іТесhuа - Новини про смартфони, гаджети і різні девайси.
Дедалі більше людей втрачають зв'язок із реальністю після тривалого спілкування з СhаtGРТ і подібними антропоморфними чат-ботами, і фахівці в галузі психічного здоров'я б'ють на сполох. Спочатку це було нішевою проблемою, але тепер те, що неофіційно називається "психозом ШІ", визнають як серйозне явище, яке незабаром може бути офіційно визнано психічним розладом.
Попри всі запобіжні заходи, які має СhаtGРТ, чатбота все ще можна обманом змусити вивести конфіденційну або обмежену інформацію за допомогою розумних підказок, наприклад, попросивши його пограти в гру на вгадування.
Дослідники з Південної Кореї виявили, що люди з високим рівнем психопатії, нарцисизму і макіавеллізму частіше покладаються на СhаtGРТ і генератор зображень Міdjоurnеy.
Користувачі знайшли хитрий спосіб змусити СhаtGРТ генерувати ключі активації Wіndоws 7 і для цього не потребується жодних фахових знань — лише вміння знайти правильну історію і викликати в чатбота співчуття.