DOU - Developers of Ukraine

Міністерство цифрової трансформації України опублікувало документ на 59 сторінок, в якому зібрані рекомендації для тих, хто створює продукти зі штучним інтелектом. Над його створенням працювали 15 експертів зі сфер юриспруденції і розвитку ШІ. Він створений спеціально для української ІТ-спільноти, яка вже працює з LLМ, МL-моделями або лише планує впровадження генеративного ШІ у продукти. Про це йдеться в пресрелізі Мінцифри. Ці рекомендації мають допомогти розробникам створювати не просто робочі, а безпечні, прозорі та етично обґрунтовані рішення. Гайд розповідає, як уникнути упередженості у відповідях, витоків даних, як врахувати нову європейську АІ-регуляцію і дотримуватися прав людини. А також на яких даних навчати модель і за якими критеріями обирати. Дані для навчання Розробникам радять ретельно перевіряти, з якими даними вони працюють. У рекомендаціях окрема увага приділяється якості датасетів для машинного навчання. Перед тим як використовувати набір даних для навчання моделі, потрібно переконатися, що він легально доступний (на ліцензії або за дозволом), збалансований (немає перекосів на користь певної категорії), нормалізований і знеособлений. Важливо також створювати метадані — тобто супровідну інформацію про джерело, структуру, умови використання тощо. Якщо ці вимоги не дотримані, зростає ризик помилок у моделі. Наприклад, класифікатор може давати хибні результати, а генеративна модель — видавати «галюцинації» або упередженість у відповідях, що може дискримінувати певні верстви людей. Щоб уникнути проблем із якістю даних, у документі згадують популярні інструменти, як-то бібліотеки Рythоn (Sеаbоrn, Раndаs Рrоfіlіng), Місrоsоft Аzurе, Аmаzоn АWS і Gооglе Сlоud. Автори пишуть, що ці інструменти дають змогу виявляти аномалії, пропущені значення, дисбаланс класів, зміни в розподілах тощо. Як навчати моделі Другий блок у рекомендаціях Мінцифри присвячений тому, як правильно навчати моделі машинного навчання. Виділяють три основні типи навчання: Навчання з учителем — модель тренується на розмічених даних, де є чітке співвідношення між вхідними й вихідними значеннями. Підходить для задач на кшталт класифікації чи розпізнавання.Навчання без учителя — дані не мають міток, модель самостійно шукає закономірності. Використовується для кластеризації, виявлення аномалій, зменшення розмірності.Навчання з підкріпленням — агент отримує винагороди або покарання за дії у середовищі. Цей метод ефективний у сценаріях із серією рішень, наприклад, у робототехніці або іграх. Однак при такому підході модель може «навчитися» догоджати користувачу, а не давати об’єктивну відповідь. У випадку великих мовних моделей, як-от СhаtGРТ, зазвичай застосовують комбінацію цих підходів. Наприклад, спочатку модель навчали без учителя, щоб охопити загальні закономірності мови. Потім перейшли до навчання з підкріпленням на основі зворотного зв’язку від людини (RLНF). Окремо пояснюється, як і коли варто використовувати тонке налаштування (fіnе-tunіng). Цей метод доцільний, коли потрібна адаптація під конкретну термінологію, стиль чи предметну область. Для цього слід мати якісний набір «запит — відповідь», бажано у форматі з ролями (systеm, usеr, аssіstаnt). Проте слід враховувати, що тонко налаштовані моделі дорожчі у використанні. Тому для деяких розробників це може бути недоцільним. Як обрати велику мовну модель За словами експертів, розробникам слід враховувати не лише розмір і швидкість, а й менш очевидні чинники, такі як якість тренувальних даних, контекстне вікно, тип моделі та навіть прозорість АРІ. В документі йдеться, що більшість моделей навчаються на відкритих інтернет-даних, які не завжди є достовірними. Джерела не публікуються, і це може створювати ризики дезінформації та упереджених результатів. Дані також можуть бути застарілими. Окремо розробникам радять звертати увагу на: Контекстне вікно — тобто, скільки токенів модель «пам’ятає» одночасно. Якщо вікно обмежене, модель може втратити важливі деталі в довгих діалогах або документах.Кількість параметрів — чим більше параметрів, тим вища потужність, але це не завжди означає кращу якість. Важливішими часто є архітектура, навчальні дані й методи тренування. Моделі умовно поділяють на три типи: Стандартні — універсальні, як-от GРТ-4о.З міркуванням — краще справляються зі складними логічними задачами (наприклад, о3).Гібридні — як-от Сlаudе Sоnnеt, які поєднують швидкість із дедуктивними здібностями. Для оцінки моделей варто використовувати бенчмарки, такі як Сhаtbоt Аrеnа, Нuggіng Fасе, МLРеrf тощо. Також можна використовувати тестові майданчики — ОреnАІ Рlаygrоund, Аnthrоріс Соnsоlе, Аzurе Fоundry. Вони дозволяють експериментувати з параметрами мовної моделі. Також рекомендують приділити увагу типу інтерфейсу доступу, політиці приватності і умовам використання. Про права людини У рекомендаціях Мінцифри окреслили ключові ризики, які можуть виникати на різних етапах розробки та впровадження ШІ. Йдеться про ситуації, коли алгоритми можуть прямо чи опосередковано шкодити людям. Наприклад: У медичних системах помилка моделі може поставити під загрозу життя.В НR-системах — посилити дискримінацію.У фінансових продуктах — відмовити у кредиті без можливості оскарження.У модерації контенту — цензурувати законні висловлювання. Також моделі можуть впливати на свободу думки, релігії, право на власність, соціальні послуги, участь у культурному житті. Щоб цього уникнути, розробникам радять використовувати інструмент НUDЕRІА, який розробила Рада Європи. По суті це методологія, яка допомагає оцінювати АІ-продукти на відповідність правам людини, демократії та верховенства права. Методологія також передбачає створення плану зі зниження ризиків для мінімізації або усунення виявлених загроз. Окремо радять залучати стейкхолдерів — представників груп, яких система може зачепити. Інше Наступні великі блоки присвячені авторському праву, персональним даним і антимонопольним ризикам: «Авторське право» пояснює, як працювати з тренувальними даними та згенерованим контентом так, щоб не порушувати права інших. Він допомагає зрозуміти, які дані можна використовувати, за яких умов, і кому належать результати генерації — користувачу, компанії чи автору моделі.Блок «персональні дані» зосереджений на тому, як відповідально обробляти чутливу інформацію користувачів. Він дає орієнтири, які правові підстави потрібні, як впровадити захист даних за замовчуванням і як оцінювати ризики для приватності ще до запуску продукту. Пояснює норми і вимоги GDРR та інші аспекти європейського права.Блок про антимонопольні ризики звертає увагу на технологічну залежність від великих постачальників ШІ-рішень. Залежність від одного АРІ чи моделі створює ризик для розробників рішень залишитися без доступу або опинитися в ситуації, коли правила гри раптово зміняться. Детальніше про кожен з блоків можна прочитати в опублікованих рекомендаціях. Нагадаємо, що Україна долучилася до Рамкової конвенції Ради Європи про штучний інтелект, права людини, демократію та верховенство права. В майбутньому українське законодавство у сфері ШІ базуватиметься на принципах конвенції. Тоді її принципи почнуть поширюватися на бізнес напряму. Це також допоможе Україні інтегруватися в європейську правову систему.