Українська соціальна мережа на Платформі we.ua

Штучний інтелект може аналізувати тисячі резюме, допомагати лікарям оцінювати результати обстежень і розпізнавати обличчя на фотографіях. Здається, що машина має бути об’єктивнішою за людину: вона не втомлюється, не керується емоціями й здатна швидко обробляти великі обсяги даних. Але є проблема: алгоритми навчаються на інформації, яку створили люди, а отже, можуть переймати її недоліки.

У результаті система здатна віддавати перевагу одним кандидатам на роботу перед іншими, гірше розпізнавати людей із певними зовнішніми ознаками або відтворювати суспільні стереотипи. Це називають алгоритмічною упередженістю. Вона не обов’язково виникає через навмисну дискримінацію з боку розробників: іноді достатньо невдалого набору навчальних даних, неправильно сформульованого завдання або критеріїв оцінювання, які не враховують інтересів усіх груп людей.

Як алгоритм може відтворювати людські упередження

Уявімо компанію, яка використовує ШІ для первинного відбору кандидатів. Систему навчають на резюме людей, які раніше успішно обіймали керівні посади. Якщо серед цих працівників переважали чоловіки, алгоритм може засвоїти закономірності, характерні саме для їхніх кар’єрних шляхів. Через це резюме жінок із відповідною кваліфікацією ризикують отримувати нижчі оцінки.

Алгоритм не обов’язково «вважає» чоловіків кращими керівниками в людському розумінні. Він шукає закономірності в наданих даних і може помилково сприймати історичну нерівність як ознаку успіху. Якщо результати роботи системи ніхто належно не перевіряє, старі упередження перетворюються на автоматизовані рішення.

Важливо відрізняти звичайну помилку алгоритму від дискримінаційного результату. Якщо програма випадково неправильно оцінює окреме резюме, це ще не обов’язково свідчить про системну упередженість. Проблема стає серйознішою, коли помилки регулярно зачіпають певну групу людей і обмежують її доступ до роботи, послуг чи інших можливостей.

Де алгоритмічна упередженість уже завдавала шкоди

Проблема не обмежується теоретичними сценаріями. У 2018 році стало відомо, що експериментальна система рекрутингу Amazon віддавала перевагу деяким резюме чоловіків. Алгоритм навчався на історичних даних про кандидатів, у яких переважали чоловіки, і засвоїв закономірності, що відображали цей дисбаланс. Компанія припинила роботу над інструментом, оскільки не змогла гарантувати, що він не дискримінуватиме кандидаток.

Ще одна відома проблема стосується технологій розпізнавання облич. Дослідження показували, що деякі системи гірше визначали стать темношкірих жінок, ніж світлошкірих чоловіків. Серед причин була недостатня різноманітність зображень, на яких навчали алгоритми. Якщо певна група людей представлена в навчальних даних недостатньо, система може частіше помилятися саме під час роботи з нею.

Упередженість може впливати й на доступ до фінансових послуг або медичної допомоги. Наприклад, алгоритм оцінювання ризиків здатний відтворювати нерівність, закладену в історичних даних. Якщо попередні рішення були несправедливими до певної групи, система може продовжити цю тенденцію, навіть коли її розробники не ставили такої мети.

Чому складно зробити алгоритми справедливими

Проблема починається з даних. Модель машинного навчання знаходить закономірності в прикладах, на яких її тренують. Якщо інформація неповна, застаріла або не відображає різноманітності реального світу, результати можуть бути спотвореними. Саме тому важливо перевіряти не лише обсяг навчальних даних, а й те, кого вони представляють.

Впливає і спосіб постановки завдання. Перш ніж створювати алгоритм, розробники вирішують, що саме він має прогнозувати та за якими критеріями оцінюватимуть результат. Якщо обраний показник не враховує важливих обставин, система може приймати формально послідовні, але несправедливі рішення.

Не завжди зрозуміло, чому модель ухвалила конкретне рішення. Складні алгоритми можуть враховувати безліч взаємопов’язаних ознак. Навіть коли система працює технічно правильно, визначити причину певного результату буває непросто. Це ускладнює пошук помилок і перевірку того, чи не дискримінує алгоритм окремі групи.

Як зменшити ризик упередженості ШІ

Повністю усунути всі помилки неможливо, але ризики можна зменшити. Для цього потрібно перевіряти навчальні дані, тестувати систему на різних групах людей і порівнювати результати, які вона видає. Якщо певна група регулярно отримує гірші оцінки без обґрунтованої причини, розробникам необхідно з’ясувати, звідки виникає така різниця.

Не менш важливо визначати чіткі критерії успіху. Наприклад, для системи відбору кандидатів недостатньо вимірювати лише швидкість обробки резюме. Потрібно також оцінювати якість відбору, частоту помилкових відмов і те, чи не виникають систематичні відмінності між групами претендентів.

У сферах із високою ціною помилки — медицині, працевлаштуванні, кредитуванні — автоматизовані рішення варто доповнювати належним людським контролем. Людина має мати можливість перевірити сумнівний результат, виправити помилку та пояснити, чому рішення було ухвалене. Самого факту, що система використовує штучний інтелект, недостатньо, щоб вважати її висновки правильними.

Чи може штучний інтелект бути об’єктивним

Алгоритми не мають людських переконань у звичному розумінні, але це не робить їх автоматично нейтральними. На їхні результати впливають дані, вибір розробників, критерії оцінювання та умови використання. Тому важливо не сприймати відповідь комп’ютерної системи як беззаперечну істину лише тому, що її отримано автоматично.

Алгоритмічна упередженість — не доказ того, що штучний інтелект обов’язково дискримінуватиме людей. Це нагадування, що технології потребують перевірки, прозорих правил і відповідальності за наслідки. Що більше рішень передають алгоритмам, то важливіше розуміти, на яких даних вони навчаються, як оцінюють людей і хто може виправити помилку.

The post Алгоритмічна упередженість: як штучний інтелект може дискримінувати людей first appeared on Лайфхакер.

А Ви знаєте що на Платформі we.ua діє реферальна програма?

Ви приводите друзів та знайомих і отримуєте винагороду за їх реєстрації.

То ж, не гайте час! Розкажіть про we.ua своїм друзям, родичам та колегам. Надішліть їм своє реферальне посилання, яке легко знайти в розділі Мої друзі, та отримайте на свій бонусний рахунок додаткові надходження за кожну нову реєстрацію.

Розміщуйте своє реферальне посилання в інших соціальних мережах, в коментарях, в тематичних форумах та будь-де. Так у Вас буде більше друзів та підписників і більше бонусів на бонусному рахунку.

Ви зможете використати бонуси на додаткові послуги Платформи, а також - придбати корисні товари в нашій online-крамничці.

Детальніше про реферальну програму: https://we.ua/info/referral-program.

Уявіть, що у вашому організмі є клітини, які походять від іншої людини. Вони мають інший генетичний набір, але можуть роками залишатися у ваших тканинах, навіть коли вагітність давно завершилася. Це не фантастика й не виняткова медична аномалія, а явище, яке науковці називають мікрохімеризмом.

Найвідоміший його приклад пов’язаний із вагітністю. Клітини плода можуть проникати в організм матері, а материнські клітини — переходити до плода. Деякі з них зберігаються в організмі десятиліттями. Дослідники виявляють такі клітини в різних тканинах, зокрема в крові, кістковому мозку та печінці. Проте вчені досі з’ясовують, яку роль вони відіграють і чи впливають на здоров’я людини.

Як клітини дитини потрапляють до організму матері

Під час вагітності плацента забезпечує обмін речовинами між організмами матері та плода. Вона виконує роль складного біологічного бар’єра, але не є абсолютно непроникною для клітин. Деякі клітини можуть перетинати плаценту в обох напрямках: від плода до матері та від матері до плода. Цей процес називають фетоматеринським клітинним обміном.

У крові вагітної можуть з’являтися клітини плода, зокрема клітини-попередники, здатні давати початок різним типам клітин. Частина з них зникає після завершення вагітності, проте деякі можуть зберігатися в організмі матері протягом багатьох років. Дослідники виявляли клітини фетального походження навіть через десятиліття після пологів.

Обмін відбувається і в протилежному напрямку. Клітини матері можуть потрапляти до плода ще до народження та залишатися в його організмі в дитинстві й дорослому віці. Тому мікрохімеризм — це не лише історія про клітини дитини в тілі матері, а й про тривале співіснування генетично відмінних клітин у двох поколіннях.

Чому ці клітини не зникають разом із вагітністю

Імунна система зазвичай розпізнає та контролює чужорідні клітини. Однак під час вагітності організм має підтримувати складний баланс: захищати матір і плід, водночас не відторгаючи тканини, необхідні для розвитку дитини. Взаємодія імунних систем матері та плода є одним із чинників, які допомагають пояснити, чому деякі клітини можуть зберігатися після народження.

Мікрохімерні клітини не обов’язково поводяться як звичайні клітини, пересаджені від іншої людини. Їх може бути надзвичайно мало, а їхнє виживання залежить від типу клітин, особливостей імунної системи та тканини, у якій вони опинилися. Дослідники вивчають, чи здатні деякі з них підтримувати тривале існування завдяки властивостям клітин-попередників або пристосуванню до місцевого середовища.

Важливо також не плутати мікрохімеризм із наявністю в організмі лише чужої ДНК. У деяких дослідженнях виявляють генетичний матеріал, а в інших — цілі клітини, які мають генетичне походження від іншої людини. Це різні типи доказів, і вони не завжди дають змогу зробити однакові висновки про функції таких клітин.

Чи можуть клітини дитини допомагати матері відновлюватися?

Одна з найцікавіших гіпотез полягає в тому, що мікрохімерні клітини можуть брати участь у відновленні пошкоджених тканин. У деяких дослідженнях клітини фетального походження знаходили в ділянках материнського організму, де відбувалися запальні процеси або загоєння. Це породило припущення, що вони можуть реагувати на сигнали пошкодження й долучатися до відновлення.

В експериментах на тваринах клітини фетального походження демонстрували здатність накопичуватися в певних пошкоджених тканинах. Деякі результати також свідчать, що окремі клітини можуть набувати властивостей, характерних для клітин відповідної тканини. Проте виявити такі клітини в місці пошкодження — ще не означає довести, що саме вони відновили орган або поліпшили його роботу.

У дослідженнях на людях причинно-наслідковий зв’язок встановити складніше. Потрібно з’ясувати, чи справді мікрохімерні клітини виконують корисну функцію, чи просто потрапляють до ділянки запалення разом з іншими клітинами. Тому твердження, що клітини дитини «лікують» матір, поки що було б надто категоричним.

Мікрохімеризм і хвороби: чи є прихована небезпека?

Дослідники також вивчають можливий зв’язок мікрохімеризму з аутоімунними захворюваннями, за яких імунна система помилково атакує власні тканини. Оскільки мікрохімерні клітини генетично відрізняються від клітин організму, у якому вони перебувають, вони теоретично можуть впливати на імунну відповідь.

У науковій літературі описано зв’язки між мікрохімеризмом і деякими аутоімунними станами. Проте результати неоднозначні. В одних випадках більша кількість клітин іншого генетичного походження асоціювалася із захворюванням, в інших — мікрохімеризм розглядали як можливий захисний чинник. Сам факт виявлення таких клітин не доводить, що вони спричинили хворобу.

Подібні питання виникають і в дослідженнях раку. Мікрохімерні клітини знаходили в деяких пухлинах та прилеглих тканинах. Існують гіпотези, що вони можуть впливати на імунний нагляд або процеси відновлення, але їхня роль залежить від конкретного типу клітин і захворювання. Наразі немає підстав вважати мікрохімеризм універсально шкідливим або, навпаки, захисним явищем.

Чи залишаються клітини попередніх поколінь у нашому тілі?

Мікрохімеризм робить історію клітинного обміну ще цікавішою, адже клітини можуть переходити між поколіннями. Людина може зберігати клітини, отримані від власної матері ще до народження, а згодом, під час вагітності, набувати клітини вже своєї дитини. Таким чином, у її організмі потенційно можуть співіснувати мікрохімерні клітини різного походження.

Це не означає, що кожна людина обов’язково має однаковий набір таких клітин або що вони неодмінно виконують певну функцію. Кількість, тип і тривалість їхнього збереження можуть суттєво відрізнятися. На результати досліджень також впливають методи виявлення, історія вагітностей, переливань крові та трансплантацій.

Мікрохімеризм змушує науковців уважніше подивитися на поняття біологічної індивідуальності. Наш організм не завжди складається виключно з клітин, що мають один генетичний набір. Проте значення цього факту для здоров’я, імунітету та старіння ще належить з’ясувати. Найважливіше відкриття полягає не в тому, що клітини іншої людини неодмінно змінюють наше життя, а в тому, що їхнє тривале співіснування з організмом набагато складніше, ніж вважали раніше.

The post Мікрохімеризм: як клітини іншої людини можуть залишатися у вашому тілі десятиліттями first appeared on ScientistMan.