Дзеркало Тижня

Китайська компанія намагається розробити технологію на основі штучного інтелекту, яка дозволить авторитарним урядам не тільки стежити за дисидентами, але й потенційно передбачати, хто може стати інакодумцем у майбутньому, пише NYТ.

ВАС ЗАЦІКАВИТЬ





Захист від домінування США: Міstrаl АІ прискорює створення європейського суперінтелекту



Цей проєкт, який, судячи з усього, перебуває на стадії дослідження, нагадує антиутопічну наукову фантастику та дає уявлення про світ, у якому авторитарна держава здатна вживати заходів проти своїх громадян ще до того, як вони почнуть висловлювати публічну незгоду.
Китайська компанія Gееdgе Nеtwоrks продає комерційну версію “Великого брандмауера” — програмного забезпечення для спостереження та цензури, яке Китай використовує для контролю за діяльністю в інтернеті. Ці інструменти дозволяють урядам відстежувати інтернет-трафік і сигналізувати, коли хтось намагається обійти традиційну інтернет-цензуру.
Але, згідно з витоком документів компанії, фірма працює над новими розробками, які використовують штучний інтелект для аналізу даних про місцеперебування та використання інтернету, щоб передбачити, хто може зробити або сказати щось критичне на адресу уряду, за даними дослідників з Університету Вандербільта.
Така технологія, якщо її вдосконалити, надасть авторитарним урядам потужний інструмент для боротьби з “ворогами”.
Сама думка про те, що авторитарний уряд може використовувати штучний інтелект для придушення інакомислення, вже викликає серйозне занепокоєння. Але, на думку деяких представників галузі, використання ШІ для прогнозування інакомислення задовго до того, як людина встигне вчинити будь-які дії, перетворилося на справжній критичний сценарій.
“Ось що відбувається, коли масове стеження поєднується зі штучним інтелектом. Без системи стримувань і противаг те, що Китай робить зі своїми громадянами, є анонсом того, що стане можливим будь-де, де ці інструменти залишаються без контролю”, — зазначив Бретт Дж. Голдштейн з Інституту національної безпеки Університету Вандербільта.
Аналітики Університету Вандербільта виявили, що компанія Gееdgе, співпрацюючи зі своїм дослідницьким підрозділом МЕSА Lаb, підтримуваним урядом, розробляла технологію, яка б створювала профілі китайських громадян, а потім використовувала ШІ для виявлення тих, хто може становити політичний ризик.
Однак прогрес компанії, схоже, був уповільнений через запроваджені США за часів  адміністрації Джо Байдена експортні обмеження на ШІ-чипи американського виробництва. Документи Gееdgе показують, що у 2024 році, коли діяли жорсткі американські експортні обмеження щодо Китаю, у компанії були труднощі з пошуком достатньої обчислювальної потужності для технологій спостереження.
За словами американських чиновників, сьогодні Gееdgе має доступ до достатньої кількості графічних процесорів для своїх поточних розробок. Однак для реалізації найамбітнішої версії технології прогнозування компанії, ймовірно, знадобляться досконаліші чипи, ніж ті, які Китай може придбати.
Колишні чиновники адміністрації Байдена кажуть, що, за даними розвідки, їхня політика обмеження доступу Китаю до високотехнологічних чипів американського виробництва дозволила зберегти перевагу США у сфері штучного інтелекту та уповільнити розвиток інших китайських технологій.
Однак залишається відкритим питання, чи сповільнять американські експортні обмеження розвиток Китаю в напрямку більш репресивного використання ШІ.
Адміністрація нинішнього президента США Дональд Трампа послабила деякі експортні обмеження, запроваджені за часів Байдена, та зберегла обмеження на найсучасніші процесори від Nvіdіа — американської компанії, яка розробляє найпотужніші у світі ШІ-чипи. Під час недавньої поїздки Трампа до Пекіна американські чиновники заявили, що Китай отримає доступ до досконалішої версії чипів Nvіdіа.
Але Китай намагається позбавити свої компанії, що займаються штучним інтелектом, залежності від використання чипів американського виробництва, щоб експортний контроль більше не міг стримувати їхні амбіції.
Нова інформація отримана з великого масиву даних — ста тисяч документів компанії Gееdgе, опублікованих у вересні минулого року. На основі цих документів ЗМІ описали, як Gееdgе експортувала своє програмне забезпечення для мережевої безпеки до таких країн, як Ефіопія, Казахстан, М’янма та Пакистан, що дозволило їм здійснювати стеження в мобільних мережах.
Дослідники з Університету Вандербільта, які ретельно вивчали документи, зосередилися не на технології, яку продавала Gееdgе, а на технології наступного покоління, яку компанія намагалася розробити, а також на обмеженнях, які могли завадити їй реалізувати цю стратегію.
Згідно з документами Gееdgе, у перші місяці 2024 року дослідники компанії працювали над розробкою поведінкових профілів людей на основі даних телекомунікацій, соціальних мереж і даних про місцеперебування. Моделі штучного інтелекту використовувалися для класифікації людей та “виявлення шкідливої інформації”, що часто є евфемізмом, який використовує Комуністична партія Китаю для ідентифікації політичних дисидентів або матеріалів, які уряд хоче придушити.
На одному із засідань 5 лютого 2024 року дослідники обговорювали, як створювати профілі людей для “виявлення їхніх намірів” та “шкідливої інформації”.
Імовірно, дослідники Gееdgе розробляли інструменти для використання штучного інтелекту з метою прогнозування, хто може стати критиком китайського уряду, на основі закономірностей у даних, зібраних технологіями спостереження.
“Дослідницька команда Gееdgе займалася не лише фіксацією моделей поведінки. Вони намагалися передбачити, що громадяни можуть зробити далі. Ці запаси даних є сировиною для створення профілів, які визначають, хто ви є і що будете робити далі”, — зазначають дослідники Університету Вандербільта.
Gееdgе не відповіла на запит NYТ про коментар.
Згідно з дослідженням Університету Вандербільта, команда китайської компанії працювала над пов’язуванням фізичних переміщень з іншою онлайн-активністю, зокрема з тим, які фільми люди дивилися та які книги читали.
Дослідження Gееdgе певною мірою були схожі на роботу іншої китайської компанії, пов’язаної з урядом, — GоLахy. Минулого року повідомлялося, що GоLахy працювала над програмним забезпеченням на базі штучного інтелекту, яке б поширювало цільову пропаганду.
Китай роками розробляє технології спостереження і прогнозування. Але, як показують документи Gееdgе, моделі штучного інтелекту прискорили розробку таких інструментів. 
Хоча документи не охоплюють останні місяці, немає доказів того, що Gееdgе завершила роботу над проєктом або вже розгорнула технологію прогнозування, за словами американських чиновників.
Але посадовці визнали, що китайські компанії працюють над такою технологією, щоб вдосконалити систему стеження. А китайські бюро громадської безпеки поспішають використовувати DеерSееk, провідну в країні модель штучного інтелекту, для розробки інших технологій поліцейського контролю та прогнозування. 
Gееdgе та інші китайські компанії, що займаються технологіями стеження, ймовірно, мають достатню обчислювальну потужність для своїх інструментів поточного покоління. Однак інструменти прогнозування, особливо якщо компанія зрештою почне використовувати перехоплені телефонні розмови або відео з камер спостереження, можуть зіткнутися з обмеженнями обчислювальної потужності.
“Китайські служби безпеки мають справу з надмірним обсягом даних. Вони отримують занадто багато інформації одночасно. Справжня цінність штучного інтелекту полягає в тому, що він може сортувати дані та виявляти загрози. Але їхня здатність масштабувати це залежить від доступу до обчислювальних потужностей. Саме це робить експортний контроль таким важливим”, — зазначає старший науковий співробітник Інституту глобальних конфліктів та співпраці Каліфорнійського університету Джиммі Гудріч.

ВАС ЗАЦІКАВИТЬ





Штучний інтелект виявився занадто дорогим для американського бізнесу — Ахіоs



Чому ШІ — це більше не про технології, а про політичний вплив і контроль над майбутнім, у статті “Поки Україна розробляє стратегію ШІ, світ уже ділить вплив на нього” розповідав Олексій Костенко.
Про те, хто контролюватиме штучний інтелект, цифрові платформи й технології, від яких у ХХІ столітті залежатимуть економіка, війна і політика, — у статті “США і Китай ділять майбутнє ШІ: що стоїть за зустріччю Трампа та Сі” Олексія Костенко.