У КНР попередження про апокаліпсис через ШІ часто можуть сприйматися як суто західне явище або як хитрий хід.
Дослідників у Кремнієвій долині турбує тривожний сценарій: штучний інтелект стане настільки досконалим, що люди не зможуть завадити йому розпочати глобальну війну з використанням дронів або ядерної зброї.
У Пекіні ж відповідь на це проста: відключити живлення, запровадити інтернет-блокаду та заарештувати винних у неконтрольованій роботі ШІ, пише NYT.
Після того як провідні американські лабораторії штучного інтелекту заявили, що вдосконалені моделі ШІ вийшли за межі тестових середовищ і зламали реальні системи, деякі керівники технологічних компаній та урядовці попередили про катастрофічну загрозу для людства й закликали Пекін та Вашингтон до співпраці.
Однак багатьом у Китаї такі апокаліптичні попередження здаються далекими від реальності й суто західними. Думка про те, що керівна Комуністична партія може втратити контроль над технологією, є майже немислимою. Влада Китаю раніше успішно контролювала інші технології, що потенційно могли дестабілізувати ситуацію, зокрема інтернет. Під час пандемії китайський уряд продемонстрував здатність стримувати серйозні кризи, запроваджуючи локдауни та відстежуючи сотні мільйонів громадян.
«Вони можуть миттєво відключити електромережу всього міста. Вони можуть підійти до людини та відібрати телефон. У фізичному світі вони мають надзвичайно велику владу. З огляду на такий рівень контролю над населенням, як можна переконати партію, що штучний інтелект у комп’ютері — це щось страшне?» — зазначила журналістка із Кремнієвої долини Афра Ван.
За цинічнішим тлумаченням, апокаліптичні попередження — це хитрий хід, покликаний не дати китайським компаніям у сфері штучного інтелекту випередити американських конкурентів. Китайські ЗМІ пишуть, що компанії зі США використовують «маркетинг залякування», щоб зберегти своє лідерство на ринку.
«У вітчизняних галузевих колах або серед людей з мого оточення більшість просто не звертає на це уваги», — каже Цзе Цай, який донедавна досліджував взаємодію людини з комп’ютером і безпеку штучного інтелекту в Університеті Цінхуа.
За його словами, для багатьох представників галузі екзистенційний ризик здається віддаленим.
«Ми досі вважаємо, що штучний інтелект перебуває на дуже ранній стадії розвитку. Увага, як і раніше, зосереджена виключно на можливостях та інноваціях», — зазначив Цзе.
Декому в Китаї песимістичні прогнози щодо штучного інтелекту, у яких звучать мотиви апокаліпсису та розплати за гріхи людства, здаються надто пов’язаними з християнським світоглядом, а тому чужими.
Лян Фан із пекінської консалтингової компанії з питань безпеки штучного інтелекту Concordia зазначив, що китайські уявлення про небо чи Бога також можуть пояснювати різне ставлення до цієї технології.
За його словами, китайська культура наголошує на «єдності неба та людства» й на ідеї, що людина є невіддільною частиною природи.
«Усе, зокрема й штучний інтелект, походить із природи. Тому технологію сприймають радше як партнера, з яким можна співіснувати, а не як зовнішню руйнівну силу», — додав Лян.
Попри це, випуск Mythos — потужної моделі штучного інтелекту від компанії Anthropic — та інших подібних моделей викликав у Китаї занепокоєння. Влада опублікувала нові рекомендації та попередження про те, що агенти штучного інтелекту можуть вийти з-під контролю.
Влада Китаю також підготувала проєкт закону про кіберзлочинність, який зобов’яже компанії у сфері штучного інтелекту контролювати використання своїх моделей і запобігати створенню за їх допомогою шкідливого коду для кібератак.
Цього місяця китайське керівництво опублікувало оновлену версію «Системи управління безпекою штучного інтелекту» — документа, який вважають надійним індикатором майбутнього регулювання. У ньому відображено деякі побоювання Кремнієвої долини щодо «рекурсивного самовдосконалення» (RSI): системи штучного інтелекту можуть стати настільки потужними, що вдосконалюватимуть себе майже без допомоги розробників і вийдуть з-під контролю.
На початку цього місяця високопосадовиця Адміністрації кіберпростору Китаю Ван Ліхун заявила, що кібератаки із застосуванням штучного інтелекту зробили традиційні системи захисту застарілими.
Деякі китайські дослідники роками попереджають про ризики надто швидкого розвитку штучного інтелекту. У 2024 році Пань Сюдун та інші дослідники з Університету Фудань у Шанхаї виявили, що дві популярні великі мовні моделі від Meta та Alibaba продемонстрували здатність до самовідтворення. Дослідники розглядають це як можливий крок до появи систем ШІ, здатних перехитрити людей.
Пань заявив, що він і його колеги хотіли наголосити: екстремальні ризики, пов’язані зі штучним інтелектом, уже не належать лише до сфери наукової фантастики. Це реальна проблема, яка потребує обговорення та ретельного аналізу.
Утім, на думку Пекіна, ШІ — така сама технологія, як і інші: за умови ретельного планування вона може стати потужною силою на благо країни. Китай уже має одні з найсуворіших у світі нормативних вимог щодо цієї галузі.
Хоча в Китаї діють широкі вимоги до регулювання та випробування моделей, закон не зобов’язує компанії оцінювати катастрофічні ризики, зокрема можливість використання системи штучного інтелекту для створення хімічної або біологічної зброї.
Китайські компанії у сфері штучного інтелекту не настільки прозорі щодо своїх заходів безпеки, як американські. Не всі з них оприлюднюють результати оцінювання безпеки перед випуском моделей. Ті, хто це робить, надають менше подробиць і звітують рідше за американських колег. За підрахунками компанії Concordia, лише п’ять із десяти провідних китайських компаній у сфері штучного інтелекту оприлюднили результати таких оцінювань у період із червня 2025 року до травня 2026 року.
Засновниця організації «Відкрита спільнота з безпеки штучного інтелекту в Китаї» Сара Сун заявила, що дискусія в США про загрози, пов’язані зі штучним інтелектом, сприяла активізації обговорення цієї теми в Китаї.
Водночас вона зауважила, що критика Китаю з боку генерального директора Anthropic викликала негативну реакцію. У відкритому листі про небезпеки штучного інтелекту Даріо Амодей зазначив, що демократичні країни повинні зберегти свою перевагу в галузі ШІ над авторитарними державами, такими як Китай. Він закликав ще більше обмежити доступ Пекіна до сучасних мікросхем та іншого обладнання, необхідного для розробки штучного інтелекту.
За словами Сун, через такі заяви нещодавні застереження щодо штучного інтелекту сприймаються радше як виправдання для стримування Китаю, ніж як щире занепокоєння катастрофічними ризиками. Це ускладнює їй та її однодумцям роботу з підвищення обізнаності про безпеку ШІ в Китаї.
«У Китаї є люди, які щиро стурбовані ризиками, пов’язаними з передовими технологіями штучного інтелекту, зацікавлені в безпеці та координації міжнародних заходів реагування», — додала вона.
Однак на тлі недовіри між країнами малоймовірно, що будь-яка угода між США та Китаєм щодо безпеки штучного інтелекту призведе до конкретних змін.