Штучний інтелект ускладнив контроль над сучасними війнами – Foreign Policy
Безпілотник усе ще потребує оператора-людини, однак чимало новітніх моделей уже обходяться без нього.
Стрімке впровадження штучного інтелекту у військову справу змінює саму природу збройних конфліктів: їх стає легше розпочати і складніше контролювати.
Про це пише Foreign Policy.
Освячений дрон під Запоріжжям
Цієї весни, під час Страсного тижня, священник відвідав український підрозділ безпілотників поблизу Запоріжжя. Він помолився разом із бійцями за їхній захист, а потім окропив святою водою ударний дрон «Гара» перед бойовим вильотом. Цей апарат усе ще потребував оператора-людини, однак чимало новітніх моделей, які розробляють провідні армії світу, уже обходяться без нього. Подібні автономні системи – зокрема безпілотні платформи, які самостійно виявляють і супроводжують цілі, – активно тестує й Україна у боротьбі проти російських «шахедів».
Навіщо переглядати правила справедливої війни
За словами аналітиків видання, теорія справедливої війни, яка формувалася століттями, потребує не скасування, а переосмислення з урахуванням реалій сучасних конфліктів. Ідеться передусім про війну, яка дедалі частіше ведеться опосередковано: технології та суперництво великих держав дозволяють тим, хто отримує вигоду від конфлікту, дистанціюватися від його реальних наслідків.
Класична доктрина визначає кілька умов, за яких застосування сили вважається виправданим:
- рішення про вступ у війну має бути відповіддю на акт агресії;
- воно повинне виходити з правильних намірів і ухвалюватися законною владою;
- війна має залишатися крайньою мірою з реальною перспективою завершення справедливим миром;
- сила, що застосовується, має бути співмірною воєнній меті;
- сторони конфлікту зобов'язані уникати прямих ударів по цивільних і вживати додаткових заходів для зниження ризику для мирного населення.
Розрив між рішенням і наслідками
Впровадження штучного інтелекту у військовий потенціал по обидва боки Тихого океану сприяє формуванню такого типу ведення бойових дій, за якого між особами, що ухвалюють рішення, і самим актом ураження цілі з'являється дедалі більше проміжних технологічних ланок. Це підвищує ймовірність застосування сили, навіть попри те, що удари стають точнішими.
Автори аналізу наголошують: така практика ставить під загрозу принцип підзвітності – ключовий елемент, необхідний для життєздатності будь-якого нормативного режиму. І якою б точною не була техніка, машини досі не здатні на милосердя та інші людські якості, які роблять війну бодай трохи гуманнішою і допомагають закласти основи для стійкішого миру.
Що пропонують натомість
Оновлена доктрина справедливої війни, на думку Foreign Policy, повинна розв'язувати проблеми ведення бойових дій із залученням технологічних посередників – відновлювати баланс вигод і витрат та чіткіше пов'язувати конкретні дії з їхніми наслідками, щоб застарілі концепції відповідальності не заважали застосуванню базових принципів.
Один зі шляхів досягти цього – закладати етичні норми ще на етапі розробки, вбудовуючи механізми запобігання шкоді цивільним до введення систем в експлуатацію, а не встановлювати відповідальність заднім числом, коли провину покладають на солдатів, які лише довірилися техніці.
Нагадаємо, раніше експеримент за участю популярних мовних моделей показав, що в умовах змодельованого воєнного конфлікту штучний інтелект схильний обирати ескалацію аж до застосування ядерної зброї, а не шукати шляхи мирного врегулювання.
До слова, начальник штабу оборони Великої Британії сер Річард Найтон, відвідавши прифронтовий штаб під Покровськом, зізнався, що його стривожила «гейміфікація вбивства» – коли кожне ураження цілі оператор дрона фіксує на камеру, отримує за нього ігрові бали, а результати виводяться на загальний рахунок на екрані штабу. Британський генерал також попередив, що розвиток штучного загального інтелекту (AGI) може стати «настільки ж значним проривом, як і атомна бомба».
