Безпілотник усе ще потребує оператора-людини, однак чимало новітніх моделей уже обходяться без нього.
Стрімке впровадження штучного інтелекту у військову справу змінює саму природу збройних конфліктів: їх стає легше розпочати і складніше контролювати.
Про це пише Foreign Policy.
Цієї весни, під час Страсного тижня, священник відвідав український підрозділ безпілотників поблизу Запоріжжя. Він помолився разом із бійцями за їхній захист, а потім окропив святою водою ударний дрон «Гара» перед бойовим вильотом. Цей апарат усе ще потребував оператора-людини, однак чимало новітніх моделей, які розробляють провідні армії світу, уже обходяться без нього. Подібні автономні системи – зокрема безпілотні платформи, які самостійно виявляють і супроводжують цілі, – активно тестує й Україна у боротьбі проти російських «шахедів».
За словами аналітиків видання, теорія справедливої війни, яка формувалася століттями, потребує не скасування, а переосмислення з урахуванням реалій сучасних конфліктів. Ідеться передусім про війну, яка дедалі частіше ведеться опосередковано: технології та суперництво великих держав дозволяють тим, хто отримує вигоду від конфлікту, дистанціюватися від його реальних наслідків.
Впровадження штучного інтелекту у військовий потенціал по обидва боки Тихого океану сприяє формуванню такого типу ведення бойових дій, за якого між особами, що ухвалюють рішення, і самим актом ураження цілі з'являється дедалі більше проміжних технологічних ланок. Це підвищує ймовірність застосування сили, навіть попри те, що удари стають точнішими.
Автори аналізу наголошують: така практика ставить під загрозу принцип підзвітності – ключовий елемент, необхідний для життєздатності будь-якого нормативного режиму. І якою б точною не була техніка, машини досі не здатні на милосердя та інші людські якості, які роблять війну бодай трохи гуманнішою і допомагають закласти основи для стійкішого миру.
Що пропонують натомість
Оновлена доктрина справедливої війни, на думку Foreign Policy, повинна розв'язувати проблеми ведення бойових дій із залученням технологічних посередників – відновлювати баланс вигод і витрат та чіткіше пов'язувати конкретні дії з їхніми наслідками, щоб застарілі концепції відповідальності не заважали застосуванню базових принципів.
Один зі шляхів досягти цього – закладати етичні норми ще на етапі розробки, вбудовуючи механізми запобігання шкоді цивільним до введення систем в експлуатацію, а не встановлювати відповідальність заднім числом, коли провину покладають на солдатів, які лише довірилися техніці.
Нагадаємо, раніше експеримент за участю популярних мовних моделей показав, що в умовах змодельованого воєнного конфлікту штучний інтелект схильний обирати ескалацію аж до застосування ядерної зброї, а не шукати шляхи мирного врегулювання.
До слова, начальник штабу оборони Великої Британії сер Річард Найтон, відвідавши прифронтовий штаб під Покровськом, зізнався, що його стривожила «гейміфікація вбивства» – коли кожне ураження цілі оператор дрона фіксує на камеру, отримує за нього ігрові бали, а результати виводяться на загальний рахунок на екрані штабу. Британський генерал також попередив, що розвиток штучного загального інтелекту (AGI) може стати «настільки ж значним проривом, як і атомна бомба».