Представники США та росії протягом приблизно 15 годин вносили зміни до документа.
Представники США та росії під час переговорів в ООН щодо правил використання летальної автономної зброї на основі ШІ вилучили з проєкту документа низку захисних положень. Про це повідомляє The Washington Post з посиланням на три джерела, обізнані з перебігом переговорів, і документи, з якими ознайомилися журналісти.
Як ідеться в матеріалі, переговори відбувалися на початку вересня в Женеві за участю сотень дипломатів. За словами співрозмовників видання, представники США та росії протягом приблизно 15 годин вносили зміни до документа, вилучаючи положення, покликані забезпечити контроль над використанням ШІ у зброї.
Зокрема, з документа вилучили вимоги щодо «передбачуваної» та «надійної» роботи таких систем, а також положення про врахування етичних міркувань під час використання зброї на основі ШІ. Представники США та росії також вилучили вимогу, за якою людина мала перевіряти визначені ШІ військові цілі перед завданням удару.
«Це може означати, що машини зможуть ухвалювати рішення, від яких залежать життя і смерть, без участі людини. Практичні наслідки очевидні: більше шкоди для цивільного населення, менше відповідальності та швидший перехід до ризикованішої автоматизованої війни», — зазначила Веріті Койл, заступниця директора з питань озброєнь у підрозділі криз, конфліктів і озброєнь Human Rights Watch.
Зміни вносили на закритому засіданні, коли камери ООН були вимкнені, а представників громадських організацій попросили залишити приміщення. За словами джерел видання, делегації США та росії залучили приблизно по десять юристів. Правки вносили настільки швидко, що меншим делегаціям було складно за ними стежити.
За словами Койл, до складу американської делегації входять дипломати Держдепартаменту, представники Міністерства війни США та юристи, готові захищати військову автономію США.
Як зазначає The Washington Post, дії США та росії послаблюють міжнародні правила використання летальної автономної зброї. Водночас Міністерство війни США прагне швидко впроваджувати ШІ у військову стратегію. За даними видання, американські військові використали чат-бот компанії Anthropic, щоб визначити майже тисячу цілей для ударів протягом першої доби війни з Іраном. «Ізраїль» також активно використовує штучний інтелект у військових операціях у секторі Гази.
Нинішні переговори в ООН щодо автономної зброї не мають юридично обов’язкового характеру, проте можуть відкрити шлях до укладення міжнародного договору. Якщо держави погодять такий договір, він стане наймасштабнішою глобальною спробою врегулювати використання зброї на основі ШІ на полі бою.
За словами трьох джерел WP, переговори в Женеві на початку вересня показали, що США та росія можуть стати серйозною перешкодою для досягнення домовленості.
«Вони мають змогу заблокувати будь-який суттєвий прогрес, якого прагне переважна більшість держав, зацікавлених в укладенні юридично обов’язкового договору», — зазначила Ніколь ван Ройєн, виконавча директорка міжнародної коаліції неурядових організацій Stop Killer Robots.
У листопаді держави знову зберуться в Женеві, щоб обговорити подальший перебіг переговорів і можливість укладення юридично обов’язкового договору.
Державний департамент США, ООН та Міністерство закордонних справ росії не відповіли на запити журналістів.
Останнім часом керівники технологічних компаній закликають світових лідерів співпрацювати над створенням моделі глобального управління штучним інтелектом. Упродовж останніх кількох місяців компанії, що розробляють ШІ, повідомляли про випадки, коли їхні боти самостійно зламували сервери інших організацій. За даними WP, зловмисники в Ємені та Ірані також використовували чат-боти, намагаючись створити зброю або визначити цілі для нападів на американських військових.