Американські та російські дипломати спільними зусиллями вилучили з проєкту глобальної угоди ООН ключові положення про безпеку та людський контроль над зброєю зі штучним інтелектом. Про це повідомляє The Washington Post із посиланням на трьох учасників переговорів, які говорили на умовах анонімності, та на документи. Йдеться про першу в історії спробу створити міжнародні правила регулювання смертоносної автономної зброї.
Зустріч відбулася на початку вересня в Женеві, де зібралися сотні дипломатів. В останній день переговорів представники США та Росії на закритому засіданні протягом приблизно 15 годин вносили зміни до документа. Обидві делегації задіяли близько десяти юристів кожна — майже вдвічі більше, ніж деякі інші учасники переговорів. За словами одного зі співрозмовників видання, зміни вносилися настільки швидко, що невеликі делегації не встигали за процесом. Закрита сесія проходила без камер ООН та представників громадянського суспільства.
Згідно з джерелами, з проєкту прибрали формулювання, яке вимагало, щоб автономні системи працювали «передбачуваним» та «надійним» способом. Також зникла вимога враховувати етичні міркування під час використання зброї зі штучним інтелектом. Крім того, з документа виключили положення, згідно з яким людина мала перевіряти визначені ШІ військові цілі перед завданням удару. Один зі співрозмовників видання назвав процес редагування угоди «смертю від тисячі дрібних порізів».
Представники Державного департаменту США, Міністерства закордонних справ Росії та ООН не відповіли на запити Washington Post щодо коментарів. Видання зазначає, що ослаблення проєкту відбулося на тлі активного впровадження штучного інтелекту у військову сферу. Американські військові вже використовують ШІ для аналізу та вибору цілей, а Ізраїль широко застосовує його у військових операціях у секторі Газа. За даними Washington Post, американські військові використовували ШІ компанії Anthropic для виявлення та завдання ударів по майже 1000 цілях у перші 24 години конфлікту з Іраном.
Правозахисники попереджають, що ослаблення міжнародних обмежень може призвести до ситуації, коли машини самостійно прийматимуть рішення, від яких залежить життя та смерть людей. На думку заступниці директора напрямку з озброєнь Human Rights Watch Веріті Койл, це може означати більше жертв серед цивільного населення, зниження відповідальності та прискорення переходу до більш ризикованої автоматизованої війни. Вона наголосила, що машини зможуть приймати рішення про життя і смерть без контролю з боку людини.
Переговори ООН поки що не мають обов'язкової юридичної сили. Проте країни намагаються визначити, чи можна в майбутньому перетворити їх на офіційний мандат або юридично обов'язковий міжнародний договір. Наступна зустріч країн запланована на листопад у Женеві. На ній учасники мають обговорити можливість переходу від нинішнього формату переговорів до офіційного мандату чи потенційно юридично обов'язкового договору.
Паралельно США переглядають власні правила застосування автономної зброї. У червні президент Дональд Трамп доручив оновити відповідну директиву Пентагону, ухвалену у 2023 році за адміністрації Джо Байдена. У початковій версії американської директиви містилися положення про необхідність людського контролю за автономними та напівавтономними системами, а також вимога дотримуватися законів війни та міжнародних договорів. На тлі міжнародних дискусій глава O