WP: РФ и США пытаются исключить из проекта ООН требования о человеческом контроле над военным ИИ

США и Россия исключили из проекта ООН по автономному оружию ключевые положения о человеческом контроле и этике, сообщает The Washington Post со ссылкой на источники и документы.

В частности, как пишет издание, из текста убрали требование о том, что системы с ИИ должны работать «предсказуемо» и «надёжно», а также пункт, обязывавший учитывать этические аспекты при применении такого оружия. Также, по данным источников, из проекта убрали требование, согласно которому перед атакой человек обязан перепроверять цели, выбранные алгоритмами.

Правозащитники предупреждают, что это может снизить уровень ответственности за гибель мирных жителей в случае ошибок автономных систем.

Переговоры прошли в Женеве в рамках группы правительственных экспертов по летальным автономным системам вооружений. Ее заседания состоялись с 31 августа по 4 сентября.

Источники WP утверждают, что правки вносились на закрытом заседании - камеры ООН были отключены, а представителей общественных организаций попросили покинуть зал. Американская и российская делегации, каждая из которых насчитывала около десяти юристов, почти вдвое превосходили по численности команды других государств. Один из собеседников издания охарактеризовал процесс правок как «смерть от тысячи порезов».

Госдепартамент США, российский МИД и ООН не ответили на запросы издания.

Согласованный текст пока не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия обсудят, следует ли предоставить переговорам официальный мандат, который в перспективе может привести к заключению международного договора.

Тем временем, представители технологической отрасли призывают правительства выработать международные правила для искусственного интеллекта. Глава Anthropic Дарио Амодеи заявил в Совете Безопасности ООН, что неконтролируемое развитие таких систем может представлять угрозу для человечества. Глава OpenAI Сэм Альтман призвал сделать решения в сфере ИИ подотчетными обществу.

Трамп, выступая на Генеральной Ассамблее ООН, занял противоположную позицию, заявив, что США отвергают попытки установить глобальный контроль над тем, что он называет «сверхинтеллектом».

Во всем мире использование искусственного интеллекта в войне перешло от преимущественно теоретических сценариев к реальному применению на поле боя. Так, американские военные использовали чат-бота Anthropic для определения почти 1000 целей для нанесения ударов в первые 24 часа войны с Ираном. Израиль также активно использует ИИ в своих военных операциях в Газе.

В сентябре CNN сообщил, что американские военные едва не начали операцию против китайского судна после ошибочного вывода ИИ. По данным телеканала, система объединила открытую и секретную информацию и неверно оценила назначение судна.