WP узнала, как Россия и США объединили усилия по урегулированию ИИ

США и Россия направили примерно по десять юристов на заключительный этап переговоров ООН об автономном оружии. За последующие 15 часов они добились исключения ряда ограничений на применение искусственного интеллекта в вооружениях. Об этом сообщает The Washington Post со ссылкой на трех участников закрытых переговоров и изученные документы.

Переговоры прошли в Женеве в рамках группы правительственных экспертов по летальным автономным системам вооружений. Заседания состоялись с 31 августа по 4 сентября. Из проекта убрали требование, согласно которому работающие на основе ИИ системы должны действовать предсказуемо и надежно. Делегации также исключили положение об учете этических соображений при применении такого оружия. Кроме того, из документа исчезло требование о проверке человеком военных целей, которые определил ИИ, перед нанесением удара.

Правки вносились на закрытом заседании: камеры ООН были отключены, а представителей общественных организаций попросили покинуть зал. Изменения обсуждались настолько быстро, что небольшие делегации не успевали за ходом переговоров. Госдепартамент США, российский МИД и ООН не ответили на запросы издания.

Согласованный текст пока не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия обсудят, следует ли предоставить переговорам официальный мандат, который в перспективе может привести к заключению международного договора. Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен заявила, что США и Россия выступают против юридически обязательных правил для автономного оружия. Поскольку решения принимаются консенсусом, обе страны могут заблокировать предложения, поддержанные большинством участников.

Одновременно Пентагон пересматривает собственную директиву об автономном оружии, принятую в 2023 году. Документ требует сохранять человеческое суждение при использовании автономных и полуавтономных систем, а также соблюдать международное право. Президент США Дональд Трамп поручил обновить правила в течение 90 дней, однако к концу сентября новая версия не была опубликована.

Американское военное ведомство расширяет применение ИИ при анализе информации и выборе целей. Система Maven компании Palantir, которая обрабатывает данные со спутников, беспилотников и радаров, в марте получила статус официальной программы Пентагона. Она способна автоматически выявлять потенциальные цели и угрозы. Компания Anthropic ранее потребовала от Пентагона гарантий, что ее модели не будут использоваться в полностью автономном оружии и для массового наблюдения. Военное ведомство расценило условия как попытку частной компании ограничить применение технологии в интересах национальной безопасности.

В сентябре CNN сообщил, что американские военные едва не начали операцию против китайского судна после ошибочного вывода ИИ. По данным телеканала, система объединила открытую и секретную информацию и неверно оценила назначение судна.

В июле замглавы МИДа Александр Алимов заявил, что Москва готова обсуждать конкретные формы международного сотрудничества в области ИИ в ООН, Международном союзе электросвязи и других организациях. Россия выступает за выработку правил на основе консенсуса и настаивает на равном доступе государств к технологиям. Спецпредставитель президента России Борис Титов допускал, что стороны могли бы участвовать в развитии дата-центров для ИИ, используя российские запасы редкоземельных металлов.