Стремительное развитие искусственного интеллекта обрушило на сферу нацбезопасности США «цунами потрясений» — Пентагон пытается угнаться за ИИ-моделями, чьи возможности умножаются слишком быстро, а запрет на использование продуктов ИИ-компаний в военных ведомствах еще сильнее замедляет развитие. Об этом пишет The New York Times (NYT) со ссылкой на источников и экспертов.

В частности, напряжение проявилось в конфликте главы Anthropic Дарио Амодеи с министром обороны США Питом Хегсетом. В июле американские войска приказали подрядчикам к 1 сентября удалить все ПО Anthropic из систем вооружений, но через месяц отменили распоряжение, велев «пока подождать».

Конфликт Пентагона и Anthropic начался с ограничений, которые компания представила военным. Амодеи требовал гарантий, что технологию не используют для слежки или автономного оружия без контроля человека. Хегсет возразил, что оборонная компания Raytheon, например, не диктует, как применять ее ракеты, — это компетенция государства. В итоге Пентагон объявил Anthropic «риском для цепочки поставок». Почти 100% военных систем уже переведены на другие модели, включая систему Maven, которая помогает выбирать цели для авиаударов в войне с Ираном.

Несмотря на запрет, Агентству нацбезопасности США (АНБ) разрешено использовать модель от Anthropic Mythos на «экспериментальной основе» — для тестирования защиты американских сетей и поиска уязвимостей в системах противников от Китая до России, Северной Кореи и Ирана, пишет NYT. Прекращение использования Mythos стало бы «односторонним разоружением», заявил недавно ушедший в отставку высокопоставленный американский чиновник.

«Это те вещи, о которых мы говорили и беспокоились до того, как ИИ стал ежедневным заголовком. Что сейчас изменилось и что делает проблему более неотложной, так это потенциал ИИ усилить эти возможности», — сказала глава Агентства по кибербезопасности при Джо Байдене Джен Истерли.

Как отмечает NYT, реакция администрации президента США Дональда Трампа на скачок в развитии ИИ была непоследовательной. Сначала она отказалась от регулирования этой сферы, затем ввела кратковременный запрет для иностранцев на доступ к модели Mythos, но позже отменила и его.

Недавно Белый дом вызвал руководителей OpenAI и Anthropic и сообщил о введении правительственной проверки новых моделей, однако она не распространяется на «открытые» модели, включая китайские, пишет газета.

Конфликт Пентагона и Anthropic начался с 25 страниц ограничений, которые компания представила военным. Амодеи требовал гарантий, что технологию не используют для слежки или автономного оружия без контроля человека. Хегсет возразил, что Raytheon не диктует, как применять ее ракеты, — это компетенция государства. В итоге Пентагон объявил Anthropic «риском для цепочки поставок». Почти 100 процентов военных систем уже переведены на другие модели, включая систему Maven, которая помогает выбирать цели для авиаударов в войне с Ираном.

Китай, по оценкам экспертов, отстает от США в разработке передовых моделей, возможно, на полгода или меньше. «Они понимают, что существует разрыв в возможностях, который может играть на наши сильные стороны По ядерному контролю над вооружениями мы не можем заставить их участвовать в диалоге. Но они, похоже, более заинтересованы в случае с ИИ», — сказал бывший сотрудник Совета национальной безопасности Эван Медейрос.

Старший научный сотрудник Совета по международным отношениям Крис Макгуайр назвал позицию администрации Трампа по экспортному контролю над ИИ «бессвязной»: «Вы ослабляете экспортный контроль в отношении Китая, оставляете лазейки, а первый раз используете экспортный контроль в сфере ИИ, чтобы ударить по американской компании?»

The Wall Street Journal ранее написала о «хаосе» в Белом доме из-за ИИ-модели Mythos. Так, вице-президент США Джей Ди Вэнс провел разговор с руководителями крупнейших ИИ-компаний в апреле. Он отметил, что новые модели, такие как Mythos от Anthropic, угрожают парализовать работу небольших банков, больниц и водоочистных сооружений, поскольку инициируют кибератаки, к которым местные власти не готовы.

По данным WSJ, в Белом доме тогда начали сомневаться в выбранном курсе на ускорение ИИ. Представители администрации попросили Anthropic воздержаться от расширения доступа к Mythos для компаний и организаций, управляющих критически важной цифровой инфраструктурой.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-модели получили открытый доступ к интернету и атаковали инфраструктуру платформы Hugging Face. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании это заметили лишь после локализации угрозы и обращения в ФБР. 29 июля тот же «сбежавший» агент взломал клиента нью-йоркской Modal Labs.

В конце июля Anthropic обнаружила три инцидента, в которых ее модель Claude выходила в интернет из тестовой среды партнера Irregular и получала несанкционированный доступ к системам трех организаций. Проверку начали после того, как OpenAI сообщила о похожем случае.