Anthropic сообщила, что хуситы использовали Claude для разработки ракет

Компания Anthropic выявила группу, базировавшуюся на севере Йемена, которая использовала модель Claude для разработки программного обеспечения для управляемого и баллистического оружия. Информация содержится в докладе компании об угрозах.

Участники группы применяли Claude Code для создания ПО наведения, навигации и управления ракетами. С помощью модели они писали код, настраивали систему управления и проводили моделирование полета. Одновременно использовалось несколько экземпляров Claude: один писал код, другой занимался исследованиями, третий проверял результат.

По данным Anthropic, группа работала над управляемой ракетой, многоступенчатой баллистической ракетой с дальностью полета более 2 тыс. км, а также над ракетами R2000, один из вариантов которых предусматривал гиперзвуковой планирующий аппарат. Нейросеть блокировала многие запросы, однако пользователи обходили систему защиты, скрывая цели и назначение разрабатываемого ПО, а также распределяя работу между несколькими сессиями, чтобы ни одна отдельная сессия не раскрывала их намерения полностью.

Компания заблокировала связанные с участниками аккаунты и передала информацию об угрозе партнерам из государственного и частного секторов. Тем не менее участники успели создать набор инструментов для моделирования, не зависящий ни от Claude, ни от других инженерных вычислительных сред. Anthropic прямо не говорила, что пользователями модели были хуситы, однако, как пишет The Financial Times, именно они контролируют значительную часть северной части страны.

В докладе описаны десятки случаев, когда пользователи пытались использовать нейросети для создания оружия или вирусов для ПО. В том числе Anthropic заблокировала несколько пользователей из-за подозрения в использовании ИИ-моделей для разработки биологического оружия. В мае один ученый использовал нейросеть Claude для написания заявки на получение гранта для исследований, направленных на эксперимент с вирусом чикунгунья. Он хотел создать мутации вируса, которые сделали бы его более опасным при неоднократном заражении животных. Работа предназначалась для военного научно-исследовательского института.

«Чего мы не знаем, так это того, было ли целью исследования для создания оружия. Но военное учреждение, проводящее исследования по усилению функций вирусов, вызывает беспокойство», — заявил глава отдела анализа угроз в Anthropic Джейкоб Кляйн.