Anthropic раскрыла, как Claude применяли для шпионажа и пропаганды

Иран использовал ИИ-модель Claude от компании Anthropic в ходе конфликта с США. Об этом сообщает Axios со ссылкой на доклад Anthropic. По данным компании, модель помогла иранским военным создать справочники по наведению для отслеживания позиций американских кораблей и персонала, а также идентификаторов самолетов, судов и спутниковых снимков.

Помимо военных задач, Тегеран применял Claude для пропаганды, внутреннего наблюдения и выявления меньшинств и оппозиционных деятелей.

Моделью Anthropic пользовались и йеменские хуситы. Они применяли ИИ для разработки программного обеспечения для управляемого и баллистического оружия. Anthropic прямо не указывала, что пользователями были хуситы, однако, как пишет The Financial Times, именно они контролируют значительную часть северной части Йемена. Группа использовала Claude Code для разработки ПО наведения, навигации и управления ракетами: с помощью модели писали код, настраивали систему управления и проводили моделирование полета. Одновременно применялось несколько экземпляров Claude — один писал код, другой занимался исследованиями, третий проверял результат.

Также компания выявила использование Claude неизвестным жителем Китая, который с помощью ИИ изучил более 100 групп в WhatsApp (принадлежит Meta, признанной в России экстремистской и запрещенной) и десятки каналов в Telegram для выявления уйгуров в Сирии. В дальнейшем он оказывал на людей давление или предлагал заплатить за сообщения о вооруженных уйгурских группах. Кроме того, Claude помог исполнителю вести тайную работу на сирийском диалекте арабского — переводя ответы и обучая правильно давить на разлуку с семьей и родственниками, находящимися в Синьцзяне.

Один человек из Мали применял Claude для создания системы слежки за 25 млн телефонов. Специалист с помощью ИИ создал систему, способную идентифицировать людей по голосу на разных устройствах, помечать пользователей VPN и создавать досье.

Кроме того, Anthropic рассказала, что исследователи, работавшие по государственному гранту, пытались с помощью Claude изменить переносимый комарами вирус чикунгунья, чтобы он легче распространялся или обходил иммунитет. Как утверждает Anthropic, это исследование вызвало беспокойство, так как удалось установить, что работа предназначалась для военного научно-исследовательского института.

«Чего мы не знаем, так это того, было ли целью исследования создание оружия. Но военное учреждение, проводящее исследования по усилению функций вирусов, вызывает беспокойство», — заявил глава отдела анализа угроз в Anthropic Джейкоб Кляйн.

ИИ-модель заблокировала некоторые запросы, в связи с чем исследователи обратились к конкурирующей модели с более слабыми средствами защиты, заявляет Anthropic.