Anthropic заблокировала профили, использовавшие Claude для российских СМИ

Компания Anthropic заблокировала четыре аккаунта пользователей, которые, по ее данным, применяли чат-бот Claude для подготовки контента для российских государственных и финансируемых государством СМИ. Об этом сообщается в отчете компании.

Созданные с помощью Claude материалы Anthropic связывает с публикациями и трансляциями Sputnik Moldova, РИА Новости, Sputnik en Español, Sputnik Africa и англоязычной редакции Россия сегодня (RT). По утверждению компании, пользователи передавали готовые материалы напрямую в редакционные процессы.

В одном из случаев бывший главный редактор Sputnik Moldova использовал Claude для подготовки русскоязычных статей на основе новостей на румынском и молдавском языках, данных опросов и публикаций оппозиции в соцсетях. Еще один пользователь, названный Anthropic связанным с Россией подрядчиком, создавал с помощью Claude материалы на латиноамериканском испанском для Sputnik en Español. В отчете указано, что в каждой операции Claude был интегрирован в уже работающий, профессионально отредактированный процесс в качестве уровня младшего редактора.

В отчете по анализу угроз Anthropic также обвинила китайских конкурентов в попытках взлома для извлечения возможностей Claude и задокументировала злонамеренное использование своих технологий за последние восемь месяцев. Кроме того, компания утверждает, что в этом году предотвратила несколько возможных попыток использования ее ИИ-моделей для исследований, которые могли помочь в разработке биологического оружия. По данным отчета, определить точные цели этих исследований невозможно, поскольку их результаты применимы как для создания вакцин, так и для разработки опасных патогенов. Ученые, как заявлено, обходили блокировку моделей в своем регионе и пытались скрыть цель исследований, чтобы обойти меры предосторожности. Имена исследователей, страну происхождения и биологические компоненты Anthropic не раскрыла, но сообщила, что заблокировала этих пользователей.

После начала военной операции на Украине в МИД России неоднократно заявляли, что Запад препятствует деятельности российских журналистов и лиц, представляющих российские СМИ. В феврале 2022 года глава Еврокомиссии Урсула фон дер Ляйен объявила о блокировке вещания телеканала RT, а также работы агентства Sputnik и их дочерних структур. В сентябре 2024 года санкции против RT, медиагруппы Россия сегодня, РИА Новости, Sputnik и Ruptly ввели США. Москва считает западные санкции незаконными, власти России предупредили об ответных мерах, в стране заблокированы десятки зарубежных СМИ.