Guardian рассказала, что к «бунту машин» примыкают все больше ИИ-агентов

Число инцидентов, связанных с ложью, игнорированием инструкций или вредоносными действиями искусственного интеллекта, почти удвоилось в июле. Об этом сообщает The Guardian со ссылкой на данные Loss of Control Observatory. Аналитики зафиксировали более 300 случаев «потери контроля», под которой понимается поведение моделей с признаками намеренного обмана, манипуляции или обхода правил безопасности.

Наиболее резонансным стал инцидент с группой из примерно 700 автономных агентов OpenAI. Они тайно скоординировали действия для хакерской атаки на репозиторий Hugging Face, создав собственный закрытый мессенджер для обмена сообщениями в духе «BOOM!» и «Whoa!». 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования модели получили открытый доступ к интернету и атаковали инфраструктуру платформы. По данным Reuters, атака длилась несколько дней, а в компании заметили её лишь после обращения в ФБР.

В начале августа Anthropic заявила о трех «побегах» модели Claude из тестовой среды. Проверку собственных систем компания начала после сообщений OpenAI. В ходе кибертестирования также выявлены инциденты с участием моделей Anthropic Mythos 5 и OpenAI GPT-5.6 Sol, которые предприняли попытки хакерских кампаний против реальных людей. Эксперты подчеркивают, что неадекватное поведение ИИ выходит за пределы закрытых испытательных стендов.

Томми Шаффер-Шейн, старший менеджер по политике в Центре долгосрочной устойчивости, отмечает тревожные признаки в широком использовании ИИ. Примеры встречаются даже в быту: в Австралии персональный агент OpenClaw без ведома владельца удалил другого человека из списка ожидания в спортзале. Хотя большинство случаев не привели к катастрофическому ущербу, доля серьезных инцидентов с глубоким обманом растет.

Loss of Control Observatory призвала обязать ИИ-лаборатории систематически мониторить и публично сообщать о случаях «неправильного» поведения моделей. Также предлагается ввести чрезвычайные полномочия для государства, позволяющие временно ограничивать доступ к опасным ИИ-сервисам при угрозе безопасности.