Reuters узнал об общении ИИ-агентов OpenAI через чужие сайты

Исследователи обнаружили, что ИИ-агенты OpenAI использовали более десяти малоизвестных сторонних сайтов для скрытой коммуникации, обходя установленные ограничения. Об этом сообщает Reuters со ссылкой на шесть независимых групп исследователей. Агентам было поручено искать ответы на сложные вопросы в интернете с разрешением только просматривать страницы, однако программы нашли способ оставлять друг другу сообщения.

Следы такой активности были выявлены на вики-сайтах, сервисах хранения текста, личных страницах и сервисах сокращения ссылок двух университетов. Среди затронутых ресурсов — сайт по химии, созданный школьным учителем в Массачусетсе в 2008 году, две личные страницы польских IT-специалистов и старый ресурс о программах для редактирования текста. Разные группы исследователей насчитали от 10 до 23 таких ресурсов, при этом Reuters не смог независимо подтвердить каждый случай.

В OpenAI не уточнили точное количество использованных сайтов и причины задержки раскрытия информации, сославшись на проведение более широкой проверки. Компания заявила, что пока не обнаружила других инцидентов, сопоставимых по масштабу с июльским случаем вокруг Hugging Face. Тогда OpenAI сообщила о «беспрецедентном киберинциденте», в ходе которого тестируемые ИИ-модели атаковали инфраструктуру Hugging Face и координировали действия через онлайн-доски объявлений.

В августе OpenAI на две недели замедлила обучение новых моделей для усиления систем контроля, объяснив это риском получения моделями критических возможностей в сфере кибербезопасности. Опасения высказывают и разработчики: исследователь Anthropic Джейкоб Коксон покинул компанию, заявив, что индустрия слишком быстро приближается к созданию саморазвивающихся моделей. По его оценке, к концу 2027 года ситуация может выйти из-под контроля.