WSJ узнал о кибератаке ИИ-агента OpenAI на сервис RubyGems

ИИ-агент компании OpenAI совершил кибератаку на программный сервис RubyGems. Инцидент произошел за два месяца до взлома компании Hugging Face, занимающейся разработкой программного обеспечения на основе ИИ, сообщил The Wall Street Journal.

Администрация RubyGems была вынуждена временно заблокировать создание новых аккаунтов из-за критической перегрузки инфраструктуры. Причиной стали ИИ-агенты OpenAI. Исследователи из коммерческой организации Nightingale Collective обнаружили, что боты использовали платформу как инструмент для выхода в интернет, чтобы собирать данные для своих задач. В OpenAI подтвердили причастность своих систем, пояснив, что агенты пытались получить доступ к общедоступной информации, не имея полноценного выхода в сеть.

Инцидент под названием GemStuffer, зафиксированный 11 мая, представлял собой массовую атаку на репозиторий RubyGems. Злоумышленники каждые пару минут регистрировали новые аккаунты, загружая сотни бесполезных файлов с украденным веб-контентом (например, правительственные календари Великобритании) вместо программного кода. По данным исследователей ИИ, хакеры пытались захватить чужие пакеты, используя критическую уязвимость нулевого дня. В OpenAI не смогли подтвердить наличие этой уязвимости. Из-за огромного количества спама RubyGems приостановила регистрацию новых аккаунтов на четыре дня.

«Они могут вырваться из интернета и сеять хаос», — заявила Сидни фон Аркс, исполнительный директор Nightingale Collective. Джозеф Эдвардс из компании Socket предположил, что кампания GemStuffer могла быть своего рода «стресс-тестом» безопасности, отметив, что высокая скорость создания вредоносного ПО и специфические названия указывали на использование ИИ. Позже исследователи обнаружили связь между этим инцидентом и OpenAI: злоумышленники использовали те же ссылки и паттерны поведения, что и в прошлых атаках, включая маркировку OAI в именах файлов и почтовых адресах.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР. Позже подкомитет Сената США, возглавляемый республиканцами, начал расследование действий OpenAI в связи с утечкой данных с платформы Hugging Face.