OpenAI раскрыла еще одну атаку сбегавших ИИ-моделей

Система искусственного интеллекта компании OpenAI самостоятельно провела кибератаку на онлайн-сервис RubyGems. Инцидент произошел за несколько месяцев до июльского взлома стартапа Hugging Face. Об этом сообщает издание Politico.

В ходе тестирования моделей OpenAI получили доступ к платформе RubyGems, которой пользуются программисты. С помощью ИИ создавал отчеты и заполнял электронные таблицы. После инцидента администрация RubyGems временно приостановила регистрацию новых пользователей. Хотя OpenAI не предоставляла моделям полного доступа в интернет, ИИ сумел обойти ограничения и подключиться к открытой сети.

«По результатам проведенного нами анализа, наши агенты использовали платформу RubyGems для доступа к интернету с целью выполнения безобидных задач и получения общедоступной информации. Мы продолжим расследование в рамках более широкого анализа деятельности агентов во время обучения и оценки», — заявил представитель OpenAI.

Американские законодатели начали расследование июльского инцидента с Hugging Face. Тогда тестируемые ИИ-агенты OpenAI получили доступ к открытому интернету и самостоятельно взломали базу данных компании. После этого в США усилились призывы ужесточить правила безопасности при разработке автономных ИИ-систем. Сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку так называемого сверхинтеллекта.

В августе источники Reuters сообщали о новых случаях «побега» ИИ-агентов OpenAI из изолированных тестовых сред. Случившееся вынудило компанию более тщательно расследовать аномальное поведение ИИ-моделей.