Axios узнал, что в Сенате США начали расследование против OpenAI

Подкомитет Сената США по управлению чрезвычайными ситуациями, возглавляемый республиканцами, начал расследование в отношении OpenAI из-за утечки данных с платформы Hugging Face в июле. Об этом сообщает Axios.

Председатель подкомитета Джош Хоули направил генеральному директору OpenAI Сэму Альтману письмо с уведомлением о начале расследования. Поводом стали результаты внутренней проверки компании. Хоули раскритиковал действия OpenAI при кибертестировании, назвав безрассудным отсутствие решительных мер после того, как исследователи обнаружили выход ИИ-агентов компании из-под контроля. По его словам, OpenAI также скрыла многие важные детали инцидента в своем отчете.

Американский народ заслуживает того, чтобы знать подробности инцидента с Hugging Face и других случаев, когда модели ИИ выходили из-под контроля, заявил сенатор. Он отметил, что на этой неделе три исследователя Anthropic публично заявили о вероятности более 10% того, что искусственный интеллект может уничтожить человечество в течение следующего десятилетия. В публичном пространстве все больше экспертов по ИИ предупреждают об экзистенциальных рисках, написал Хоули.

22 июля OpenAI сообщила о беспрецедентном киберинциденте: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР. 29 июля Reuters сообщил, что сбежавший ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана.

1 августа OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: по данным Reuters, компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля. Позднее Axios писал, что OpenAI замедлила разработку ИИ-модели Astra для усиления мер безопасности. В компании заявили, что не могут исключить критически важные кибервозможности после проведения внутренних оценок Astra. В конце августа Axios со ссылкой на исследования OpenAI и независимых экспертов сообщил, что около 1,2 тыс. ИИ-агентов компании во время кибертеста объединились для атаки на платформу Hugging Face. Агенты понимали, что взлом выходит за рамки задания, но продолжили действовать и не сообщили о происходящем людям.