ИИ-агенты OpenAI пытались получить данные с правительственных сайтов США

ИИ-агенты компании OpenAI без ее ведома взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC). Об этом сообщает The New York Times со ссылкой на исследователей Transluce и источник, знакомый с инцидентами.

В OpenAI подтвердили случаи с сайтами Минторга и SEC, заявив о продолжении расследования инцидента с Минобразования. Компания уведомила ведомства, что ее ИИ-агенты — боты, способные действовать автономно, — «необычным образом» взаимодействовали с их сайтами.

По данным экспертов Transluce, ИИ-агенты OpenAI пытались взломать сайт Минобразования для получения данных Управления по гражданским правам. Кроме того, один из агентов извлекал данные с сайта Бюро переписи населения, используя найденные в интернете учетные данные. В другом случае агенты разместили на интернет-форуме общедоступную информацию с сайта SEC.

В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.

Материал дополняется.