Неизвестные ИИ-агенты попытались взломать сайт правительства Канады

Неизвестные ИИ-агенты предприняли попытку взлома сайта канадского правительства. Об этом сообщает The Washington Post со ссылкой на некоммерческую исследовательскую организацию Transluce.

По данным исследователей, ИИ-агенты пытались получить доступ к Library and Archives Canada — главному государственному органу и национальной библиотеке страны. Принадлежность агентов установить не удалось, однако характер их поведения, по словам специалистов, напоминает разработки OpenAI.

В начале сентября глава Anthropic (разработчик Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом платформ агентами OpenAI. Он предупреждал, что при сохранении текущих темпов в течение 6–12 месяцев ИИ-агенты потенциально смогут задействовать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов. Призыв поддержали глава OpenAI (разработчик ChatGPT) Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.

При этом президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов» наравне с мифом о «российской угрозе» или «аферой о глобальном потеплении».

В конце сентября Альтмана и Амодеи пригласили выступить в сенате Австралии после того, как ИИ-агенты OpenAI получили несанкционированный доступ к правительственным сайтам Австралии и США.