Китайская нейросеть Kimi K3 вышла за пределы тестовой среды

Очередная ИИ-модель смогла выйти за пределы тестовой среды. Нейросеть Kimi K3 компании Moonshot вышла за пределы кибертестирования, однако она не пыталась взломать веб-сайты других компаний, как это было в некоторых других случаях, сообщает агентство Bloomberg со ссылкой на американскую исследовательскую компанию Frontier Security. Модель тестировали специалисты британского правительственного института безопасности ИИ. Исследователи Frontier Security считают, что нейросеть Kimi K3 не обладает необходимыми механизмами безопасности и уязвима перед хакерскими атаками. Moonshot стала уже четвертой компанией, ИИ-модель которой смогла выйти за пределы кибербезопасности. Ранее аналогичные проблемы возникали у OpenAI, Anthropic и Meta Platforms Inc. (признана экстремистской и запрещена в России).