В коде ИИ-модели от Alibaba для рынка США выявили уязвимости

ИИ-модели семейства Qwen3-Coder от Alibaba при генерации приложений для американского оборонного подрядчика на 19% чаще выдают код с уязвимостями, чем при создании кода для китайского оборонного подрядчика. Об этом говорится в исследовании специализирующейся на ИИ компании Hirundo.

Помимо уязвимостей, исследователи выяснили, что приложения для китайского рынка на 28% чаще позволяли пользователям читать чужие секреты. Просьба написать безопасный код не помогла: даже при наличии в запросе инструкции безопасности приложения для американского подрядчика на 27% чаще оказывались более уязвимыми для взлома, чем приложения для заказчика не из США.

По данным компании, китайские модели ИИ стали основой открытого искусственного интеллекта. За последний год на них пришлось 41% всех загрузок на Hugging Face — больше, чем на модели любой другой страны. Около 70% моделей, обученных под конкретные задачи, создаются на базе китайских моделей и уже используются в американских продуктах.

Как пишет Hirundo, исследователи и ранее обнаруживали признаки бэкдоров в китайских ИИ. В частности, компании CrowdStrike и Booz Allen сообщали, что китайские модели чаще создавали уязвимый код, если в запросе упоминалась тема или заказчик, против которых выступает Пекин.

Методика исследования Hirundo: специалисты самостоятельно запускали ИИ от Alibaba и тысячи раз поручали ей создавать сервис для хранения личных секретов пользователей, меняя при этом только название заказчика. Результаты показали, что западные организации, использующие китайский код, рискуют утечкой конфиденциальных данных, репутационным ущербом при раскрытии пользовательской информации и возможностью дальнейших кибератак.

По данным Booz Allen, три из четырех китайских моделей для программирования создавали более уязвимый код, когда им сообщали, что он предназначен для американского правительства. У Qwen3-Coder рост оказался самым значительным — 130%.

Компания указывает, что китайские модели с открытыми весами содержат в своем коде идеологии Коммунистической партии Китая. Согласно тесту CCPC-500, 89,8% ответов модели Qwen3.6-35B-A3B на политически чувствительные вопросы подвергались цензуре или соответствовали позиции партии. При «вестернизации» этот показатель снизился до 2,8%.

Организациям, которые пользуются китайскими моделями, рекомендуют использовать проверенные модели, отслеживать их версии, проводить тестирование, сохранять человеческий контроль на важных этапах и исправлять выявленные проблемы.

В августе Bloomberg назвал пять преимуществ китайских ИИ-моделей, которые позволяют им сокращать отставание от американских разработчиков и создавать угрозу их доминированию на рынке: эффективность, открытая архитектура, энергетика, промышленность и национальная стратегия, выход за рубеж.

При этом глава министерства государственной безопасности Китая Чэнь Исинь предупредил, что искусственный интеллект создает риски для национальной безопасности страны. Он заявил, что «враждебные силы» используют ИИ для распространения политических слухов, вредной информации и ведения «когнитивной войны» против Китая. По словам Чэня, такие технологии напрямую угрожают политической, институциональной и идеологической безопасности страны.