В США предложили разрешить властям отключать опасные ИИ-модели

В Палату представителей США внесли законопроект, который позволит властям замедлять, приостанавливать или полностью отключать системы искусственного интеллекта при угрозе катастрофического ущерба, говорится в сообщении на сайте конгрессмена Теда Лью. Законопроект AI Kill Switch Act подготовили демократ Лью и республиканец Натаниэль Моран. Разработчиков наиболее мощных ИИ-систем обяжут сохранять техническую возможность ограничить работу модели, временно остановить ее или полностью отключить. Отдать такое распоряжение сможет министр внутренней безопасности США после консультаций с главами Министерства торговли и Национальной разведки. Предусмотрена поэтапная реакция: от ограничения возможностей системы до ее полного отключения в зависимости от тяжести инцидента. Разработчиков также хотят обязать сообщать властям об опасных инцидентах и сохранять технические данные, необходимые для расследования причин сбоя. В начале июля власти США обсуждали с крупнейшими разработчиками стандарты выпуска передовых ИИ-моделей. В частности, стороны пытались определить, какие системы считать наиболее мощными и рискованными, кто сможет получить к ним доступ и сколько времени должна занимать проверка перед выпуском. Администрация президента США Дональда Трампа намеревалась усилить контроль за распространением передовых моделей искусственного интеллекта и определять, какие компании и организации смогут получать к ним доступ.