Politico узнало о «тихом» законопроекте Anthropic против ограничений ИИ

Компания Anthropic, разработчик ИИ-моделей Claude, непублично предложила американским конгрессменам собственный проект закона о безопасности передовых систем ИИ. Об этом сообщает Politico со ссылкой на трех человек, знакомых с обсуждениями, и конфиденциальный документ, оказавшийся в распоряжении издания.

Проект ограничивает обстоятельства, при которых власти смогут заблокировать выпуск или использование модели. Для этого она должна создавать предсказуемый и непосредственный риск ущерба более чем на $1 млрд либо гибели или тяжелых травм более 50 человек. Угроза должна быть связана с созданием или применением биологического оружия, выходом модели из-под контроля разработчика либо кибератакой. Как отмечает Politico, похожие формулировки уже используются в калифорнийском законодательстве об ИИ, включая принятый в прошлом году закон SB 53.

По предложенной схеме Минторг США сможет обратиться в суд с требованием остановить выпуск модели, если установит наличие соответствующей угрозы. Решение о приостановке сможет вынести федеральный судья окружного суда округа Колумбия. При этом другим американским ведомствам и должностным лицам проект прямо запрещает приостанавливать разработку, развертывание или внутреннее использование модели.

Материал дополняется.