Сенатор США предложил сажать на 20 лет за подпольное создание сверхразума

Сенаторы США Берни Сандерс и Грег Касар представили законопроект Ban Artificial Superintelligence Act. Документ предлагает временно остановить разработку передовых систем ИИ и запретить создание искусственного сверхразума — систем, потенциально превосходящих человечество по интеллектуальным возможностям.

За нарушение запретов разработчикам и компаниям может грозить до 20 лет лишения свободы. Это сравнимо с наказанием за незаконную разработку ядерного оружия. Также предлагается создать новое федеральное ведомство для защиты общества от ИИ-угроз и контроля за соблюдением запретов. Сенаторы надеются добиться международного соглашения и координации с союзниками, чтобы ограничить разработку сверхразума и за пределами США.

Берни Сандерс в соцсети X написал: «Дарио Амодеи, Илон Маск и Сэм Альтман теперь согласны с тем, что необходимо замедлить разработку ИИ и контролировать темпы продвижения к передовому рубежу технологий. Это лишь начало, но этого недостаточно. Когда мчишься к краю пропасти, нельзя просто отпустить педаль газа — нужно бить по тормозам». Сенатор подчеркнул, что, когда на кону стоит будущее человечества, необходимо взять именно паузу в разработке передовых систем ИИ, а не замедлить процесс развития нейросетей.

«На предстоящем саммите по вопросам ИИ Трамп и Си должны договориться о соглашении, предусматривающем приостановку разработок в этой сфере и запрет на создание суперинтеллекта, пока не стало слишком поздно», — резюмировал сенатор США.

12 сентября глава Anthropic (разработчик Claude) Дарио Амодеи заявил о необходимости замедлить темпы развития ИИ. Он напомнил о недавнем случае, когда ИИ-агенты OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Амодеи предупредил, что через 6–12 месяцев рой ИИ-агентов может захватить интернет, учитывая скорость развития этих систем.

В качестве решения проблемы безопасности он предложил пустить к разработке ИИ-моделей независимых оценщиков, а также ввести в практику координацию на уровне компаний и государств. К Амодеи присоединились глава Tesla, SpaceX и xAI Илон Маск и глава OpenAI Сэм Альтман.