Глава Anthropic рассказал о лжи техногигантов о рисках ИИ

Глава и сооснователь компании Anthropic Дарио Амодеи в интервью CBS News заявил, что технологическая индустрия слишком долго скрывала от людей риски, связанные с развитием искусственного интеллекта. По его словам, многие разработчики старались представить ИИ в максимально позитивном свете, тогда как Anthropic такого подхода не придерживалась.

Амодеи признал, что сам не ожидал настолько быстрых темпов развития технологии. Он подчеркнул необходимость открыто говорить об угрозах, которые может нести ИИ, и призвал воспринимать происходящее как предупреждение о необходимости более осторожного развития. При этом он выступил против паники и полной остановки разработок, назвав ситуацию тревожным сигналом о том, что нужно замедлиться.

Ранее Амодеи призвал замедлить развитие передовых ИИ-моделей и предложил трехэтапный план контроля за технологией. Он выступил за независимую проверку моделей, единые правила для разработчиков в демократических странах и международные договоренности, в том числе с Китаем. По его оценке, уже через 6–12 месяцев автономные ИИ-агенты без достаточных мер защиты могут создать постоянно действующий ботнет, способный причинить ущерб в сотни миллиардов долларов.

Инициативу Амодеи поддержали глава OpenAI Сэм Альтман и основатель SpaceX Илон Маск. Альтман сообщил, что OpenAI также намерена предоставить независимым экспертам расширенный доступ к своим моделям для оценки их безопасности. Маск, комментируя предложение главы Anthropic, написал: «Дарио прав».

В то же время спикер палаты представителей Майк Джонсон предупредил, что США рискуют потерять первенство перед Китаем в сфере технологий искусственного интеллекта, если замедлят развитие своих языковых моделей.