Axios рассказала, почему разработчики ИИ становятся «политической обузой»

Нынешнее поколение лидеров в сфере искусственного интеллекта превращается в «политическую обузу», сообщает Axios со ссылкой на источники, близкие к Белому дому и конгрессу. Вместо разъяснения американцам преимуществ ИИ и его потенциала для всеобщего процветания руководители отрасли постоянно предупреждают об экзистенциальных угрозах, исходящих от технологии.

По словам конгрессменов, в высказываниях руководителей ИИ-компаний происходит резкий переход от радужных перспектив к предвестиям катастрофы — порой в рамках одного публичного выступления. Такие «эмоциональные качели» усиливают политическую нестабильность на фоне общественного недовольства, считают законодатели и регуляторы. В Вашингтоне хотят, чтобы разработчики ИИ вели себя как руководители других крупных компаний: «заткнулись» и просто делали свою работу.

«Очевидно, что они спотыкаются на ровном месте, пытаясь объяснить общественности, в чем заключается ценность этого», — заявил Axios сенатор Джон Кёртис (республиканец от штата Юта). «Сейчас трудно представить себе группу, которая существовала бы в большей отстраненности от жизни рядовых американцев, чем индустрия искусственного интеллекта», — считает он. Член палаты представителей Ро Кханна (демократ от штата Калифорния) отметил: «Такие руководители, как [глава OpenAI] Сэм Альтман, говорят, что мир должен смириться с возникновением определенных негативных последствий ради преимуществ этой технологии. Нельзя доверять миллиардерам принятие решений, от которых зависит наша безопасность».

Сенатор Берни Морено (республиканец от штата Огайо) в письме главе Anthropic Дарио Амодеи заявил: «Ваш инстинкт — сеять хаос в общественном дискурсе об ИИ», сославшись на комментарии Амодеи, «вызывающие панику». Сенатор Крис Мерфи (демократ от штата Коннектикут) считает, что американцам не нравится, что президент Дональд Трамп «заигрывает с технологическими миллиардерами», в то время как ИИ угрожает рабочим местам и средствам к существованию. «Мы все можем строить догадки о том, что происходит, но в итоге все сводится лишь к тому, что в понедельник утром люди просыпаются и говорят: „Эти ребята просто ужас, с нас хватит“», — сказал один из источников издания, ссылаясь на разговоры с сотрудниками аппарата конгресса.

Недовольство Anthropic в Вашингтоне связано с тем, что Амодеи в конце сентября на встрече с президентом Дональдом Трампом не сообщил об инцидентах с ИИ-моделями, затронувших правительственные сайты. Компания проинформировала власти 8 октября, а на следующий день опубликовала пост в блоге. OpenAI обвиняют в стремлении не допустить регулирования отрасли на уровне штатов; компания заявила, что взаимодействует с администрацией и законодателями штатов и «ведет диалог с людьми» о преимуществах ИИ. Глава Anthropic призывал замедлить разработку ИИ на фоне инцидентов со взломами со стороны ИИ-агентов OpenAI, и Альтман его поддержал.

Амодеи также говорил о кризисе доверия к искусственному интеллекту: «Большинство людей считают это обманом. То, что сработает, — это реальное излечение рака. Я думаю, что наиболее точная критика ИИ-компаний, включая Anthropic, состоит в том, что мы еще не выполнили свои большие обещания принести пользу миру. Это полностью наша вина». Трамп выступил против ужесточения контроля над ИИ, но позднее призвал «приглядывать» за развитием искусственного интеллекта, поскольку тот может стать «слишком супер».