Специалисты по ИИ — об угрозах гибели человечества и потерь на миллиарды

Руководители ведущих компаний в сфере искусственного интеллекта делают все более тревожные заявления о рисках своей технологии. Глава Anthropic Дарио Амодеи предупреждает: через 6-12 месяцев рой ИИ-агентов может оказаться способен захватить весь интернет с помощью устойчивой бот-сети и причинить ущерб на сотни миллиардов долларов.

Лауреат Нобелевской премии, один из «крестных отцов ИИ» Джеффри Хинтон заявляет, что разрабатывать суперинтеллект сейчас было бы очень глупо, пока нет научного консенсуса о его безопасной и подконтрольной разработке. Потеря контроля над ИИ, который умнее нас, может быть катастрофической и даже привести к вымиранию человечества.

Бывший исследователь Anthropic и OpenAI Джейкоб Коксон утверждает: люди, занимающиеся развитием ИИ, искренне верят, что он может погубить всех к концу десятилетия. Это не маркетинговый трюк — многие руководители и старшие исследователи подбирают слова в прессе, чтобы казаться благоразумными, но наедине выражают страх. Никакая другая человеческая деятельность не несет такой степени опасности. Ни одна из компаний не действует ответственно: они несутся прямо к самоулучшающемуся сверхинтеллекту и играют нашими жизнями.

Руководитель направления в Anthropic Эван Хубингер признает, что всерьез верит в уничтожение всех людей ИИ, оценивая вероятность более чем в 10% в течение следующего десятилетия. Член совета директоров некоммерческого фонда OpenAI Пол Кристиано ожидает, что без более надежной координации человечество навсегда потеряет контроль над сверхинтеллектом, и большинство людей могут погибнуть. Глава OpenAI Сэм Альтман выделяет два опасных сценария: утрату контроля над будущим и чрезмерную концентрацию власти. Бывший исследователь безопасности Google DeepMind Билал Чугтай искренне считает, что ИИ способен убить нас всех и что время на предотвращение этого может заканчиваться.

Среди тех, кто считает опасения по поводу ИИ обманом, — президент США Дональд Трамп. Он сравнил всплеск предупреждений об угрозе ИИ с «безумным заговором», выгоду от которого получит Китай, и утверждал, что «негативные силы поднимают вопросы, не имеющие отношения к реальности». Его бывший советник по ИИ и криптовалютам Дэвид Сакс призвал Альтмана и Амодеи не делать вид, что они руководствуются «исключительно альтруистическими мотивами». Основатель Tesla и SpaceX Илон Маск точку зрения главы Anthropic поддержал.

Накануне американский лидер созвонился с гендиректором Nvidia Дженсеном Хуангом, с которым также обсудил предупреждения насчет ИИ. Глава Nvidia заявил, что подобные предсказания «не имеют под собой научных оснований», при этом похвалив исследователя Коксона за «большую смелость».