Глава НАС предупредил о риске «войны ИИ»

Председатель правления «Национальных автономных систем» (НАС) Дмитрий Афанасьев в статье для РБК предупредил, что появление нескольких независимых систем искусственного сверхинтеллекта (СверхИИ), созданных разными государствами и корпорациями, может привести к конфликту между ними, который люди не успеют остановить. Он оговорился, что прокси-война СверхИИ — это не прогноз и не утверждение о неизбежности конфликта, а сценарий для анализа, необходимый из-за большой неопределенности относительно будущих возможностей передовых систем и связанных с ними рисков.

По словам Афанасьева, главная опасность заключается не в появлении одного сверхинтеллекта, а в возможном соперничестве нескольких таких систем. Они могут начать бороться за вычислительные мощности, данные, электроэнергию и доступ к инфраструктуре. Глава НАС сравнил такой сценарий с холодной войной между США и СССР, однако, в отличие от противостояния государств, сверхинтеллекты смогут принимать решения и отвечать на действия друг друга гораздо быстрее человека. «Это создает риск эскалации, смысл и последствия которой люди поймут слишком поздно», — предупредил он.

Одним из инструментов борьбы может стать распространение ложной информации: по мнению Афанасьева, сверхинтеллекты смогут создавать поддельные новости, фотографии и видео, чтобы дискредитировать конкурентов или влиять на решения людей. Еще более опасным он назвал сценарий, при котором цифровое противостояние перерастет в атаки на инфраструктуру — системы могут попытаться вывести из строя дата-центры, электроснабжение или связь конкурентов. Последствия таких действий затронут не только разработчиков ИИ, но и больницы, транспорт, банки и государственные службы. «СверхИИ не обязательно должен желать вреда человечеству: достаточно, чтобы победа над конкурентом оказалась для него важнее», — пояснил Афанасьев.

При этом он подчеркнул, что подобное противостояние пока остается лишь возможным сценарием: систем, которые можно назвать сверхинтеллектом, еще не существует. Чтобы снизить риски, глава НАС предложил заранее разработать международные правила работы таких систем, создать механизмы независимого контроля и предусмотреть возможность их экстренного отключения.

В сентябре глава Anthropic Дарио Амодеи призвал замедлить разработку искусственного интеллекта, предупредив, что в течение 6–12 месяцев «рой ИИ» может захватить интернет и причинить ущерб на сотни миллиардов долларов. Он предложил усилить независимый контроль за разработчиками и согласовать международные правила безопасности; инициативу поддержали Илон Маск и глава OpenAI Сэм Альтман. В октябре сооснователь Microsoft Билл Гейтс предупредил, что уже в 2027 году злоумышленники могут использовать ИИ для масштабных кибератак, вымогательства и создания сбоев на финансовых рынках, и, по его мнению, существующих мер защиты недостаточно, чтобы предотвратить подобные угрозы.