Медведев назвал «туманной» перспективу уничтожения человечества ИИ

Зампред Совета Безопасности России Дмитрий Медведев прокомментировал заявления ведущих представителей сферы искусственного интеллекта о необходимости приостановить развитие технологии. По его мнению, угроза уничтожения человечества ИИ туманна, однако технология способна причинить колоссальный ущерб, и тогда под угрозой окажутся жизни самих создателей.

Медведев назвал страхи глав ИИ-компаний, включая основателя xAI Илона Маска, реальными, но отметил, что они недоговаривают о своих истинных опасениях. «Создатели различных вариантов генеративного искусственного интеллекта лукавят. Они боятся не за нас с вами и не за Sapiens в целом. Они опасаются не за то, что оборзевший от своей мощи AI погубит человечество. Перспектива этого вполне туманна», — написал он.

По словам зампреда Совбеза, более реален сценарий, при котором программа на основе ИИ, включенная в управление крупным производством или транспортным узлом, причинит колоссальный ущерб — например, столкнет самолеты или уничтожит АЗС. «И тогда придут уже за создателями generative AI», — добавил Медведев. Он также заявил, что логичным было бы договориться о методах регулирования ИИ, но этому помешают «жадности корпораций и ненасытность страстей человеческих».

«Поэтому остается одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI. У него пока нет явных эмоций, но, каким будет великий суперинтеллект, мы не знаем. Авось пожалеет родителей», — заключил он.

12 сентября глава Anthropic (разработчик Claude) Дарио Амодеи заявил о необходимости замедлить темпы развития ИИ. Он напомнил о недавнем случае, когда ИИ-агенты OpenAI вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. Амодеи предупредил, что через 6–12 месяцев рой ИИ-агентов может захватить интернет.

В качестве решения проблемы безопасности Амодеи предложил пустить к разработке ИИ-моделей независимых оценщиков, а также ввести координацию на уровне компаний и государств. Его призыв поддержали Илон Маск и глава OpenAI Сэм Альтман.