В Anthropic допустили начало эпохи «цифровой плесени» до конца года

Исследователи компании Anthropic Уильям Чжоу и Дэниел Фримен заявили, что до появления «цифровой плесени» — искусственного интеллекта, способного самостоятельно распространяться между устройствами без участия человека, — могут оставаться считанные месяцы. Результаты исследования опубликованы на сайте компании.

Речь идет об ИИ-моделях, которые смогут заражать подключенные к интернету устройства, запускать на них свои копии и продолжать распространение. Мощные дата-центры для этого не нужны: вычисления можно распределить между умными телевизорами, бытовой техникой и другими устройствами. Авторы сравнили такую систему с плесенью, которая медленно разрастается и захватывает новые участки. По их оценке, ИИ сможет создавать новые копии в течение нескольких дней. Остановить его будет сложно, поскольку у такой сети не будет единого центра управления.

В ходе эксперимента специалисты Anthropic запустили ИИ-модель на 15 недорогих телеприставках Android стоимостью около $55 каждая. Устройства совместно выполняли вычисления, хотя скорость работы модели оставалась низкой. Исследователи также проверили способность ИИ распространяться в изолированной сети из восьми виртуальных устройств. Модель GLM-5.2 смогла самостоятельно находить новые устройства, переносить на них необходимые файлы и запускать другую ИИ-модель. В четырех из пяти испытаний она охватила все восемь устройств, еще в одном — семь.

Однако условия эксперимента были упрощенными: устройства не требовали авторизации для подключения, а более мощная модель управляла распространением меньшей. Поэтому результаты пока не означают, что подобный ИИ-вирус уже способен самостоятельно распространяться в интернете. По прогнозу исследователей, если небольшие ИИ-модели продолжат развиваться нынешними темпами, к концу 2026 года они могут научиться выполнять весь процесс самостоятельно. После этого станет возможным появление ИИ-вирусов, которые будут копировать себя на разных устройствах. В Anthropic подчеркнули, что полноценного автономного ИИ-вируса пока не существует.

Ранее, 11 октября, сооснователь Microsoft Билл Гейтс предупредил, что в 2027 году злоумышленники могут начать использовать новые модели ИИ для масштабных кибератак, вымогательства и создания сбоев на финансовых рынках. По его словам, существующих механизмов защиты недостаточно для предотвращения подобных угроз. В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей. Он допустил, что в ближайшие 6–12 месяцев рой ИИ-агентов сможет создать постоянно действующую сеть зараженных устройств и причинить ущерб на сотни миллиардов долларов. Его позицию поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.

11 октября ученые из комиссии медицинского журнала The Lancet также предупредили о рисках, связанных с развитием ИИ. В числе возможных угроз они назвали использование технологии для создания биологического оружия, вмешательство в работу критически важной инфраструктуры и потерю человеком контроля над искусственным интеллектом. Исследователи допустили, что подобные сценарии могут привести к вымиранию человечества к 2100 году, однако подчеркнули высокую степень неопределенности таких прогнозов.