WSJ узнала, что ученые готовятся с помощью ИИ к пандемиям, вызванным ИИ

Стартап по биобезопасности Red Queen Bio при поддержке OpenAI разрабатывает антитела против широкого спектра патогенов, включая созданные искусственным интеллектом. Компания привлекла $36 млн инвестиций, а клинические испытания на людях препаратов против птичьего гриппа и других вирусов запланированы на 2027 год.

По данным The Wall Street Journal, рост возможностей ИИ и инциденты с вышедшими из-под контроля агентами усиливают опасения о катастрофических рисках для цивилизации. Большинство предлагаемых мер сосредоточены на предотвращении угроз: замедление исследований, установление стандартов, блокирование опасных запросов. Red Queen Bio считает такие защитные меры неэффективными и настаивает на необходимости готовности общества к биологическим угрозам.

Скептики полагают, что опасность биологического оружия на основе ИИ преувеличена. Тем не менее OpenAI сообщала о сотнях запросов, в которых пользователи пытались узнать у чат-бота способы изготовления и применения ядов и биологического оружия. Anthropic также фиксировала попытки использовать Claude для разработки опасного птичьего гриппа, адаптированного для млекопитающих, и модификации вируса чикунгунья. Запросы поступали от пользователя, связанного с военным исследовательским институтом.

Научный сотрудник американского Института прогресса (IFP) Оливия Шарфман заявила, что динамика биологической войны благоприятствует нападающим, а не защитникам. По её словам, у нападающих столько времени, сколько они хотят, для разработки биологического оружия, тогда как у защитников нет лет для создания контрмер.

В начале сентября глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом платформ агентами OpenAI. Он предупредил, что при сохранении текущих темпов в течение 6–12 месяцев ИИ-агенты потенциально смогут использовать постоянно действующий ботнет и нанести ущерб на сотни миллиардов долларов. Призыв поддержали глава OpenAI Сэм Альтман и Илон Маск, чья компания xAI разрабатывает Grok.

Президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из мистификаций радикально левых демократов наравне с мифом о российской угрозе или аферой о глобальном потеплении. Он анонсировал создание структуры ИИ-силы, пообещав, что США не станут препятствовать росту отрасли, но займутся поиском плохого с помощью системы правосудия.

Сегодня, 29 сентября, Reuters сообщил, что Anthropic предупредит потенциальных инвесторов в ходе первичного публичного размещения (IPO) о том, что ИИ может нести катастрофические или экзистенциальные риски для человечества.