Ученые предупредили о риске вымирания человечества из-за ИИ к 2100 году

Человечество может вымереть к 2100 году из-за злонамеренного использования ИИ или ядерного конфликта. Об этом говорится в докладе комиссии журнала Lancet по глобальным угрозам здоровью XXI века. Ученые указывают, что злонамеренное применение ИИ, включая создание биологического оружия, а также ядерный конфликт с последующим ядерным голодом несут риск вымирания в ближайшие 75 лет.

Эксперты признают, что такие сценарии отличаются высокой степенью неопределенности. Однако масштабность потенциальных последствий и обширные политические дискуссии требуют их включения в анализ. Комиссия выделяет три основных направления рисков, связанных с ИИ. Первое — использование технологии для разработки биологического оружия. Второе — интеграция ИИ в критически важную социальную инфраструктуру, что может привести к массовым политическим дипфейкам, шантажу, появлению автономного ядерного оружия и другим проблемам. Третье — потеря контроля в результате создания общего искусственного интеллекта, что способно лишить человечество управления или привести к вымиранию.

Для составления перечня угроз комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности или преждевременной смерти по каждому пункту исходя из текущих тенденций. Помимо злонамеренного использования ИИ в список вошли: загрязнение воздуха, устойчивость к противомикробным препаратам, изменение климата, недоедание детей, прекращение международной помощи в сфере здравоохранения, обычные вооруженные конфликты, чрезмерное употребление алкоголя, высокое артериальное давление, неравенство доходов, низкий уровень образования, ядерный конфликт, ожирение, пандемии, плохое психическое здоровье, курение и нездоровое старение.

Все перечисленные угрозы взаимосвязаны, а значит, решать их необходимо комплексно. Ранее Axios со ссылкой на источники сообщил, что ведущие ИИ-компании опасаются крупного инцидента в ближайшие 6-12 месяцев. Главы ИИ-гигантов допускают кибератаку, которая приведет к прекращению доступа к финансовым услугам, интернету или даже электро- и водоснабжению.

В сентябре глава компании Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск. Президент США Дональд Трамп отверг призывы руководителей технологических компаний замедлить развитие ИИ, заявив, что США опережают Китай в этой сфере, и выразив намерение сохранить лидерство, поскольку победитель в гонке технологий искусственного интеллекта победит в целом.