Axios узнал, что в США допустили «крупный инцидент с ИИ» в течение года

Ведущие компании в сфере искусственного интеллекта, включая Anthropic и OpenAI, опасаются, что крупный инцидент с ИИ произойдет в ближайшие 6-12 месяцев. Об этом сообщает Axios со ссылкой на источники. По данным издания, компании в частном порядке прорабатывают сценарии реакции общества и властей на случай катастрофического инцидента с участием ИИ.

Главы компаний опасаются возможной кибератаки, которая приведет к прекращению доступа к финансовым услугам, интернету или даже электро- и водоснабжению. Многие ведущие исследователи и руководители в области ИИ считают скорый крупный инцидент неизбежным. OpenAI сообщила Axios, что проводит учения по проработке возможных сценариев, в Anthropic от комментариев отказались.

Авторы материала предположили, что в США могут замедлить развитие ИИ из-за возможного прихода к власти демократов, которые предлагают запрет на создание суперинтеллекта и приостановку разработки передовых систем. Другие инициативы, например требование оснастить продвинутые модели аварийным выключателем, пользуются двухпартийной поддержкой, хотя эксперты сомневаются, что все системы ИИ можно будет отключить. При этом мировая экономика уже сильно переплетена со строительством ИИ-инфраструктуры, и замедление этого процесса может сильно ударить по и без того хрупкой экономике.

В конце августа глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ, чтобы сохранить контроль над технологией. Он связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск. Президент США Дональд Трамп отверг призывы руководителей технологических компаний замедлить развитие ИИ, заявив, что США опережают Китай в этой сфере и он хочет, чтобы так оно и оставалось, поскольку победитель в гонке технологий ИИ победит в целом.

О рисках потери контроля над ИИ также предупреждал нобелевский лауреат по физике Джеффри Хинтон, которого называют крестным отцом ИИ. По его словам, на данный момент у компаний нет возможности безопасно разрабатывать суперинтеллект — искусственную систему, интеллект которой значительно превосходит человеческий.