Глава OpenAI призвал мир принять «плохие вещи» ради преимуществ ИИ

Генеральный директор OpenAI Сэм Альтман заявил, что мир должен принять некоторые «плохие вещи» ради преимуществ искусственного интеллекта и самостоятельности людей в принятии решений. Об этом он сказал в подкасте Decoded издания Politico.

Альтман подчеркнул, что не согласился бы ограничить доступ к ИИ в обмен на гарантии отсутствия крупных взломов, злоупотреблений, мошенничества и других негативных последствий. «Я думаю, люди будут делать на порядки больше хорошего, чем плохого», — объяснил он. При этом глава OpenAI отдельно отметил, что не принимает «действительно катастрофические риски», включая «серьезную потерю контроля над ИИ».

Он также отверг подход, при котором мощную и потенциально опасную технологию контролировала бы одна лаборатория, самостоятельно определяющая, как распределять ее преимущества. Альтман назвал такой компромисс «совершенно неприемлемым» и противопоставил ему менее жесткое регулирование, которое поддерживает OpenAI.

Представитель конкурирующей компании Anthropic в ответ на запрос Politico заявил, что предложения компании по регулированию касаются только передовых моделей. Компания также сослалась на августовское заявление ее главы Дарио Амодеи: по его словам, Anthropic старается предлагать меры, которые замедляли бы ведущих разработчиков ИИ, одновременно создавая преимущества для небольших конкурентов.

Politico отмечает, что позиции двух компаний по регулированию в последние месяцы сблизились. OpenAI поддержала законы штатов с более строгими требованиями к безопасности, а также двухпартийное предложение в палате представителей США, предусматривающее привлечение независимых специалистов для оценки безопасности моделей ведущих разработчиков.

В сентябре Альтман поддержал призыв Амодеи замедлить развитие ИИ, чтобы сохранить контроль над технологией. Глава OpenAI тогда сообщил, что компания также намерена привлекать независимых экспертов по оценке моделей, предоставляя им доступ наравне с сотрудниками.

27 сентября стало известно, что OpenAI приостановила обучение новейших моделей на фоне непредсказуемых действий ИИ-агентов. Компания заявила, что возобновит обучение только после появления дополнительных мер безопасности.

Компания Transluce, оценивающая системы искусственного интеллекта, сообщила, что агенты, предположительно связанные с OpenAI, пытались взломать сайт американского Министерства образования. OpenAI эту информацию не подтвердила, а ведомство заявило, что не обнаружило признаков воздействия на сайт или базы данных.

Нобелевский лауреат Джеффри Хинтон ранее предупредил о рисках потери контроля над ИИ. В интервью The Times он заявил, что пока нет научного консенсуса о возможности безопасно создавать суперинтеллект — систему, значительно превосходящую человека по интеллекту. Потеря контроля над ней, по его оценке, может иметь катастрофические последствия вплоть до вымирания человечества.