В правлении OpenAI предупредили о риске гибели людей из-за ИИ

Специалист по безопасности искусственного интеллекта Пол Кристиано предупредил о риске выхода сверхмощного ИИ из-под контроля людей, что в худшем случае приведет к гибели большей части человечества. Об этом сообщает Financial Times.

Кристиано занимает пост старшего технического советника Центра стандартов и инноваций в области искусственного интеллекта (CAISI) при Минторге США. Его назначили в совет директоров некоммерческого фонда OpenAI, который контролирует коммерческое подразделение разработчика ChatGPT. При этом Кристиано продолжит работать советником правительства.

«Если мы создадим сверхинтеллект без более надежной координации, я ожидаю, что мы навсегда потеряем над ним контроль. Если это произойдет, то большинство людей могут погибнуть», — заявил Кристиано, объявляя о своем назначении. По его мнению, для снижения угрозы потребуется сотрудничество как внутри отдельных стран, так и на международном уровне.

Кристиано подчеркнул, что индустрия, включая OpenAI, в настоящее время не работает над снижением риска потери контроля над ИИ до приемлемого уровня.

Как отмечает FT, назначение Кристиано в совет директоров некоммерческого фонда OpenAI свидетельствует о росте усилий работающих над ИИ лабораторий по повышению компетентности в области безопасности и регулирования путем найма сотрудников из академических кругов и политических групп после громких инцидентов в сфере кибербезопасности, вызвавших призывы к вмешательству со стороны правительственных органов.

Разработка сверхмощных систем ИИ может иметь катастрофические последствия для человечества, заявил ранее на этой неделе The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, сейчас компании не могут безопасно создавать «суперинтеллект» — систему, значительно превосходящую человека по интеллекту.