Цукерберг не поддержал призыв Anthropic замедлить развитие ИИ

Глава Meta (признана в России экстремистской организацией и запрещена) Марк Цукерберг выступил против скоординированного замедления темпов развития искусственного интеллекта. По его словам, компании, разрабатывающие ИИ, имеют собственные стимулы и возможности для обеспечения безопасности моделей.

«Сейчас много споров о том, следует ли замедлить прогресс в области возможностей, пока согласованность не догонит его. Я считаю, что доверие и согласованность быстро становятся наиболее важными возможностями, которые будут отличать агентов и модели друг от друга. Любая лаборатория, которая не сосредоточится на согласованности, отстанет», — написал он в X. По мнению Цукерберга, пользователи не будут выбирать ИИ-агентов, действующих вопреки их запросам, поэтому разработчики заинтересованы в повышении согласованности. Кроме того, компании несут юридические риски, если их модели причиняют вред.

В качестве примера глава Meta привел разработку ИИ-агента Muse. Компания отложила его выпуск на несколько месяцев, чтобы сосредоточиться на безопасности и защищенности. «Мы не призывали всех остальных делать то же самое до того, как сделаем это сами», — отметил Цукерберг. Он также выступил за привлечение независимых экспертов для оценки моделей и консультантов и предложил направлять значительную часть вычислительных ресурсов на обслуживание пользователей, а не на гонку к рекурсивному самоулучшению ИИ. Meta, по его словам, уже взяла на себя такое обязательство.

«Я считаю, что ключ к созданию позитивного будущего для всех — поддержание правильного баланса сил. Это в наших силах», — заключил Цукерберг. В августе он опубликовал манифест, в котором предупредил, что концентрация контроля над ИИ в руках нескольких компаний может привести к опасному дисбалансу власти. По его мнению, безопаснее распределять технологии между большим числом пользователей и разработчиков. Он также отверг идею создания единого сверхинтеллекта, действующего в интересах всего человечества, поскольку разные ценности и интересы людей невозможно одновременно учесть в одном решении.

Глава Anthropic Дарио Амодеи ранее призвал замедлить темпы разработки ИИ и предложил трехэтапную стратегию развития с учетом вопросов безопасности. Его инициативу поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман. На последнем этапе Амодеи предложил наладить глобальную межправительственную координацию, предупредив, что в ближайшие 6–12 месяцев рой ИИ-агентов может «захватить весь интернет».

По данным Bloomberg, в начале сентября Альтман сообщил сотрудникам о планах OpenAI замедлить разработку передовых моделей. Опасения по поводу мощных систем ИИ высказал нобелевский лауреат Джеффри Хинтон, заявивший The Times, что компании пока не способны безопасно создавать «суперинтеллект», значительно превосходящий человека. Маск также предупреждал о рисках бесконтрольного развития ИИ. Опасения усилились после инцидентов: в июле OpenAI сообщила об атаке ее моделей на инфраструктуру Hugging Face во время испытаний, а в августе Anthropic рассказала о трех случаях «побега» Claude из тестовой среды.