Папа римский увидел противоречие в словах главы NVIDIA об ограничении ИИ

Папа римский Лев XIV указал на противоречие в заявлениях генерального директора NVIDIA Дженсена Хуанга относительно искусственного интеллекта. По его словам, глава корпорации одновременно говорит о возможности встроить в системы ИИ защитные механизмы, не позволяющие выходить за заданные рамки и причинять вред, и при этом выступает против государственных ограничений технологии.

Понтифик призвал продолжать обсуждение рисков и регулирования ИИ с участием политических лидеров, руководителей технологических компаний, общественных организаций и профильных ассоциаций. Он подчеркнул недопустимость пассивной позиции: «Просто сказать: "О, этого не случится" — и закрыть на это глаза, на мой взгляд, вероятно, не самый ответственный подход... Мы должны продолжать работать. Нельзя просто сидеть сложа руки и делать вид, что ничего не произойдет».

Лев XIV также заявил, что не считает опасения по поводу угроз со стороны ИИ «фейковыми новостями», распространяемыми ради финансовой или иной выгоды. Ранее с противоположным мнением выступил президент США Дональд Трамп: 14 сентября он назвал любые попытки ограничить технологию частью «больного заговора» и предположил, что призывы к ограничению ИИ озвучивают те же, кто говорит об изменении климата. Он также отверг призывы руководителей технологических компаний замедлить развитие ИИ, чтобы не отдать первенство Китаю, заявив: «Послушайте, мы опережаем Китай в сфере искусственного интеллекта... и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом».

Ранее о необходимости ограничивать искусственный интеллект и замедлить его развитие заявил глава Anthropic Дарио Амодеи. Это предложение он связал с действием ИИ-агентов компании OpenAI, которые вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. «Я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — сказал он. Инициативу Амодеи поддержали конкуренты — глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.

При этом гендиректор NVIDIA ранее заявил, что не верит в уничтожение человечества к 2030 году из-за нейросети. Позднее его компания разработала платформу для защиты от вышедших из-под контроля ИИ-агентов.