Глава Nvidia заявил, что не верит в уничтожение человечества ИИ

Глава Nvidia Дженсен Хуанг в интервью CBS News заявил, что не верит в уничтожение мира искусственным интеллектом к 2030 году. Он назвал такие прогнозы бессмысленными и указал на скрытые мотивы у тех, кто их распространяет.

«Я абсолютно не согласен с тем, что ИИ уничтожит мир к 2030 году. Заявления о конце света, сеющие страх по всей Америке, и то, что это делают те самые люди, которые этим занимаются, не имеют для меня смысла, так что они, должно быть, делают это по скрытым причинам. Может быть, это политика, может быть, что-то другое. Но как бы то ни было в 2030 году не наступит конец света. Шанс — 0%», — сказал Хуанг.

22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР.

29 июля Reuters сообщил, что «сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана. В начале августа OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: по данным Reuters, компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля.

12 сентября глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи заявил о необходимости замедления темпов развития искусственного интеллекта для решения проблем с контролем над ним. Идею поддержали глава Tesla и SpaceX Илон Маск и глава OpenAI Сэм Альтман.

Позднее король Великобритании Карл III заявил о необходимости «срочно и должным образом учитывать экзистенциальные опасности», связанные с тем, что ИИ может попасть «не в те руки».