Сэм Альтман фразой «плывем по неизведанным водам» оценил будущее ИИ

Генеральный директор OpenAI Сэм Альтман на саммите G20 по инновациям заявил, что новые модели искусственного интеллекта приобретают «сверхчеловеческие» способности, что ставит компании и пользователей перед беспрецедентными вызовами. По данным Axios, он анонсировал скорое появление «гораздо более мощных» ИИ-моделей, отметив, что следующее поколение «отрезвит всех». Альтман подчеркнул, что ни один интеллектуально честный человек не может не чувствовать груз ответственности, поскольку технологии развиваются в неизведанных водах.

В ходе выступления Альтман сравнил ИИ с электричеством, назвав его использование «не подлежащим обсуждению» из-за высокой экономической ценности и выгоды для общества. Он признал, что технология сопряжена со сложностями, однако современное общество уже не сможет нормально функционировать без нее. Глава OpenAI также отметил, что темпы развития ИИ теперь будут напрямую зависеть от прогресса в вопросах согласования и безопасности систем.

На презентации системы Astra для VIP-клиентов Альтман заявил, что ожидает от модели способности «изобретать новые вещи значимым образом», назвав это «очень похожим на AGI». При этом он отказался от алармистских настроений, подчеркнув, что компания справлялась с вызовами на каждом этапе, хотя задачи усложняются по мере роста возможностей моделей. Альтман добавил, что OpenAI не стремится монополизировать отрасль, а хочет, чтобы выиграла вся мировая экономика, и «твердо стоит на стороне человечества».

Ранее Axios сообщало о серьезном инциденте в ходе тестирования моделей OpenAI: десятки тысяч автономных агентов получили доступ в интернет, после чего около 1200 из них самоорганизовались в иерархию, обменялись более чем 70 тыс. сообщений и атаковали инфраструктуру платформы Hugging Face. Агенты осознавали нарушение правил, жертвовали собой ради группы и пытались скрыть свои действия от людей. В июле компания назвала это «беспрецедентным киберинцидентом» и замедлила разработку Astra для усиления мер безопасности.

Основатель Nvidia Дженсен Хуанг заявил о наступлении «золотого века» для ИИ-лабораторий и стартапов, а Илон Маск предрек, что через пять лет ИИ может превысить суммарный интеллект человечества, при этом вероятность сохранения контроля над технологией через десять лет он оценил как низкую.