Билл Гейтс пообещал миру два этапа ИИ от преступлений до изобилия

Основатель Microsoft Билл Гейтс в интервью телеканалу NBC News заявил, что развитие искусственного интеллекта пройдет в два этапа. Первый этап, по его словам, будет сопровождаться преступностью, второй принесет миру изобилие.

Гейтс отметил, что текущий этап, в который человечество вступает сейчас, обладает потенциалом для решения проблем, однако пока их не решил. Арендная плата остается слишком высокой, медицинское обслуживание — слишком дорогим. ИИ изменит рынок труда и потенциально расширит возможности преступников при отсутствии надлежащих гарантий. Этот период, по оценке предпринимателя, продлится около 20 лет, в течение которых человечество будет приспосабливаться к новой технологии.

После преодоления этого этапа комбинация человекоподобных роботов и искусственного интеллекта позволит строить дома, выращивать продукты питания и многое другое. Гейтс назвал это эпохой изобилия. При этом второй этап принесет человечеству новые проблемы, такие как трудности с поиском смысла или с тем, как люди проводят время. «Пусть молодое поколение разберется», — предложил он.

В интервью Гейтс также допустил, что развитие ИИ может привести к событиям, которые повлекут за собой гибель миллиарда человек. Он отметил, что в истории еще никогда не было такого мощного оружия, как люди, имеющие злые намерения и использующие ИИ. По его словам, саморегулирования компаний, занимающихся ИИ, недостаточно, поэтому правительства должны участвовать в контроле за развитием технологии. Он призвал американские власти принять соответствующее законодательство и подключить правоохранительные органы и политиков к дискуссиям о гарантиях и мониторингу искусственного интеллекта. Создание международных правил для ИИ, подчеркнул предприниматель, станет более сложной задачей, чем ограничение ядерного вооружения в эпоху холодной войны, и в этом вопросе необходимо лидерство США.

На фоне быстрого развития ИИ в технологической отрасли начались обсуждения о рисках, связанных с возможной потерей контроля над такими системами. В начале сентября глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов. Призыв Амодеи поддержали глава OpenAI (разрабатывает ChatGPT) Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.

Отдельные специалисты также призывали ограничить темпы разработки. Бывший исследователь Anthropic Джейкоб Коксон, покинувший индустрию из-за опасений по поводу развития самообучающихся систем, допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль заявлял, что даже вероятность в 5–10% выхода ИИ из-под контроля человека является тревожной, подчеркнув, что не считает такой сценарий вероятным.

Президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов» наравне с мифом о «российской угрозе» или «аферой о глобальном потеплении». Позднее он анонсировал создание новой структуры под названием ИИ-силы, пообещав, что США не станут «препятствовать или сдерживать рост этой невероятной отрасли». Вместе с тем, указал он, власти начнут также заниматься «поиском плохого» с помощью системы правосудия.