Гейтс предупредил о «неприятных сюрпризах» с ИИ в 2027 году

Сооснователь Microsoft Билл Гейтс в интервью CNN заявил, что в течение следующего года злоумышленники могут использовать искусственный интеллект для кибератак и вымогательства. По его словам, когда у преступников есть новейшие модели ИИ и нет защитных механизмов, именно тогда в течение следующего года мир может ждать множество неприятных сюрпризов, прежде всего в сфере кибератак.

Гейтс отметил, что злоумышленники могут угрожать атаками, требуя деньги, или создавать сбои, влияющие на фондовый рынок. Разработчики ИИ внедряют защитные механизмы против кибератак и биотерроризма, однако их можно отключить. По мнению Гейтса, непосредственная опасность связана прежде всего с использованием ИИ злоумышленниками, а не с выходом технологии из-под контроля, серьезные последствия которого могут проявиться через несколько лет. Отвечая на вопрос о достаточности мер по предотвращению подобных угроз, он заявил, что нынешних усилий недостаточно.

В сентябре сооснователь Microsoft заявил, что развитие ИИ пройдет в два этапа: сначала оно может обернуться ростом уровня преступности и изменить рынок труда, а затем привести к эпохе изобилия. По его оценке, переходный период продлится около 20 лет. Затем сочетание человекоподобных роботов и ИИ позволит строить дома, выращивать продукты питания и выполнять другие задачи. При этом эпоха изобилия может создать новые трудности, в том числе связанные с поиском смысла жизни и организацией досуга. Также Гейтс допустил, что развитие ИИ может привести к гибели миллиарда человек.

В сентябре глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку технологии. Он предупредил, что в течение 6–12 месяцев ИИ-агенты могут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов. Его позицию поддержали глава OpenAI Сэм Альтман и основатель Tesla и SpaceX Илон Маск. Бывший исследователь Anthropic Джейкоб Коксон допускал, что к концу 2027 года ситуация может выйти из-под контроля. Сооснователь Palantir и PayPal Питер Тиль назвал тревожной даже вероятность потери контроля над ИИ в 5–10%, хотя и не счел такой сценарий возможным.

Президент США Дональд Трамп, напротив, назвал опасения по поводу развития ИИ одной из мистификаций радикально левых демократов, поставив их в один ряд с утверждениями о российской угрозе и афере о глобальном потеплении.