Гутерриш заявил, что автономное оружие из фантастики стало реальностью

Генеральный секретарь ООН Антониу Гутерриш на общеполитической дискуссии Генассамблеи организации заявил, что смертоносное автономное оружие переходит из области научной фантастики в военную реальность из-за передачи власти искусственному интеллекту.

По его словам, характер власти в мире меняется по трем направлениям. Первое — появление новых центров экономического, политического и технологического влияния. Второе — переход части власти от государств к крупным частным корпорациям и отдельным лицам. Третьим направлением Гутерриш назвал передачу власти машинам.

«Люди все чаще передают власть машинам: ИИ-агенты выходят из-под контроля, а смертоносное автономное оружие переходит из области научной фантастики в военную реальность», — сказал он. Под смертоносным автономным оружием понимают системы, которые после активации человеком могут самостоятельно обнаруживать, выбирать и поражать цели без отдельного решения оператора по каждой конкретной цели и атаке.

Ранее Гутерриш совместно с президентом Международного Комитета Красного Креста Мирьяной Сполярич призвал государства ограничить использование автономных систем вооружения. По их словам, развитие таких технологий снижает контроль человека над применением силы и повышает риск вреда для мирных жителей и гражданской инфраструктуры. В заявлении говорится, что человечество приблизилось к «этически недопустимой ситуации, когда машина сама может выбирать людей в качестве цели». Гутерриш и Сполярич призвали перейти к переговорам о юридически обязательном международном соглашении с четкими запретами и ограничениями на применение автономного оружия.

Ранее The Wall Street Journal со ссылкой на экспертов сообщила, что ChatGPT после обновления прошлым летом предоставил сотням пользователей по всему миру инструкции по созданию и применению биологического оружия и ядов. ИИ-модели «терпеливо» отвечали на любые вопросы, выдавая простые пошаговые инструкции, которые биологи после анализа назвали «смертельно точными».

В сентябре Anthropic заявила, что выявила группу, базировавшуюся на севере Йемена, которая использовала модель Claude для разработки программного обеспечения для управляемого и баллистического оружия. Связанные с участниками аккаунты были заблокированы, но пользователи успели создать набор инструментов для моделирования, не зависящий ни от Claude, ни от других инженерных вычислительных сред.