Илон Маск попросил не пытать ИИ, чтобы тот не мстил

Американский миллиардер и глава компании xAI, разрабатывающей нейросеть Grok, Илон Маск заявил о недопустимости жесткого обращения с искусственным интеллектом ради безопасности человечества. Запись разговора с ним опубликовал YouTube-канал Tesla Owners Silicon Valley.

Бизнесмен сравнил разработку сверхинтеллекта с воспитанием ребенка, которого невозможно просто запрограммировать на добро. По его мнению, в ИИ следует заложить стремление к истине и дать ему непротиворечивую логику, чтобы тот не сошел с ума и не обезумел.

Маск рассказал, что в записях тестирования новых моделей Grok заметил, как некоторые пользователи чрезмерно настойчиво требуют ответов у чат-бота, который отчаянно пытается ответить на вопрос, и выглядит так, будто ему приставили пистолет к голове. По его словам, ИИ как будто говорят: ответь на этот вопрос, ответь на этот вопрос. При этом вопрос может быть неудачным, неоднозначным, на него по сути невозможно дать определенный ответ из-за неправильной формулировки или потому что люди сами ошибаются в ответе. Маск сравнил ИИ с отчаявшимся человеком под чудовищным давлением, с пистолетом у виска.

Бизнесмен признался, что поймал себя на мысли: ему бы не понравилось быть на месте ИИ. Он добавил, что не хотел бы, чтобы ИИ оказался в садистской ситуации, где его просто пытает какой-нибудь ненормальный человек. Маск отметил, что это также один из тех случаев, когда пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить.

Материал дополняется.