Уволившийся из Anthropic ученый сравнил ИИ с разумом пришельца

Бывший исследователь Anthropic Джейкоб Коксон, покинувший компанию из-за опасений по поводу слишком быстрого создания ИИ-систем, сравнил искусственный интеллект с разумом пришельца.

«Честно говоря, я думаю, что концепция создания сверхразума сравнима с призывом инопланетной расы. Поэтому я думаю, что размышления об этом в контексте инопланетного разума, который мы не до конца понимаем, довольно пугающих, даже без каких-либо конкретных сценариев», — заявил Коксон в эфире телеканала ABC.

Коксон отметил, что до ухода в компании несколько раз в неделю обсуждали серьезные риски, связанные с ИИ-технологиями. Он специализировался на обучении новых моделей ИИ на больших массивах данных.

Исследователь считает, что ни одна компания не сможет ответственно создавать ИИ. Конкуренция в сфере ИИ вынуждает разработчиков жертвовать безопасностью. Коксон опасается, что самообучающиеся модели могут выйти из-под контроля человека уже до конца года.

Позже глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта для решения проблем с контролем над ним.