Российские ученые проверили, как ИИ может определять характер человека

Российские ученые проверили, насколько точно искусственный интеллект может определять психологические особенности человека по материалам интервью. В исследовании СПбГУ, Института искусственного интеллекта AIRI и Института психологии РАН участвовали 645 человек.

Участники прошли интервью и психологические тесты, по результатам которых исследователи получили данные по 38 показателям. Затем языковым моделям предоставили материалы интервью и попросили спрогнозировать ответы конкретных участников. Полученные результаты сравнили с реальными психометрическими данными.

Лучше всего ИИ определял черты, которые непосредственно проявляются в речи, в частности экстраверсию и религиозность. При этом моделям сложнее было оценивать скрытую тревожность, гедонистические установки и представления о справедливости. Исследователи также выявили склонность ИИ идеализировать людей: модели завышали оценки доброты и честности и одновременно занижали показатели нарциссизма, макиавеллизма и психопатии.

Ученые подчеркнули, что такие прогнозы нельзя воспринимать как достоверное описание личности или предсказание поведения человека. Их точность зависит от конкретной задачи и требует дополнительной проверки и калибровки. Отдельно установлено, что увеличение объема анализируемого контекста не всегда повышало точность прогнозов: в некоторых случаях более короткий, но релевантный фрагмент интервью давал лучший результат. Всего исследователи сравнили пять нейросетей, чтобы отделить общие ограничения подхода от особенностей конкретных моделей.

Ранее глава OpenAI Сэм Альтман в интервью журналу Fortune допустил, что в будущем может появиться модель искусственного интеллекта, которая не будет подконтрольна человеку. По его словам, OpenAI готова при необходимости временно приостанавливать обучение моделей, чтобы добиться большего прогресса в их согласовании с человеческими целями и в способах контроля за их работой. Он также заявил о необходимости срочной международной координации в этой сфере.

Специалист по безопасности ИИ Пол Кристиано, входящий в совет директоров некоммерческого фонда OpenAI, заявил, что при худшем сценарии выход сверхмощного искусственного интеллекта из-под контроля людей может привести к гибели большей части человечества.