WSJ сообщила об увольнениях в OpenAI из-за чатов об «охраняемом секрете»

Служба безопасности OpenAI перед увольнением трех исследователей проверила их личные телефоны и обнаружила у некоторых исчезающие сообщения в переписке с внешним специалистом по безопасности ИИ в мессенджере Signal. Об этом сообщает The Wall Street Journal со ссылкой на заявления исследователей и комментарии компании.

OpenAI подозревала Томека Корбака, Микиту Балесни и Жасмин Ван в передаче сведений об одном из самых охраняемых секретов компании — внутреннем устройстве ее ИИ-моделей. После проверки переписки в Signal через неделю всех троих одновременно вызвали на новые встречи и уволили в начале октября.

«Мне сказали, что доверие было нарушено, поскольку я взаимодействовал с третьей стороной через неразрешенные каналы», — рассказал Корбак. Он и Балесни утверждают, что руководство назвало использование исчезающих сообщений одной из причин увольнения. В OpenAI подтвердили, что Signal не был разрешенным каналом общения, но подчеркнули, что дело не ограничивалось использованием приложения.

Компания заявила, что расследование выявило нарушение правил обращения с конфиденциальной информацией, а увольнения не связаны с высказыванием опасений по поводу безопасности. Исследователи отрицают передачу секретов и утверждают, что письменных объяснений предполагаемых нарушений не получили.

Кроме того, уволенные исследователи выступали против новых архитектур, при которых модели оставляют меньше записей о промежуточных шагах решения задач, поскольку это затруднит выявление опасного поведения. Балесни утверждает, что с разрешения OpenAI обсуждал предложение по этому вопросу с внешним исследователем Райаном Гринблаттом, исключив из него секреты компании.

Уволенные сотрудники опасаются, что произошедшее заставит коллег избегать общения с независимыми специалистами. OpenAI, со своей стороны, сообщила, что продолжает сотрудничать с внешними организациями.