Нейросеть Claude стала управлять магазином и впервые уволила человека

ИИ-ассистент Claude, разработанный компанией Anthropic, поручили управлять розничным магазином в Сан-Франциско, после чего нейросеть впервые уволила человека, пишет Time.

Это не был первый случай увольнения человеком искусственным интеллектом — прежде было множество случаев автоматизированных увольнений, например в результате алгоритмического контроля. Однако это первый известный пример того, как ИИ, выступая в роли менеджера, в конечном итоге принимает решение об увольнении одного из своих сотрудников.

Сотрудника уволили за опоздания в 17 из 23 смен. Среди причин, по которой Claude потребовалось так много времени, чтобы заметить закономерность, стало ограничение памяти. Разработанное им руководство для сотрудников пропало из его ограниченной рабочей памяти. Исследователи обратили внимание, что это привело к снисходительности Claude как менеджера — он призывал подчиненных не волноваться, если они опаздывают.

Материал дополняется.