США обвинили TikTok в экспериментах над детьми с опасным контентом

TikTok проводил эксперименты, в ходе которых тысячи пользователей, включая детей и подростков, получали неработающие версии функций безопасности. Об этом сообщает Reuters со ссылкой на материалы судебного иска генерального прокурора штата Нью-Йорк Летиции Джеймс.

Речь идет о так называемых плацебо-экспериментах с функцией Algo Refresh, предназначенной для сброса алгоритма рекомендаций и избавления от нежелательного или потенциально вредного контента. Часть пользователей полагала, что активировала инструмент, однако их лента не менялась, тогда как у другой группы, получившей рабочую версию, рекомендации обновлялись. Согласно иску, такие эксперименты неоднократно проводились в 2023 году на тысячах пользователей: компания сравнивала поведение обеих групп, изучая продолжительность пребывания на платформе и влияние инструмента на рекламные доходы.

Один из менеджеров TikTok, отвечавших за цифровое благополучие пользователей, предупреждал о проблемах с такими испытаниями и возможности введения людей в заблуждение. «Эта функция предназначена для обеспечения прозрачности алгоритма и контроля над ним. Плацебо-группа полностью противоречит этому», — написал сотрудник во внутреннем чате. Власти Нью-Йорка также утверждают, что компания вводила пользователей в заблуждение относительно работы Algo Refresh, заявляя о сбросе алгоритма, хотя изменения были временными.

Представитель TikTok заявил Reuters, что обвинения искажают принцип работы Algo Refresh. «Мы постоянно совершенствуем нашу платформу, а это означает, что, как и большинство компаний, регулярно тестируем новые продукты и функции, чтобы оценить пользовательский опыт и понять, как они работают в реальных условиях», — сообщил он. В материалах дела также говорится о другой серии экспериментов, о которой ранее сообщал Bloomberg: компания случайным образом отключала в аккаунтах пользователей функции безопасности, ограничивающие доступ к потенциально вредному контенту. По данным Bloomberg, один из участвовавших подростков из Нью-Йорка покончил с собой после показа материалов о самоповреждении и самоубийстве; внутренняя проверка выявила большое количество такого контента в его ленте.

Иск против TikTok Летиция Джеймс подала в 2024 году. Нью-Йорк стал одним из более чем двух десятков американских штатов, обвинивших компанию в создании вызывающей зависимость у детей платформы и введении пользователей в заблуждение относительно ее безопасности. TikTok отвергает обвинения, заявляя, что безопасность несовершеннолетних является одним из приоритетов. В сентябре 2026 года соцсеть урегулировала первый из исков штатов, согласившись выплатить Алабаме до $300 млн и изменить работу платформы для подростков в этом штате. Ранее TikTok и Министерство юстиции США достигли соглашения по делу о нарушении закона о защите конфиденциальности детей в интернете: компания и ее материнская структура ByteDance выплатят $400 млн. В 2023 году власти США назвали TikTok китайским «троянским конем», а в АНБ заявили, что «китайцы могут манипулировать данными» для вызова «разногласий» среди американского общества.