Би-би-си выяснила, как ИИ-врачи превратились в глобальный бизнес

Искусственный интеллект стал основой теневого бизнеса на YouTube: сгенерированные нейросетями видео с фальшивыми врачами превратились в глобальную индустрию, нацеленную на пожилых зрителей. Расследование бразильской службы Би-би-си выявило не менее 50 каналов, обучающих созданию таких роликов на португальском, английском, хинди и других языках.

Создатели контента сознательно эксплуатируют уязвимость старшей аудитории, полагая, что у нее больше свободного времени и средств на покупку рекламируемых товаров. Схема проста: вызывающий доверие человек в белом халате спокойно предупреждает о скрытой угрозе от привычного продукта или лекарства, а затем предлагает «безопасный» аналог. В инструкциях для авторов прямо рекомендуют использовать заголовки и сценарии, провоцирующие страх, чтобы зритель поверил в опасность.

Масштаб доходов впечатляет: один из авторов обучающих роликов признался, что такие каналы способны приносить до $5,8 тыс. за счет просмотров и продажи товаров. Однако цена этого заработка может быть смертельной. Настоящий врач, чье изображение использовали без разрешения, предупредил, что советы ИИ-медиков способны «нанести пожилым людям смертельный вред».

Гастроэнтеролог клиники имени Альберта Эйнштейна в Сан-Паулу Жайме Заладека Жила подчеркнул главную опасность: пациенты рискуют принимать неэффективные средства, что ухудшит их состояние или отсрочит постановку диагноза. «Необходимо полноценное медицинское обследование, а не видео, утверждающее, что какое-то средство решит все проблемы», — заявил он.

В Google, владеющей YouTube, заявили, что правила платформы распространяются на ИИ-контент и запрещают медицинскую дезинформацию, способную причинить реальный вред. При этом в конце июля гендиректор OpenAI Сэм Альтман объявил о достижении «точки сингулярности» в гонке ИИ, отметив, что еще десять лет назад это казалось маловероятным.