FT нашла «галлюцинации ИИ» в докладе KPMG о пользе нейросетей

В докладе KPMG (входит в «большую четверку» международных аудиторско-консалтинговых компаний) об использовании искусственного интеллекта нашли ложные данные о том, как компании и госорганизации применяют эту технологию. После жалоб со стороны организаций, упомянутых в исследовании, компания удалила часть документов со своих сайтов, пишет Financial Times. Издание утверждает, что речь идет об искажениях или «галлюцинациях», появляющихся в связи с использованием искусственного интеллекта. Речь идет о докладе KPMG, опубликованном осенью прошлого года. В нем рассказывалось, как крупные организации используют ИИ-агентов для выполнения различных задач.  Так, в исследовании утверждалось, что швейцарский банк UBS использует ИИ для инвестиционных рекомендаций, управления рисками и контроля соблюдения требований. В банке в свою очередь заявили Financial Times, что эта информация не соответствует действительности. Похожие претензии возникли у Швейцарских федеральных железных дорог и транспортной системы Лондона. В KPMG утверждали, что они используют ИИ для планирования маршрутов, управления пассажиропотоком и других задач. Представители организаций заявили, что эти сведения неверны. Еще один спорный пример касался Национальной службы здравоохранения Великобритании. В докладе говорилось, что одно из подразделений NHS использует ИИ для отбора пациентов и прогнозирования повторных госпитализаций. В медицинской организации заявили, что подобного применения технологии нет. В компании заявили, что серьезно относятся к достоверности публикуемой информации и выясняют, как недостоверные данные попали в отчет. Случаи, когда искусственный интеллект генерирует недостоверную информацию, ранее уже приводили к проблемам у крупных компаний. В прошлом месяце другая консалтинговая компания EY отозвала собственное исследование после обнаружения в нем ложных ссылок и других ошибок, связанных с использованием искусственного интеллекта. В апреле юридическая фирма Sullivan & Cromwell извинилась перед федеральным судом США за документ с несуществующими ссылками на судебные дела и юридические источники. Позже компания подала исправленную версию документа. В октябре 2025 года аудиторская компания Deloitte согласилась частично компенсировать ущерб правительству Австралии после того, как в подготовленном с использованием ИИ отчете нашли многочисленные ошибки, включая ссылки на несуществующих людей и выдуманную цитату из решения суда. По данным опроса, на который ранее ссылалась Financial Times, ошибки и «галлюцинации» искусственного интеллекта остаются главным опасением пользователей нейросетей. Такую обеспокоенность выразили 27% респондентов, что оказалось выше доли тех, кто опасается потери работы из-за развития ИИ.