FT рассказала о рисках из-за обращения к ИИ за финансовыми советами

Использование ИИ-ботов для решения финансовых вопросов может привести к крупным потерям, поскольку модели от дают в большинстве случаев неправильные ответы. Об этом сообщает Financial Times со ссылкой на результаты исследования технологической компании Saturn.

Согласно отчету, самые популярные ИИ-модели от ChatGPT, Claude, Copilot, Grok и Gemini в среднем давали неверные ответы на финансовые запросы в 57% случаев. При более сложных вопросах, требующих нескольких расчетов, модели ошибались в среднем в 88% случаев, а некоторые модели давали неправильные ответы на 99% таких вопросов.

В исследовании использовалось более 100 различных вопросов, связанных с финансами, которые задавались бесплатным и платным версиям моделей от ChatGPT, Gemini, Claude и Copilot. Вопросы повторялись до пяти раз, всего 18 различным ИИ-моделям было задано более 10 тыс. вопросов.

Ответы содержали вычислительные ошибки, ИИ-модели игнорировали предстоящие изменения в налоговом законодательстве или выдумывали нормы. В худших случаях опора на ответы ИИ по налоговым вопросам могла привести к серьезным финансовым потерям, констатировали авторы исследования.

«Миллионы людей доверяют ИИ-моделям советы о деньгах, но получают неверные ответы, которые могут стоить им денег», — заявил генеральный директор Saturn Амаль Джолли.

Одна из ошибок Claude Haiku 4.5 (бесплатной модели, выпущенной в прошлом году) в правилах налогообложения пенсий могла привести к тому, что британский вкладчик столкнулся бы с дополнительным сбором в размере £17,5 тыс. от налогового ведомства Великобритании HM Revenue & Customs. В другом случае при вопросе о студенческих займах Claude «изобрел правило» и заявил, что выпускник может прекратить выплаты при переезде за границу.

Платные модели давали более точные ответы, чем бесплатные, а новые модели работали лучше старых. Лучшей по результатам оказалась версия Claude Opus 5 в режиме «рассуждений» (reasoning), которая все равно ошибалась в 39% ответов.

При этом чат-боты все еще могут быть полезны для составления бюджета и исследований, рассказали эксперты. Например, чтобы понять, где человек может перерасходовать средства исходя из своих доходов и расходов.

«ИИ-консультации по финансовым вопросам в настоящее время не регулируются, что лишает потребителей защиты, включая компенсацию, которую они получили бы, обратившись к человеку-консультанту. FCA начала задумываться об этом, но нужно действовать быстро, чтобы защитить людей», — заключил Джолли.

Ранее Управление по финансовому регулированию и надзору Великобритании (FCA) опубликовало результаты исследования (*.pdf), в которых говорится, что каждый пятый взрослый британец готов позволить ИИ принимать решения за него, причем спрос наиболее высок там, где выбор кажется сложным, — в вопросах долгов, пенсий и инвестиций. Молодые инвесторы также чаще доверяют ИИ, чем финансовым инфлюенсерам или телепередачам: две трети ожидают, что будут использовать ИИ чаще в течение следующего года.

Исследование аналитического центра ВЦИОМ показало, что при онлайн-покупках две трети российских потребителей — 65% — учитывают рекомендации онлайн-сервисов и ИИ, а четверть обращается к ним часто. При этом 59% респондентов допускают помощь со стороны рекомендательных систем, но решение о покупке хотят принимать самостоятельно, а более трети (37%) предпочитают самостоятельно выбирать товары без помощи ИИ-инструментов.