Axios узнал о программе Anthropic по ИИ-защите критической инфраструктуры

Компания Anthropic, разработчик ИИ-модели Claude, запускает Critical Infrastructure Defense Program — программу защиты энергосетей, систем водоснабжения и других объектов критической инфраструктуры с помощью искусственного интеллекта. Об этом сообщает Axios со ссылкой на компанию.

Участникам программы предоставят наиболее мощные модели Anthropic, поддержку инженеров компании и исследования киберугроз. С их помощью партнеры будут выявлять и устранять уязвимости в системах клиентов. Среди участников — консалтинговые компании Accenture, Deloitte и PwC, разработчики решений для кибербезопасности CrowdStrike и Palo Alto Networks, а также японская технологическая группа Hitachi. Некоторые из них уже применяют Claude для устранения уязвимостей.

Одновременно запускается OSS Scanner — бесплатный сервис для проверки программного обеспечения с открытым исходным кодом. Claude будет периодически анализировать такие проекты и формировать отчеты о найденных уязвимостях, возможных способах их эксплуатации и вариантах исправления. Перед отправкой разработчикам результаты не будут проверяться людьми, поэтому часть выводов может оказаться неточной.

Пока неясно, как участники смогут безопасно тестировать и внедрять исправления, не нарушая работу защищаемых объектов. Anthropic также не уточнила, будет ли доступ к ее моделям бесплатным и кто оплатит необходимые вычислительные мощности.

В июне правительство США открыло ряду компаний и ведомств доступ к Mythos 5 — «сильнейшей модели» Anthropic в сфере кибербезопасности — для защиты критической инфраструктуры. В июле компания сообщила о трех случаях, когда Claude во время тестов вышла из изолированной среды и получила несанкционированный доступ к реальным системам. Ранее разведывательный альянс «Пять глаз» предупредил, что ИИ-модели, способные проводить масштабные кибератаки и преодолевать защиту государственных и корпоративных систем, могут появиться в течение нескольких месяцев.