Министр финансов США Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл на этой неделе провели срочное совещание с руководителями крупнейших банков, чтобы предупредить о киберрисках, связанных с новейшей моделью искусственного интеллекта от компании Anthropic. На днях была представлена мощная языковая модель Claude Mythos, однако разработчики ограничили к ней доступ, опасаясь, что она может выявить ранее неизвестные уязвимости в области кибербезопасности. Компания заявила, что самым старым из обнаруженных уязвимостей было до 27 лет, и ни одна из них не была раскрыта их создателями или техническими специалистами до того, как была выявлена искусственным интеллектом.
Недавняя утечка кода Claude вынудила Anthropic опубликовать сообщение в блоге, в котором говорилось, что ИИ-модели превзошли всех в поиске и использовании уязвимостей программного обеспечения, кроме некоторых самых опытных людей. Последствия для экономики, общественной безопасности и национальной безопасности могут быть очень серьёзными. По словам разработчиков, Claude Mythos способна обнаруживать, а также использовать слабые места во всех основных операционных системах и браузерах. Anthropic заявила, что ведёт переговоры с правительством США о «наступательных и оборонительных кибервозможностях» данной модели.
Источники утверждают, что Anthropic заблаговременно проинформировала высокопоставленных чиновников в правительстве США и ключевых участников рынка о возможностях Mythos перед запуском модели. На встрече с руководителями крупнейших банков американские власти хотели убедиться, что банки осведомлены о рисках, связанных с Mythos и аналогичными ИИ-моделями, и принимают меры для защиты своих систем.
Доступ к Mythos будет сильно ограничен, его получат примерно 40 крупных технологических компаний, включая Microsoft, Google, Amazon, Apple, Cisco, Broadcom, а также Linux Foundation. Это первый случай, когда Anthropic ограничила выпуск своего продукта.
