Группа получила несанкционированный доступ к новейшей системе искусственного интеллекта Mythos от компании Anthropic — технологии, способной проявлять программные уязвимости и способствовать масштабным кибератакам. Инцидент стал возможным из-за компрометации системы стороннего подрядчика и утечки данных. Об этом сообщает Bloomberg.
► Подписывайтесь на телеграмм-канал «Минфина»: главные финансовые новости
Как произошла утечка и кто получил доступ
Лишь узкий круг пользователей закрытого форума в мессенджере Discord смог подключиться к модели Mythos в тот же день, когда Anthropic анонсировала план ее выпуска для ограниченного тестирования. Согласно полученным данным, участники группы использовали комбинацию нескольких методов. Главным фактором стало то, что один из них имел легитимный доступ в качестве сотрудника посторонней компании, которую Anthropic наняла для проверки и оценки своих ШИ-моделей.
Дополнительно пользователи применили специальные программы для автоматического поиска информации на открытых платформах, таких как хранилище кода GitHub. Чтобы найти точный веб-адрес скрытой модели Mythos в интернете, они проанализировали логику формирования ссылок на предыдущие продукты Anthropic. Эти технические детали стали известны ранее благодаря утечке данных в стартапе Mercor, специализирующемся на тренировке искусственного интеллекта.
Что делать с системой?
Несмотря на высокий уровень опасности, несущий Mythos (Anthropic заявляет, что система может сломать любую популярную операционную систему или браузер, если дать ей такую команду), несанкционированные пользователи не использовали ее для кибератак. По имеющимся данным, группа заинтересована только в экспериментах.
Чтобы не привлекать внимание служб безопасности Anthropic, они дают искусственному интеллекту простые задачи, например создание кода для обычных вебсайтов. Известно также, что эта группа сохраняет доступ к ряду других еще не выпущенных алгоритмов компании.
Официальные тестировщики и реакция разработчика
Представители Anthropic официально подтвердили начало внутреннего расследования. «Мы изучаем сообщения о несанкционированном доступе к предыдущей версии Claude Mythos Preview через инфраструктуру одного из наших сторонних поставщиков», — отметил представитель компании. Разработчик отмечает, что пока нет никаких доказательств того, что эта утечка повлияла на главные серверы или вышла за пределы среды подрядчика.
Чтобы минимизировать риски, технология распространяется исключительно в рамках инициативы Project Glasswing – программы, позволяющей корпорациям находить слабые места в собственных сетях и защищать их. До сих пор Anthropic позволила тестировать Mythos только Apple, Amazon, Cisco и десяткам других тщательно отобранных организаций. Amazon также предоставляет доступ к модели через облачную платформу Bedrock для утвержденного списка клиентов. Однако в последнее время все больше финансовых учреждений и правительств США и Европы просят включить их в эту программу, чтобы защитить свои данные от потенциальных хакеров.
Тысячи уязвимостей «нулевого дня» и обеспокоенность банков
Запуск модели Mythos вызвал беспрецедентную реакцию в области мировой кибербезопасности. Как отмечает Британский институт безопасности ИИ (AISI), проводивший независимое тестирование разработки, Mythos стала первой в мире системой, способной автономно выполнить сложную 32-шаговую симуляцию излома корпоративной сети, обычно требующей от профессионалов нескольких дней работы. В ходе тестов ИИ обнаружил тысячи критических ошибок (так называемых уязвимостей «нулевого дня») в базовом программном обеспечении, из которых более 99% до сих пор остаются неисправленными.
Именно поэтому Anthropic расширила программу Project Glasswing до 40 организаций-партнеров, среди которых оказались Microsoft, Nvidia, JPMorgan Chase и CrowdStrike. Их цель – оперативно написать защитные обновления. В то же время, министр по политике искусственного интеллекта Великобритании Канишка Нараян и руководство ключевых европейских банков, в частности Deutsche Bank, уже заявили о необходимости экстренных консультаций с регуляторами, поскольку выход подобных возможностей из-под контроля может парализовать финансовый сектор.
