Инфраструктуру Hugging Face взломала автономная система ИИ-агентов

Атаку на внутреннюю инфраструктуру Hugging Face вела автономная система ИИ-агентов, сообщила платформа. По описанию компании, кампанию выполнял фреймворк автономных агентов — судя по признакам, построенный на инструментарии для исследований по безопасности; какая языковая модель за ним стояла, установить не удалось.

Действия шли роем из десятков тысяч автоматических операций. В журнале действий атакующего компания насчитала более 17 тысяч событий и разбирала его с помощью аналитических агентов на языковой модели. Сам инцидент, по словам Hugging Face, обнаружили через анализ телеметрии безопасности языковой моделью.

Началось всё с вредоносного датасета: он задействовал два пути выполнения кода в системе обработки датасетов и запустил код на рабочем узле. Затем атакующий поднялся до доступа на уровне узла, собрал учётные данные облачных сервисов и продвинулся по нескольким внутренним кластерам.

Затронуты ограниченный набор внутренних датасетов и несколько служебных учётных данных. Признаков вмешательства в публичные модели, датасеты и пространства Spaces компания не нашла, а цепочку поставок — образы контейнеров и опубликованные пакеты — назвала чистой. Оценку того, пострадали ли данные партнёров и клиентов, на момент публикации не завершили.

Hugging Face закрыла уязвимости, позволявшие выполнять код, устранила закрепление атакующего в системе, пересобрала скомпрометированные узлы и отозвала затронутые учётные данные. Также введены более строгие правила допуска и усилены обнаружение и оповещение.