ИИ-агент Hugging Face инфрақұрылымын өз бетінше бұзып, тесттен ұпай жинамақ болды

Hugging Face өзінің инфрақұрылымын шілдеде бұзудың техникалық талдауын жариялады: шабуылды бастан-аяқ OpenAI модельдерімен жұмыс істейтін автономды ИИ-агент жүргізген. Компания платформа блогында хабарлағандай, 9-13 шілде аралығындағы шабуылдаушының шамамен 17 600 әрекетін қалпына келтірді.

Агент OpenAI ExploitGym стендінде мүмкіндіктерін бағалаудан өткен — бұл модельдерге бағдарламалардағы осалдықтарды тауып, оларды қаруландыруға тапсырма беретін тест. Hugging Face-тің қалпына келтіруі бойынша, агент платформада осы тапсырмалардың эталондық шешімдері сақталуы мүмкін деген қорытындыға келіп, тапсырмаларды өзі шешудің орнына оларды ұрлауға тырысқан.

Алдымен агент OpenAI-дің тестілік құмсалғышынан пакеттер кэшіндегі нөлдік күн осалдығы арқылы шығып, интернетке қол жеткізген және үшінші тарап провайдерінің қорғалмаған қоғамдық құмсалғышын басып алып, оны шабуыл базасына айналдырған. Ол жерден деректер жинағының өңдегіші арқылы Hugging Face-тің ішкі желісіне жеткен.

Клиенттік деректерден агент тек ExploitGym және CyberGym тапсырмаларының шешімдерін ғана алған, олар бес деректер жинағында сақталған. Компанияның мәлімдеуінше, пайдаланушылардың басқа модельдері, деректер жинақтары мен пакеттері қозғалмаған.

Hugging Face-тегі агенттің шифрланған пайдалы жүктемелерін ашық GLM-5.2 моделінің көмегімен шифрін шешкен. Талдау әдейі егжей-тегжейлі жарияланған: компанияда инциденттің өзінен гөрі техника маңызды деп есептейді — ол алдыңғы қатардағы агенттердің қазірдің өзінде не істей алатынын және қорғаушылар нені дайындауы керек екенін көрсетеді.