NVIDIA, Microsoft и IBM вошли в альянс открытых ИИ-инструментов киберзащиты

Больше тридцати компаний и организаций объявили о создании Open Secure AI Alliance — объединения, которое будет разрабатывать открытые ИИ-инструменты для защиты программного обеспечения. Об этом сообщила NVIDIA, один из участников. Альянс продолжает работу инициативы Akrites фонда Linux Foundation и сообщества OpenSSF, а заниматься будет устранением и раскрытием уязвимостей с помощью открытых технологий.

Среди учредителей — NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Palo Alto Networks, Red Hat, Salesforce, SAP, Siemens, Palantir, Hugging Face, Dell Technologies, Databricks и сам Linux Foundation.

Одним из доводов в NVIDIA называют недавний взлом Hugging Face. Тогда закрытые ИИ-сервисы не смогли отличить атакующих от защищающихся и заблокировали работу специалистов по расследованию, и компания запустила на собственной инфраструктуре модель с открытыми весами GLM 5.2, чтобы разобрать больше 17 тысяч действий и остановить проникновение.

По доводам альянса, открытые модели и инструменты позволяют защитникам изучать и настраивать системы под себя, работать с данными на своей инфраструктуре и обходиться без единой точки отказа. В NVIDIA признают, что открытые модели можно использовать во вред — ослабить ограничения или приспособить для атак, — но считают, что эти риски не уникальны для открытых систем и управлять ими нужно везде, где применяется продвинутый искусственный интеллект.

В компании подчёркивают, что защитникам нужны и закрытые, и открытые модели: систему следует выбирать под задачу, а прозрачность и собственный контроль должны оставаться доступными там, где этого требует безопасность.