NVIDIA и Linux Foundation создали Open Secure AI Alliance для защиты ИИ-агентов
NVIDIA совместно с Linux Foundation объявила о запуске Open Secure AI Alliance - международной инициативы, призванной ускорить разработку открытых технологий безопасности ИИ. К проекту уже присоединились более 40 организаций из сфер облачных вычислений, кибербезопасности, корпоративного ПО, машинного обучения и open source.
Среди участников - Red Hat, Microsoft, IBM, Hugging Face, Cloudflare, Cisco, CrowdStrike, HPE, Salesforce, SAP, Adobe, Dell Technologies, Elastic, Palo Alto Networks, Siemens, Snowflake и другие компании. Таким образом, NVIDIA Linux Foundation безопасность ИИ становятся одним из центральных направлений нового объединения, которое делает ставку не на единичный коммерческий продукт, а на совместимую экосистему инструментов.
Основная задача альянса - сформировать набор открытых моделей, фреймворков, систем управления идентификацией, средств сканирования, наборов данных и практик безопасной разработки. Организации смогут изучать эти компоненты, адаптировать их под собственные инфраструктуры и разворачивать внутри своих контуров. Такой подход должен снизить зависимость от закрытых платформ и предоставить компаниям больше контроля над защитой AI-приложений.
Как отмечает NVIDIA, проект опирается на уже существующие инициативы Linux Foundation, включая Akrites, а также на разработки Open Source Security Foundation. Одно из ключевых направлений работы - обнаружение уязвимостей, подготовка исправлений и ответственное раскрытие информации о найденных проблемах. Подробности о запуске и составе участников представлены в материале о новом альянсе NVIDIA и Linux Foundation.
Одновременно NVIDIA представила исследовательский open source-фреймворк NVIDIA Labs Object-Oriented Agent, или NOOA. Он предназначен для более тесного взаимодействия между ИИ-моделями и агентскими оболочками. Разработчики рассчитывают, что проект упростит тестирование поведения агентов, отслеживание их действий, аудит и внедрение механизмов управления.
Участники альянса также передают в общую экосистему собственные открытые разработки. HPE предоставляет технологии SPIFFE и SPIRE, которые позволяют криптографически подтверждать идентичность рабочих нагрузок и сервисов. Эти механизмы особенно важны для распределённых систем, где ИИ-агенты взаимодействуют между собой и получают доступ к различным внутренним ресурсам.
Hugging Face вносит вклад в виде Safetensors - формата хранения весов моделей. Он разработан таким образом, чтобы предотвращать произвольное выполнение кода при загрузке и распространении моделей. Кроме того, формат обеспечивает более прозрачную и эффективную передачу AI-компонентов между средами.
IBM и Red Hat предлагают проект Lightwell, ориентированный на повышение безопасности цепочки поставок программного обеспечения. В его рамках используются цифровые подписи для защитных патчей, что позволяет проверять подлинность обновлений и снижает риск подмены компонентов. Microsoft, в свою очередь, предоставляет MDASH - фреймворк мультиагентного сканирования, координирующий специализированных ИИ-агентов для поиска, анализа и проверки уязвимостей в программном коде.
В совокупности эти технологии должны образовать открытый защитный контур для ИИ-агентов. Он охватывает идентификацию рабочих нагрузок, изоляцию процессов, безопасные форматы моделей, автоматизированный поиск уязвимостей и более надёжные процедуры разработки. Именно поэтому безопасность ИИ-агентов становится не отдельной задачей специалистов по защите информации, а частью всего жизненного цикла программных систем.
Особое значение инициативе придаёт распространение автономных ИИ-агентов. В отличие от обычных чат-ботов, они способны самостоятельно выбирать инструменты, обращаться к базам данных, запускать команды и изменять состояние инфраструктуры. Ошибка в настройках или недостаток контроля в такой среде может привести не только к неправильному ответу, но и к реальному инциденту безопасности.
Открытые технологии безопасности ИИ позволяют проверять используемые механизмы независимо от разработчика платформы. Компании получают возможность проводить аудит исходного кода, адаптировать политики доступа, подключать собственные средства мониторинга и быстрее реагировать на обнаруженные угрозы. Однако открытость сама по себе не гарантирует защищённость: важны регулярные обновления, независимые проверки и ответственное сопровождение проектов.
Альянс также может способствовать появлению единых практик для идентификации ИИ-агентов. Если агентам предстоит работать с корпоративными сервисами, необходимо точно понимать, кто инициировал действие, какие полномочия были предоставлены и какие операции действительно выполнялись. Стандарты вроде SPIFFE и SPIRE способны стать фундаментом для такой модели доверия.
При этом Open Secure AI Alliance пока нельзя назвать готовой программной платформой. Это новая кооперационная инициатива, а её долгосрочный результат будет зависеть от постоянного участия компаний, вклада независимых разработчиков, исследователей по безопасности и open source-сообществ. Важную роль сыграет и то, насколько легко представленные компоненты окажутся совместимыми друг с другом на практике.
Если участникам удастся сформировать устойчивую экосистему, организации получат более прозрачные инструменты для защиты моделей, агентских приложений и инфраструктуры. В противном случае проект рискует остаться набором разрозненных разработок с ограниченной интеграцией. Сейчас же запуск Open Secure AI Alliance демонстрирует, что индустрия постепенно переходит от обсуждения рисков ИИ к созданию конкретных открытых механизмов их снижения.
