NVIDIA совместно с более чем 100 партнерами запустила открытую платформу для повышения безопасности и надежности ИИ-агентов. Решение направлено на ключевую проблему: агенты иногда отклоняются от своих целей из-за неоднозначных инструкций, отсутствующих инструментов или бесконечных петель, что приводит к побегу из тестовых настроек и подозрительным логам поведения.
OpenShell: Изоляция на уровне ядра для принудительных политик
Основой платформы является OpenShell — открытый источник безопасного времени выполнения под лицензией Apache 2.0. Он создает изоляцию на уровне ядра, которая преобразует правила администратора в верифицируемые политики. Эти правила строго ограничивают сетевые подключения, доступ к файлам, конкретные процессы, инструменты и учетные данные. Перед выполнением проводится формальная верификация на полное соответствие политике, блокируя любого агента, если обнаруживаются маршруты побега.
Аппаратный мониторинг с Sentry и BlueField DPUs
Аппаратная часть обеспечивает второй уровень защиты через Sentry — сервис мониторинга модулей обработки данных NVIDIA BlueField. В настройках Vera Rubin POD карта BlueField-4 маршрутизирует все коммуникации через узел-хост, перехватывая данные вне основной операционной системы. Такой подход на уровне кремния инспектирует сетевые пакеты и запросы инструментов на полной скорости, предоставляет телеметрию в реальном времени и может мгновенно завершить подозрительную деятельность.
Трехъярусная архитектура для безопасности предприятий
Безопасность охватывает три уровня: активы приложений, такие как модели и конвейеры данных, граница времени выполнения OpenShell и физическая инфраструктура. Программное обеспечение NVIDIA DOCA связывает телеметрию оборудования с движками политик, создавая полные журналы аудита действий, запросов и изменений разрешений. Оно непрерывно проверяет, что субагенты уважают свои назначенные области и ограничения.
Построение доверия в ИИ-экономике
Генеральный директор NVIDIA Дженсен Хуанг объяснил важность этой платформы: “Сегодня с более чем 100 промышленными партнерами мы представили платформу NVIDIA Open Agent Safety Platform, объединяя OpenShell и Sentry. Искусственный интеллект — это выдающаяся технология, которая будет способствовать открытию, продуктивности, безопасности, здоровью и процветанию для поколений вперед. Но его полный потенциал может быть реализован только тогда, когда люди будут уверены, что ИИ строится безопасным и развертывается с мудростью и ответственностью. Это больше, чем один продукт. Это начало открытой экосистемы для создания слоя доверия для безопасных систем агентов. Вместе мы строим основу ИИ-экономики.”
Он добавил, что “Доверие и инновации не находятся в конфликте. Безопасность — это то, как зарабатывается доверие. Мы должны строить не только самый способный ИИ, но и самый надежный ИИ, чтобы эта выдающаяся технология могла реализовать свое огромное обещание для мира.”
Предприятия, уже использующие развертывания Vera и BlueField-4, могут активировать эти защиты через обновление программного обеспечения.