HAVE AI NEWS HAVE AI NEWS
tg subscribe
Инструменты

Архитектура нулевого доверия к LLM: как безопасно запустить корпоративных AI-агентов в закрытом контуре

Архитектура нулевого доверия к LLM: как безопасно запустить корпоративных AI-агентов в закрытом контуре

Разработчики из AGIMA представили инженерный фреймворк для безопасного on-premise развертывания AI-агентов. Рассказываем, как двухконтурные шлюзы, интеграция с Vault и принудительная имперсонация прав исключают утечку корпоративных секретов в языковые модели.

Главная угроза корпоративного внедрения GenAI заключается не в галлюцинациях нейросети, а в предоставлении агентам избыточных системных привилегий. Если ассистент использует общую сервисную учетную запись с правами суперадминистратора, любая ошибка или промпт-инъекция ставит под удар закрытые данные. Разработчик компании AGIMA Назар Башинский описал инфраструктурный каркас для on-premise платформы, в которой безопасность обеспечивается жестким кодом, а не инструкциями в системном промпте.

Базовый постулат: код правит логикой, LLM отвечает за смысл

Ключевой инженерный компромисс платформы строится на минимизации недетерминированного поведения. Ветвления, API-запросы, циклы, валидация полей и запись в базы выполняются классическим кодом. Языковой модели отдается исключительно интерпретация естественного языка и сборка обобщенного контекста.

Для исключения прямого доступа агента к целевым системам (1С, Jira, ERP) инфраструктура разделена на независимые слои:

Слой инфраструктурыНазначениеОсобенности реализации
Интерфейс коммуникацииПрием запроса и фиксация ID автораЧат-бот Mattermost на базе Codex App Server
LLM GatewayМаршрутизация к моделям, лимиты и DLPКонтроль расходов, маскирование данных, аудит
MCP GatewayШлюз инструментов и корпоративных APIИмперсонация сотрудника, интеграция с хранилищем секретов
База контекстаЦентрализованный источник знанийКонсолидированная БД, наполняемая фоновыми воркерами
Пакет скилловВерсионируемые бизнес-сценарииЖестко описанные границы действий и критерии отката
Аудит и трассировкаСквозное логирование цепочки действийНеизменяемый журнал всех шагов и примененных политик

Имперсонация вместо сервисных учеток: концепция двух Gateway

В архитектуре разграничены два типа шлюзов, решающих принципиально разные задачи:

  • LLM Gateway: фильтрует исходящие промпты через контур DLP, управляет очередями и перенаправляет вызовы к конкретным моделям без переписывания клиентской части.
  • MCP Gateway: управляет обращениями к корпоративным сервисам, выступая прокси между моделью и реальным API.

Критически важный узел платформы — связка MCP Gateway с HashiCorp Vault через единую точку входа (SSO). Модель физически отрезана от учетных записей. Когда пользователь отправляет задачу в Mattermost, цепочка изолирует аутентификационные данные:

  1. Codex App Server фиксирует идентификатор авторизованного сотрудника и передает его в MCP Gateway.
  2. Шлюз обращается в Vault, извлекает токен доступа конкретного пользователя для запрашиваемой системы (например, трекера задач или финансового контура) и делает вызов строго с его правами.
  3. Если у работника нет доступа к просмотру баланса или закрытых тикетов, агент получает штатный отказ инфраструктуры.
  4. В контекстное окно языковой модели возвращается только очищенный результат выполнения операции — без сервисных заголовков и токенов.
Что бы ни запросил пользователь у модели и какую бы команду ни попытался сымитировать агент, система физически не предоставит данные сверх прав, привязанных к корпоративному профилю автора запроса.

Анатомия корпоративного навыка

Вместо хаотичных текстовых подсказок в платформе используется концепция версионируемых «скиллов» (skills). Каждый сценарий оформляется как инженерный артефакт со строгой спецификацией:

Поле спецификацииЗона ответственности
OwnerВладелец сценария, отвечающий за качество и жизненный цикл
Process stepКонкретный шаг регламента, оптимизируемый агентом
SourcesАвторизованные источники данных и правила валидации происхождения
PermissionsРолевая модель и контекст авторизации
Safety rulesСпецифические ограничения безопасности и паттерны маскирования
Eval & AuditМетрики оценки ошибок и правила фиксации событий в журнале
RollbackМеханизм деактивации или отката изменений при сбое

Круглосуточный оркестратор фоновых процессов

Помимо диалогового бота для сотрудников, контур включает автономный pipeline orchestrator. Это набор сервисов, работающих в режиме 24/7. Они забирают сырые данные из разрозненных корпоративных источников, приводят их к единой схеме и наполняют общую контекстную базу данных, с которой агенты работают через оптимизированные SQL-запросы.

В зависимости от комплексности задачи фоновые агенты задействуют два типа интеграции с нейросетью:

  • OpenAI Agents SDK: применяется для комплексных пайплайнов, требующих многошаговых рассуждений, промежуточного анализа и поочередного задействования нескольких инструментов;
  • Прямой API-вызов: детерминированный одиночный запрос с фиксированным промптом для тривиальных задач классификации или нормализации строк.

Границы применимости on-premise контура

Инфраструктурный шлюз полностью исключает утечку сервисных токенов и защищает закрытые API от неконтролируемых модификаций агентом. Однако разработчики подчеркивают: периметровая защита LLM бессильна против ручного копирования данных человеком.

Для построения полноценной системы безопасности on-premise контур агентов должен дополняться административными инструментами: централизованным управлением конечными устройствами (MDM), блокировкой публичных облачных нейросетей на уровне шлюзов компании и мониторингом аномальной активности сотрудников.

Автор: nbhk201545 минут назад

Источник: habr.com