AppSec.AIGate¶
AppSec.AIGate — security gateway для приложений на базе больших языковых моделей (LLM). Инспектирует входящие запросы и исходящие ответы LLM в реальном времени, предотвращая jailbreak-атаки, утечки персональных данных (PII), генерацию опасного контента и нарушение бизнес-правил.
Подключается к существующей LLM-инфраструктуре двумя способами:
- Reverse-proxy — встаёт на пути LLM-трафика (клиент → AppSec.AIGate → LLM backend). Прозрачно для клиентского SDK, не требует изменений кода.
- Guardrail backend — внешний LLM Gateway (LiteLLM, Portkey) вызывает AppSec.AIGate через webhook на каждом запросе и ответе. Подходит, когда у вас уже развёрнут LLM Gateway и менять точку входа нежелательно.
С чего начать¶
-
Quickstart
Настройте первый профиль безопасности за 10 минут — провайдер, детекторы, тестовый запрос.
-
Интеграция с LiteLLM
Подключите AppSec.AIGate как guardrail-backend в существующий LiteLLM Proxy. Со скриншотами Admin UI и curl-проверкой.
-
Установка
Развёртывание системы из Docker-образов: подготовка сервера, GPU, конфигурация, проверка работоспособности.
-
Архитектура
Компоненты системы, поток обработки запроса, типовые сценарии — для архитекторов и DevOps.
Что умеет AppSec.AIGate¶
- Threat Detection — обнаружение jailbreak и prompt injection с помощью ML-модели (Wildguard-Qwen3-4b).
- PII Detection — распознавание 20+ типов персональных данных (email, телефон, ИНН, СНИЛС, банковские карты и др.) с маскированием, redact или блокировкой.
- Content Safety — категориальная классификация ответов LLM по 9 категориям (насилие, NSFW, criminal, hate speech и др.).
- Content Policy — кастомные правила (blocklist, allowlist, language) для бизнес-специфичных ограничений.
- Response Scanning — двусторонняя инспекция: проверка не только запросов, но и ответов LLM перед возвратом клиенту.
- Multi-tenant + RBAC — изоляция данных и конфигурации между организациями, роли admin/operator/viewer.
- SIEM-интеграция — экспорт событий в syslog/CEF/webhook/Kafka/файл (Splunk, KUMA, ELK, ArcSight, QRadar).
- Audit trail + Reports — неизменяемый журнал админ-действий, отчёты для регулятора (152-ФЗ) и руководства.
Структура документации¶
| Раздел | Кому | Содержит |
|---|---|---|
| Общая информация | Архитекторы, продакт-менеджеры | Функциональные характеристики, архитектура, основные понятия, глоссарий, типовые сценарии |
| Руководство по установке | DevOps, системные администраторы | Пошаговое развёртывание из Docker-образов, конфигурация, обновление, резервное копирование, устранение неполадок |
| Руководство пользователя | Операторы безопасности | Настройка провайдеров, профилей, контентных политик, события безопасности, отчёты, интеграции |
| Руководство администратора | Старшие администраторы | Настройка Nginx, экспорт в SIEM, управление пользователями и ролями, аудит, хранение данных |
| Справочник | Все технические роли | Переменные окружения, порты, типы PII, категории Content Safety, mapping presets, типы событий |
Версии¶
- AppSec.AIGate: 1.0
- Адаптер LLM Gateway (
llm-gateway-adapter): v0.3.1