AppSec.AIGate¶

AppSec.AIGate — security gateway для приложений на базе больших языковых моделей (LLM). Инспектирует входящие запросы и исходящие ответы LLM в реальном времени, предотвращая jailbreak-атаки, утечки персональных данных (PII), генерацию опасного контента и нарушение бизнес-правил.

Подключается к существующей LLM-инфраструктуре несколькими способами:

Reverse-proxy — встаёт на пути LLM-трафика (клиент → AppSec.AIGate → LLM backend). Прозрачно для клиентского SDK, не требует изменений кода.
Python SDK (appsec-aigate) — защита встраивается прямо в код приложения (1–3 строки). Приложение само вызывает LLM, а к AppSec.AIGate обращается за вердиктом по входу/выходу. Подходит для кастомных приложений и агентов (OpenAI, Anthropic, LangChain, LlamaIndex). См. Интеграция через Python SDK.
Guardrail backend — внешний LLM Gateway (LiteLLM, Portkey) вызывает AppSec.AIGate через webhook на каждом запросе и ответе. Подходит, когда у вас уже развёрнут LLM Gateway и менять точку входа нежелательно.

С чего начать¶

Quickstart

Настройте первый профиль безопасности за 10 минут — провайдер, детекторы, тестовый запрос.

→ Начало работы
Интеграция с LiteLLM

Подключите AppSec.AIGate как guardrail-backend в существующий LiteLLM Proxy. Со скриншотами Admin UI и curl-проверкой.

→ Пошаговое руководство
Python SDK

Встройте защиту прямо в Python-приложение: pip install appsec-aigate, обёртки OpenAI/Anthropic/LangChain/LlamaIndex, примеры и обработка ошибок.

→ Интеграция через SDK
Установка

Развёртывание системы из Docker-образов: подготовка сервера, GPU, конфигурация, проверка работоспособности.

→ Руководство по установке
Архитектура

Компоненты системы, поток обработки запроса, типовые сценарии — для архитекторов и DevOps.

→ Архитектура и сценарии

Что умеет AppSec.AIGate¶

Threat Detection — обнаружение jailbreak и prompt injection с помощью ML-модели (Wildguard-Qwen3-4b).
PII Detection — распознавание 20+ типов персональных данных (email, телефон, ИНН, СНИЛС, банковские карты и др.) с маскированием, redact или блокировкой.
Content Safety — категориальная классификация запросов и ответов LLM по категориям опасного контента (насилие, NSFW, нелегальная деятельность, самоповреждение и др.).
Content Policy — кастомные правила (blocklist, allowlist, language) для бизнес-специфичных ограничений.
Response Scanning — двусторонняя инспекция: проверка не только запросов, но и ответов LLM перед возвратом клиенту.
RBAC — ролевая модель доступа к панели управления: роли admin/operator/viewer.
SIEM-интеграция — экспорт событий в syslog/CEF/webhook/Kafka/файл (Splunk, KUMA, ELK, ArcSight, QRadar).
Audit trail + Reports — неизменяемый журнал админ-действий, отчёты для регулятора (152-ФЗ) и руководства.

Структура документации¶

Раздел	Кому	Содержит
Общая информация	Архитекторы, продакт-менеджеры	Функциональные характеристики, архитектура, основные понятия, глоссарий, типовые сценарии
Руководство по установке	DevOps, системные администраторы	Пошаговое развёртывание из Docker-образов, конфигурация, обновление, резервное копирование, устранение неполадок
Руководство пользователя	Операторы безопасности	Настройка провайдеров, профилей, контентных политик, события безопасности, отчёты, интеграции
Руководство администратора	Старшие администраторы	Настройка Nginx, экспорт в SIEM, управление пользователями и ролями, аудит, хранение данных
Справочник	Все технические роли	Переменные окружения, порты, типы PII, категории Content Safety, mapping presets, типы событий

Версии¶

AppSec.AIGate: 1.0
Адаптер LLM Gateway (llm-gateway-adapter): v0.3.1