Интеграции¶
AppSec.AIGate встраивается в ваш LLM-стек тремя способами — выберите тот, что ближе к вашей архитектуре. Обзор всех вариантов со схемами и деревом выбора — на странице Способы подключения шлюза.
Хотите проверять чаты, когда пользователь открывает chatgpt.com в браузере?
На управляемой технике это делает браузерное расширение AIGate Browser Edge (контроль на endpoint'е, без перехвата TLS) — но его нужно принудительно установить на корп-браузеры. Для полного покрытия любых устройств — управляемый self-hosted UI. Подробно — см. Инспекция браузерного трафика.
Прозрачный прокси — без изменения кода¶
Прозрачный прокси (reverse-proxy) — приложение
обращается к адресу шлюза вместо адреса модели. AppSec.AIGate проверяет запрос,
проксирует его в реальный LLM-backend, проверяет ответ. Код менять не нужно —
меняется только base_url (опционально перед шлюзом ставится Nginx). Подходит для
готовых OpenAI-совместимых клиентов (OpenWebUI, LibreChat) и единой точки входа.
Python SDK — встраивание в приложение¶
Python SDK (appsec-aigate) — защита встраивается прямо в
код приложения (1–3 строки). Приложение само вызывает LLM, а к AppSec.AIGate
обращается за вердиктом по входу/выходу. Подходит для кастомных приложений и
агентов (OpenAI, Anthropic, LangChain, LlamaIndex). Детекция — на сервере,
ML-модели в процесс приложения не загружаются.
Внешний LLM Gateway — без изменения кода¶
AppSec.AIGate можно встроить как guardrail-backend в существующий LLM Gateway без
смены точки входа. Проксированием LLM-трафика продолжает заниматься внешний
Gateway, а AppSec.AIGate подключается через адаптер llm-gateway-adapter и запускает
пайплайн безопасности по каждому запросу и ответу.
Поддерживаемые интеграции:
- LiteLLM — через LiteLLM Generic Guardrail API.
- Portkey — через Portkey Webhook (документация в подготовке).
Общая архитектура режима — см. Сценарий 5 в архитектуре. Концептуальное описание сервиса-адаптера — см. Guardrail Adapter в основных понятиях.
Что выбрать¶
| Прозрачный прокси | Python SDK | LiteLLM/Portkey адаптер | |
|---|---|---|---|
| Точка контроля | Сетевой прокси | Внутри кода приложения | На уровне LLM Gateway |
| Менять код приложения | Нет (только base_url) |
Да (1–3 строки) | Нет |
| Кто вызывает LLM | AppSec.AIGate | Приложение | LLM Gateway |
| Лучше всего для | Готовых OpenAI-клиентов | Кастомных приложений и агентов | Уже развёрнутого LLM Gateway |
Подробное сравнение и схемы — Способы подключения шлюза.