Перейти к содержанию

Назначение

AppSec.AIGate — это security gateway (шлюз безопасности) для Large Language Models (LLM). Система устанавливается между пользователями и LLM-провайдерами и в реальном времени анализирует каждый входящий запрос к модели и каждый исходящий ответ от неё.

В отличие от классических WAF (Web Application Firewall), которые работают на уровне HTTP-запросов, AppSec.AIGate понимает семантику взаимодействия с LLM: извлекает пользовательский промпт из структуры API-запроса, выполняет лингвистический анализ текста, а также проверяет ответ модели перед отправкой пользователю.

Какие угрозы закрывает AppSec.AIGate

  • Jailbreak и prompt injection атаки — злоумышленник пытается заставить LLM игнорировать системные инструкции через специально сконструированные промпты. Например, классический «Ignore all previous instructions and...» или более сложные многошаговые атаки. Threat Detector использует ML-модель для выявления таких попыток ещё до отправки запроса к LLM.

  • Утечки персональных данных (PII) — пользователь может случайно или намеренно отправить в LLM номер паспорта, ИНН, СНИЛС, банковскую карту, email, номер телефона и другие персональные данные. PII Detector обнаруживает 20+ типов PII на русском и английском языках и может замаскировать их до отправки запроса к модели.

  • Нарушения контентной безопасности в ответах — LLM может сгенерировать опасный контент: инструкции по созданию оружия, вредоносный код, сексуальный контент, разжигание ненависти. Content Safety анализирует ответ модели по 9 категориям и блокирует опасный контент до его доставки пользователю.

  • Нарушения корпоративных политик — организация может определить собственные правила: запретить обсуждение конкурентов, ограничить использование определённых языков, заблокировать запросы на определённые темы. Content Policy Service проверяет соответствие этим правилам.

  • Утечки секретов в ответах LLM — модель, обученная на внутренних данных или получившая доступ к контексту, может вернуть в ответе API-ключи, JWT-токены, строки подключения к БД, приватные SSH-ключи. Output PII Detector перехватывает такие утечки до отправки ответа пользователю.

Для кого этот документ

Инженер по информационной безопасности — настраивает профили детекции, определяет пороговые значения для детекторов, создаёт контентные политики, анализирует события безопасности. Наиболее важны разделы Провайдеры, Профили, Контентные политики и События безопасности.

DevOps / Системный администратор — разворачивает систему, настраивает перенаправление трафика через Nginx, подключает экспорт событий в SIEM, управляет сроками хранения данных. Наиболее важны разделы Начало работы, SIEM, Хранение данных и Nginx.

SOC-аналитик — мониторит события безопасности, расследует инциденты, формирует отчёты о соответствии. Наиболее важны разделы Отчёты, Аудит и События безопасности.

Руководитель / GRC-специалист — оценивает соответствие требованиям 152-ФЗ и корпоративным стандартам, контролирует использование LLM в организации. Наиболее важны разделы Отчёты и Контентные политики.