AI Security: Справочники
Модуль AI Security использует 11 справочников двух категорий: сигнатуры атак и эталонные значения.
Кому полезны: аналитику ИБ, инженеру SOC
Справочники сигнатур
Используются задачами для обнаружения угроз по содержимому запросов, ответов и действий агентов.
| Справочник | Назначение |
|---|---|
prompt_injection_patterns | Сигнатуры попыток промпт-инъекций: игнорирование инструкций, подмена роли, извлечение системного промпта, джейлбрейки |
llm_warning_keywords | Сигнатуры утечек данных: токены доступа и пароли, персональные данные, маркеры NDA, признаки веб-атак (XSS, SQL-инъекции, shell-инъекции) |
system_prompt_patterns | Маркеры системного промпта модели |
model_storage_paths | Пути и расширения файлов артефактов моделей: веса, токенизаторы |
training_data_paths | Пути и форматы файлов обучающих датасетов |
dangerous_agent_actions | Сигнатуры опасных команд и действий: деструктивные операции, загрузка и выполнение стороннего кода |
agent_process_names | Имена процессов AI-агентов — используются для привязки обнаруженного действия к конкретному агенту |
Справочники-эталоны
Используются задачами для выявления отклонений от ожидаемого поведения (аналог списков разрешений и эталонных профилей — allowlist и baseline).
| Справочник | Назначение |
|---|---|
agent_permission_baseline | Эталонные (ожидаемые) права AI-агентов: режим подтверждения, сетевой доступ, разрешенные префиксы, sandbox-режим, origins |
model_storage_authorized | Авторизованные пользователи хранилищ моделей |
training_data_authorized | Авторизованные пользователи обучающих данных |
agent_known_destinations | Разрешенные сетевые адресаты для AI-агентов |
Обратите внимание!
Справочники, содержащие специфичные для инсталляции данные, необходимо скорректировать с учетом особенностей конкретной инсталляции.