AI Security: Угрозы LLM
Дашборд AI Security: Угрозы LLM предназначен для анализа срабатываний правил по категориям OWASP TOP 10 LLM.
Кому полезен: аналитику ИБ, инженеру SOC.
Источники данных: gen_ai_events*, .smos_incident-*
Основные разделы
1. Сводные показатели и распределение
Показывает количество срабатываний правил за выбранный период и распределение событий по основным измерениям:
- общее количество срабатываний правил
- счетчики по категориям LLM01, LLM04, LLM05, LLM05/08, LLM06, LLM07 и LLM10
- правила с наибольшим количеством срабатываний
- пользователи и агенты с наибольшим количеством срабатываний
2. Динамика по OWASP-категориям
Показывает, как менялось количество срабатываний по категориям OWASP в выбранном временном диапазоне:
- динамика LLM01, LLM04, LLM05/08, LLM06 и LLM07
- периоды роста срабатываний по отдельным категориям
- интервалы, в которых срабатывания отсутствовали или возвращались к базовому уровню
3. Анализ срабатываний и промпт-инъекций
Показывает таблицу срабатываний и подробные сведения о событиях OWASP LLM01:
- фильтры по OWASP-категории, пользователю и агенту
- дата и время, OWASP-код, правило, пользователь или агент
- связанный инцидент, критичность и статус обработки
- распределение промпт-инъекций по подкатегориям
- последние промпт-инъекции с указанием сервиса, пользователя, текста промпта, паттерна и типа
4. Раскрытие конфиденциальных данных
Показывает подробные сведения о событиях OWASP LLM06, связанных с раскрытием конфиденциальной информации:
- распределение утечек по категориям: веб-атаки, персональные данные и другие типы
- срабатывания по паттернам: шаблонная инъекция, email, телефон, подстановка команды, IP-адрес, БИК, инъекция команд и API-ключ
- последние утечки с указанием сервиса, пользователя, промпта, ответа модели, паттерна, типа и поля срабатывания
