AI Security: Безопасность агентов и кража модели

Дашборд AI Security: Безопасность агентов и кража модели предназначен для контроля прав AI-агентов и выявления признаков несанкционированного доступа к артефактам модели.

Кому полезен: аналитику ИБ, инженеру SOC.

Источники данных: gen_ai_events*, gen_ai_permissions*, .smos_incident-*

Основные разделы

1. Сводка нарушений по агентам и модели

Показывает количество срабатываний по правилам контроля прав агентов и защиты артефактов модели:

• чрезмерное выделение прав агентам, попытки превышения полномочий, нетипичное внешнее соединение и отклонения от эталонного профиля
• кража модели: доступ к хранилищу моделей, исходящая передача весов во внешнюю сеть и эксфильтрация артефактов процессом
• таблица агентов с чрезмерными правами

2. Отклонения и попытки превышения полномочий

Показывает события, по которым нужно проверить настройки прав и профиль агента:

• отклонения от эталонного профиля: агент, текущий и эталонный режим, сеть, префиксы, sandbox, политика, deny-лист, origins и описание отклонения
• попытки превышения полномочий: время, агент, пользователь, хост, исход, статус, ошибка и причина
• сопоставление фактических настроек агента с ожидаемыми ограничениями