AI Observability: Дашборды
Модуль AI Observability включает 8 дашбордов, каждый из которых покрывает отдельный срез AI-инфраструктуры.
| Дашборд | Назначение |
|---|---|
| Обзор инфраструктуры | Сводная операционная картина по всем AI-компонентам |
| Агенты | Поведение AI-агентов: запросы, ответы, токены, длительности |
| Трассировки | Спаны, статусы и распределение трассировок |
| Расходы LLM | Стоимость по моделям и провайдерам |
| Метрики сервисов | Метрики inference и AI-сервисов |
| Состояние GPU | Загрузка, память, температура, ошибки |
| Claude Code | Активность локального Claude Code: диалоги, токены, события, проекты |
| Codex | Активность локального Codex: запросы, TTFT, токены, сессии, проекты |
Обзор инфраструктуры
Сводный дашборд AI Observability для операционного контроля всей AI-инфраструктуры.
Агенты
Дашборд AI Observability для анализа поведения AI-агентов — запросов, ответов, токенов и длительностей.
Трассировки
Дашборд AI Observability для анализа трассировок AI-запросов — spans, trace groups, статусы.
Расходы LLM
Дашборд AI Observability для анализа расходов на LLM — токены, стоимость, модели, провайдеры.
Метрики сервисов
Дашборд AI Observability для анализа runtime-метрик AI-сервисов — vLLM, очередь, latency, KV cache.
Состояние GPU
Дашборд AI Observability для мониторинга GPU — загрузка, память, температура, ECC-ошибки.
Claude Code
Дашборд AI Observability для мониторинга локального Claude Code — диалоги, токены, события, пользователи, проекты.
Codex
Дашборд AI Observability для мониторинга локального Codex — запросы, токены, TTFT, длительности, проекты.