Перейти к основному содержимому
Версия: 6.1

AI Observability

Назначение​

Модуль AI Observability предназначен для наблюдаемости AI-инфраструктуры в Smart Monitor.
Он собирает телеметрию AI-контура, нормализует ее в единый набор индексов gen_ai_* и предоставляет готовый коробочный контент для эксплуатации.

Модуль закрывает следующие направления наблюдаемости:

  • LLM gateway — запросы, маршрутизация моделей, ошибки, латентность
  • Inference runtime — производительность и загрузка inference-сервиса
  • GPU-контур — состояние видеокарт: температура, память, загрузка, ошибки
  • AI-агенты — вопросы, ответы, шаги агента, tool calls, трассировки
  • Локальные AI-клиенты — мониторинг Claude Code и Codex как источников телеметрии
  • Расходы LLM — токены, spend-данные по моделям и провайдерам
  • Доступность сервисов — общий операционный срез по AI-компонентам

Архитектура AI Observability

Компоненты модуля​

  1. Дашборды — 8 дашбордов по всем направлениям AI-наблюдаемости
  2. Инвентаризация — автоматически поддерживаемый актив GPU
  3. Глобальные метрики МАЯК — 6 ключевых операционных метрик для сквозного мониторинга
  4. Источники данных — единый набор индексов gen_ai_* с нормализованными полями

Разделы документации​