Перейти к основному содержимому
Версия: 6.1

AI Observability: Состояние GPU

Дашборд AI Observability: Состояние GPU предназначен для наблюдения за состоянием видеокарт, обслуживающих inference-нагрузку.
Он позволяет отслеживать загрузку GPU, потребление памяти, температуру и аппаратные ошибки, чтобы предотвращать деградацию и выход из строя оборудования.

Кому полезен: инженеру ML-инфраструктуры, системному администратору, DevOps.

Источник данных: gen_ai_gpu_metrics*

Основные разделы​

1. Общие параметры и состояние GPU​

Показывает сведения о выбранной GPU и основные показатели ее состояния:

  • модель, UUID, PCI-адрес, сервер и версия драйвера
  • общий и занятый объем GPU-памяти
  • текущая загрузка GPU
  • температура ядра и потребление питания
  • наличие XID-ошибок
  • динамика загрузки, температуры, питания и ошибок во времени

Общие параметры и состояние GPU

2. Память GPU​

Показывает состояние и динамику использования GPU-памяти:

  • активность памяти GPU
  • температура памяти GPU
  • частота памяти GPU
  • утилизация памяти GPU
  • динамика показателей памяти во времени

Память GPU