Перейти к основному содержимому
Версия: 4.1

Установка Smart Monitor Data Collector

Общие сведения​

Условные обозначения:

  • SM_41 - директория, куда разархивируется установочный пакет Smart Monitor версии 4.1

Разархивируйте установочный пакет в директорию, например, /app/distr и укажите разархивированную директорию в качестве переменной:

tar xzf smart-monitor-installer-4.1-full.tar.gz -C /app/distr/
SM_41=/app/distr/sm_4.1/

Smart Monitor Data Collector основан на Logstash, по тексту дальше может использоваться как альтернативное имя.

Запускать установщик Smart Monitor Data Collector требуется от пользователя root, указав путь до него:

${SM_41}/logstash/install.sh

Установщик поддерживает следующие параметры:

  • -c, --config <path_to_config_file_yaml> - использовать файл конфигурации для установки
  • -h, --help - вывод справки

Установщик поддерживает использование файла конфигурации, все параметры в файле соответствуют вопросам и параметрам при ручной установке.

Пример конфигурационного файла ${SM_41}/logstash/example_config_logstash.yaml
Logstash:
  logstashLocation:
    # User for install logstash
    LS_INSTALL_USER: logstash
    # Group for install logstash
    LS_INSTALL_GROUP: logstash
    # Home path to install directory
    LS_PATH_HOME: '/app/logstash'
    # Directory logstash configuration
    LS_PATH_CONFIG: '/app/logstash/config'
    # Directory logstash data storage
    LS_PATH_DATA: '/app/data/logstash'
    # Directory logstash logs storage
    LS_PATH_LOGS: '/app/logs/logstash'
  baseLogstashParameters:
    # Name of the current node
    NODE_NAME: smos-logstash
    # JVM heap for logstash instanse
    JVM_HEAP_SIZE: 4
  openDistroSecurity:
    # Using existing certificates and keys
    USE_EXISTING_CERTS: y
    # Using existing CA certificate and private key to generate node certificate and private key
    EXISTING_CA_CERT: y
    # Path to CA cert
    CA_CERT_PATH: '/app/opensearch/config/ca-cert.pem'
    # Path to CA key
    CA_KEY_PATH: '/app/opensearch/config/ca-key.pem'
    # Path to existing node certificate
    EXISTING_NODE_CERT: './certs/node-cert.pem'
    # Path to existing node private key
    EXISTING_NODE_PRKEY: './certs/node-key.pem'
    # CN for node certificate
    CERT_NODE_NAME: smos-logstash
    # County code
    CERT_COUNTRY: RU
    # Region
    CERT_STATE: Moscow
    # City
    CERT_CITY: Moscow
    # Name organization
    CERT_ORG: SMOS Test Org
    # IP to connect current node
    CERT_NODE_IP: 127.0.0.1
  installationProceed:
    # Kill processes of logstash if they started
    kill_current_instance: 'y'
    # Clear existed folders
    clear_existed_folders: 'y'
    # Making changes to the operating system
    continue_installation: 'y'

Если Smart Monitor Data Collector используется как точка сбора метрик перед отправкой в Smart Monitor Data Storage, мы рекомендуем использовать отдельный сервер для установки Smart Monitor Data Collector. Для Smart Monitor Data Collector по умолчанию используется владелец директорий и папок logstash, а группа logstash.

В наш установщик уже включён плагин logstash-output-opensearch, который нужен для подключения к OpenSearch.

Установка основных директорий​

Установщик проверяет наличие запущенного сервиса logstash.service и, если находит, то спрашивает о продолжении установки:

================================================================================
SMART MONITOR INSTALL SCRIPT - LOGSTASH
================================================================================

Current working directory: /app/distr/sm_4.1/logstash

Current name of install's archive: logstash-oss-with-opensearch-output-plugin-8.9.0-linux-x64.tar.gz

Current version Logstash: 8.9.0

================================================================================
-- STEP 1. INSTALLATION DIRECTORIES


!!! You have running instance of Logstash. Installer support only one running instance per node.
Do you want to continue? [y/N]:

На этом изображении так же виден найденный установочный архив и версия Logstash для установки. По умолчанию установка будет отменена, для продолжения необходимо ввести "y". При продолжении установки запущенный сервис выключается.

На первом шаге задаются основные директории установки. Мы рекомендуем все файлы, относящиеся к Smart Monitor хранить в одной директории /app, это упростит обслуживание в дальнейшем.

Если вы делаете тестовую установку и планируете на одном сервере установить все компоненты Smart Monitor, то обязательно нужно задать для каждого компонента свои отдельные директории. Требуется ввести следующие директории:

  • Home directory — директория установки Smart Monitor Data Collector
  • Conf directory — расположение конфигурационных файлов
  • Data directory — директория для хранения различных используемых при работе Smart Monitor Data Collector файлов
  • Logs directory — директория для хранения журналов
-- STEP 1. INSTALLATION DIRECTORIES

Logstash home directory [/app/logstash]:
Logstash conf directory [/app/logstash/config]:
Logstash data directory [/app/data]: /app/data/logstash/
Logstash logs directory [/app/logs]: /app/logs/logstash/

Final Logstash home directory: /app/logstash
Final Logstash conf directory: /app/logstash/config
Final Logstash data directory: /app/data/logstash/
Final Logstash logs directory: /app/logs/logstash/
Is this correct? [y/n]:

По завершению ввода подтвердите корректность ввода данных. Установщик проведёт анализ имеющихся директорий и если они не пустые, то снова выдаст предупреждение:

!!! You've choosed not empty directories. All files will be deleted.
Do you want to continue? [y/N]:
осторожно

Если продолжить, то всё содержимое указанных директорий будет удалено без возможности восстановления!

Для продолжения установки снова требуется ввести y и нажать клавишу Enter.

Установка параметров Logstash​

На данном этапе задаём базовые параметры Logstash, такие как:

  • Node name — название текущего сервера Logstash
  • JVM Heap Size — размер памяти в ГБ, выделяемой для JVM Logstash, параметр не должен превышать объем свободной памяти на сервере. Установщик автоматически предложит половину от имеющейся оперативной памяти на сервере
-- STEP 2. BASE LOGSTASH PARAMETERS

Node name [smos-node-00]:
JVM heap size in GB [4]:

Final node name: smos-node-00
Final JVM heap size in GB: 4
Is this correct? [y/n]:

После этого подтверждаем введённые данные и продолжаем установку.

Установка параметров сертификатов​

примечание

При создании закрытого ключа используются криптографический алгоритм RSA длиной 2048 бит и для создания цифрового отпечатка используется алгоритм SHA-256. Сертификаты админа и текущего сервера создаются на 1095 дней.

На этом шаге настраиваются параметры ключа и сертификата текущего сервера Smart Monitor Data Collector. Если создавали ранее самоподписанный УЦ, то требуется скопировать закрытый ключ и сертификат этого УЦ для генерации в автоматическом режиме сертификата текущего узла.

  • Do you want to use your existing certificates and keys? — Вы хотите использовать имеющиеся файлы сертификата и ключа? Вы можете указать свои собственные файлы или воспользоваться встроенным алгоритмом
  • Do you want to use an existing CA certificate and private key to generate certificates and keys for this node? — Если выбрать нет, то нужно будет вручную предоставить все необходимые сертификаты для работы узла. Иначе, выбрав да, остальные сертификаты будут автоматически сгенерированы на основе сертификата и ключа центра сертификации.
  • Path to CA certificate — путь к корневому сертификату. Сертификат должен быть одинаковым на всех компонентах Smart Monitor;
  • Path to CA key — путь к приватному ключу. Ключ должен быть одинаковым на всех компонентах Smart Monitor;
  • CN for node certificate — common name для текущего сервера
  • Country for node certificate — название страны для текущего сервера
  • State for node certificate — название области для текущего сервера
  • Locality for node certificate — название города для текущего сервера
  • Organization for node certificate — название организации для текущего сервера
  • External IP — внешний IP адрес текущего сервера, который будет использоваться для взаимодействия с другими компонентами. Скрипт автоматически определит внешние адреса на текущем сервере и предложит в качестве значения по умолчанию

Ниже выглядит пример с указанием уже имеющихся закрытого ключа УЦ и сертификата:

-- STEP 3. OPENDISTRO SSL/TLS SETTINGS

Do you want to use your existing certificates and keys? [Y/n]:
Do you want to use an existing CA certificate and private key to generate certificates and keys for this node? [Y/n]
Path to CA certificate [./certs/ca-cert.pem]: /app/opensearch/config/ca-cert.pem
Path to CA key [./certs/ca-key.pem]: /app/opensearch/config/ca-key.pem
CN for node certificate [smos-node-00]:
Country for node certificate [RU]:
State for node certificate [Moscow]:
Locality (city) for node certificate [Moscow]:
Organization for node certificate [SMOS Test Org]:
External IP for alt_names extension [172.16.0.22]:
Final path to CA certificate: /app/opensearch/config/ca-cert.pem
Final path to CA key: /app/opensearch/config/ca-key.pem
Final CN for node certificate: smos-node-00
Final country for node certificate: RU
Final state for node certificate: Moscow
Final locality (city) for node certificate: Moscow
Final organization for node certificate: SMOS Test Org
External IP for alt_names extension: 172.16.0.22
Is this correct? [y/n]:

Подтверждаем корректность ввода и продолжаем установку.

Формирование конфигурационных файлов​

На данном этапе никаких действий со стороны администратора не требуются. Этап условно разделяется на два:

  • Подготовка временных директорий, выполнение проверок, подготовка шаблонов
  • Формирование конфигурационных файлов из заданных параметров

Создание сертификатов​

На данному этапе не требуется никаких действий со стороны администратора, производится создание закрытого ключа и сертификата текущего сервера из заданных параметров.

Распаковка архива и изменение конфигурационных файлов​

На данном этапе не требуется никаких действий со стороны администратора, производится разархивирование архива с Logstash, изменение конфигурационных файлов извлечённых из архива, подготовительные процессы перед изменениями системы.

Начало изменений в ОС​

Все операции до этого момента выполняются строго внутри директории установщика и не влияют на ОС, просмотреть готовый к установке набор файлов вы можете в директории staging.

Для этого у администратора будет спрошено разрешение на продолжение установки:

!!! AT THIS POINT WE START TO MAKE CHANGES IN OPERATING SYSTEM !!!
Do you want to continue? [y/N]:

Подтвердите изменения для продолжения установки нажатием клавиши y и затем Enter.

Установка​

На данном этапе не требуется никаких действий со стороны администратора. Здесь происходит несколько действий:

  • создание групп и пользователей
  • создание директорий
  • установка Logstash
  • установка плагинов
  • изменение владельцев файлов и директорий, а также установка правил SELinux

Подготовительные работы для запуска Smart Monitor Data Collector​

На данном этапе не требуется никаких действий со стороны администратора, происходит включение авто-запуска сервиса logstash.service.

Завершение установки​

По окончании установки должно появиться сообщение конфигурации межсетевого экрана на примере firewalld и ufw, а также сообщение об успешной установке как на изображении ниже. При любом другом виде завершения установки произошла ошибка и требуются дополнительные действия по исправлению.

================================================================================
-- Additional firewall configuration example (if needed)
-- For RHEL/CentOS with firewalld
    firewall-cmd --permanent --zone=public --add-port=9600/tcp
    firewall-cmd --reload
-- For AstraLinux/Debian with ufw
    ufw allow 9600/tcp
================================================================================

================================================================================
-- SMART MONITOR SUCCESSFULLY INSTALLED!
================================================================================

При успешном завершении работы установщика узел развёрнут, но требует конфигурационных файлов для сбора данных (пайплайны). Сервис logstash.service автоматически запустится после перезагрузки ОС.

Обратите внимание, что нужно настроить межсетевой экран для портов, на которые будут приниматься данные пайплайнами по примеру выше.

Для проверки работоспособности после добавления пайплайна и включения сервиса logstash.service можно в командной строке ввести:

curl -X GET http://localhost:9600?pretty

Пример вывода:

{
  "host": "srv-asrtatest",
  "version": "8.9.0",
  "http_address": "127.0.0.1:9600",
  "id": "0d6b3458-147c-4b81-b3bb-210ddafdc440",
  "name": "smosed-logstash",
  "ephemeral_id": "bae83d99-e076-42f3-9fc8-546e06ba1591",
  "status": "green",
  "snapshot": false,
  "pipeline": {
    "workers": 4,
    "batch_size": 125,
    "batch_delay": 50
  },
  "build_date": "2023-07-18T22:17:29+00:00",
  "build_sha": "375f47bd852411a88d350503847f399e8f652104",
  "build_snapshot": false
}