Пресеты AI

к сведению

Интерфейс управления пресетами команды ai доступен начиная с версии Smart Monitor 6.2.

Назначение пресетов

Пресет — именованный набор параметров вызова языковой модели для SML-команды ai.

Пресет позволяет не указывать одинаковые параметры команды в каждом запросе.

Параметры пресета применяются по умолчанию. Аргумент, явно указанный в запросе, имеет приоритет над значением пресета. Сам пресет при этом не изменяется.

Список пресетов

Чтобы управлять пресетами, перейдите в Навигационное меню - Параметры системы - Настройки модулей - Пресеты AI.

Права доступа

Кластерные права для работы с пресетами описаны в разделе Разрешения пресетов AI.

Читать и редактировать пресет могут его владелец и пользователи с ролями, которым предоставлены соответствующие разрешения на этот пресет.

Пользователь с правом редактирования также может удалить пресет.

В списке отображаются Имя, Модель, Режим обработки данных и Системный промпт.

Для поиска пресета по имени, модели или системному промпту используйте строку поиска. Чтобы отфильтровать пресеты по тегам, используйте список Теги.

Чтобы создать пресет, нажмите Создать пресет в правом верхнем углу страницы.

Чтобы настроить права доступа или теги либо удалить пресет, откройте меню в конце его строки и выберите Разрешения, Редактирование тегов или Удалить.

Обратите внимание!

При удалении пресета система не проверяет, используется ли он в сохраненных запросах. Перед удалением проверьте запросы, в которых его имя указано в аргументе preset.

Создание и редактирование пресета

1. Нажмите Создать пресет в списке или выберите имя существующего пресета для редактирования
2. При создании укажите Имя пресета
3. Заполните необходимые параметры
4. Нажмите Сохранить. Чтобы закрыть форму без сохранения изменений, нажмите Отменить

Имя задается при создании пресета. Остальные поля необязательны: если поле пустое, соответствующий параметр в пресете не задан.

Поля пресета соответствуют аргументам SML-команды ai:

Поле	Аргумент команды	Описание
Имя пресета	preset	Имя, по которому пресет выбирается в запросе.
Название модели	model	Имя языковой модели, зарегистрированной в реестре моделей.
Режим обработки данных	mode	summary — весь набор входных строк преобразуется в одну строку результата; per_row — каждая входная строка обогащается полями результата.
Температура	temperature	Температура генерации ответа модели.
Таймаут, мс	timeout	Время ожидания ответа от провайдера в миллисекундах.
Лимит токенов ответа	max_tokens	Максимальное количество токенов в ответе модели.
Лимит токенов промпта	max_prompt_tokens	Максимальное количество токенов в промпте.
Поля контекста (input)	input	Поля входных строк, передаваемые модели как контекст. Значение * означает все поля.
Поля результата (output)	output	Имена полей, в которые записывается результат обработки.
Системный промпт	system_message	Общая инструкция модели: роль, правила обработки данных и требования к ответу.
Пользовательский промпт	user_message	Конкретная задача, которую модель должна выполнить с переданными данными.

В полях Поля контекста (input) и Поля результата (output) вводите каждый элемент отдельно и нажимайте Enter. Чтобы удалить элемент, нажмите на крестик рядом с ним.

Если поле пресета не заполнено и аргумент не указан в запросе, применяется значение по умолчанию из таблицы необязательных аргументов команды ai. Модель и поля результата обязательны: если model или output не заданы ни в пресете, ни в запросе, команда завершится ошибкой.