SMC. Руководство администратора: различия между версиями

Версия от 15:57, 1 ноября 2023

Общее описание

Сервис предназначен для классификации текстовой информации на предопределенные классы. Входным значением для сервиса являются данные в текстовом формате. В ответ на входящий запрос сервис возвращает данные в формате JSON.

Термины и определения

Simple Message Classifier (SMC) – сервис классификации.

Системные требования

Для нормальной работы сервиса на каждые 100 одновременных запросов классификации необходимо обеспечить 1 CPU >= 2.20GHz с поддержкой иструкций AVX2 или новее:

Intel Haswell
Intel Broadwell
Intel Skylake
Intel Kaby Lake
Intel Coffee Lake
Intel Comet Lake
Intel Rocket Lake
Intel Alder Lake
AMD Excavator
AMD Zen (AMD Ryzen)
AMD Zen 2 (AMD Ryzen)
AMD Zen 3 (AMD Ryzen)

Оперативной памяти необходимо не менее 4Gb.

Установка/обновление сервиса

Дистрибутив распространяется в виде установочных пакетов для окружения и сервиса. Загрузите установочные пакеты на сервер и выполните команды для Вашей системы в каталоге с пакетом.

Перед установкой непосредственно сервиса необходимо установить сервисный пакет окружения.

Установка/обновление непосредственно smc осуществляется скриптом chmod +x ./smc-<версия>-<релиз>.sh && ./smc-<версия>-<релиз>.sh с правами администратора.

Не забудьте запустить сервис и включить в автозапуск в системе:

sudo systemctl enable smc.service && sudo systemctl start smc.service

Удостоверьтесь, что сервис стартовал:

systemctl status smc.service

Разрешите доступ к порту 6181 на нужном интерфейсе по протоколу tcp.

Установка моделей

Установка языковых моделей возможна как прямым копирование файла модели.

Модели располагаются в каталоге /opt/smc/pretrained/. Для установки модели необходимо создать каталог /opt/smc/pretrained/<название модели>/ и распаковать в неё архим модели, после чего перезагрузить сервис командой systemctl restart smc

Проверить корректность работы модели пунктуации можно запросто к API с отправкой файла на распознавание:

curl -H "accept: application/json" -X GET "http://АДРЕС_СЕРВЕРА:6181/smc/punctuate?text=<текст>"

Модель embeddings отвечает за режим токенизации embedding при попытке обучения модели.

Конфигурирование параметров сервиса

Настройка параметров сервиса ыьс производится в файле /opt/smc/config.json

Описание параметров приведено в таблице


Параметр	По умолчанию	Назначение
logs.path	logs/	Дерриктория для хранения логов. Примеры абсолютного пути: "/var/log/smc/"
logs.backups	10	Количество файлов ротации
logs.maxSize	5242880	Максимальный размер файла в байтах, триггер для ротации

Сбор данных об ошибках

Логи сервиса по умолчанию находятся в файле /opt/ups/logs/log.txt

Удаление

Для удаления выполните команду: /opt/smc/uninstall. Команда деинсталлирует сервис и удалит рабочий каталог, включая все установленные модели.

@@ Строка 83: / Строка 83: @@
 ===== '''Сбор данных об ошибках''' =====
-Для увеличения информативности журналов можно выполнить от суперпользователя команду:
+Логи сервиса по умолчанию находятся в файле /opt/ups/logs/log.txt
-<code>sed -i 's/log-level error/log-level debug/g' /etc/systemd/system/smc.service && systemctl daemon-reload && systemctl restart smc.service</code>
-При возникновении проблем в работе сервиса и недостаточной информативности журналов, можно запустить сервис вручную с привилегиями суперпользователя и выводом информации в stdout:
-<code>systemctl stop smc.service && source /opt/pve/bin/activate && cd /opt/smc/ && python3 api.py && deactivate</code>
-       или
-<code>systemctl stop smc.service</code>
-<code>source /opt/pve/bin/activate</code>
-<code>cd /opt/smc/ && python3 api.py</code>
-<code>deactivate</code>
 ===== '''Удаление''' =====
 Для удаления выполните команду: <code>/opt/smc/uninstall</code>. Команда деинсталлирует сервис и удалит рабочий каталог, включая все установленные модели.