Просмотр кода страницы QAS. Руководство администратора


====='''Общее описание'''=====
Сервис предназначен для поиска ответа на заданный вопрос. Входным значением для сервиса являются данные в текстовом формате. В ответ на входящий запрос сервис возвращает данные в формате JSON.
====='''Термины и определения'''=====
Question Answering System (QAS) – сервис ответов на вопросы.


====='''Системные требования'''=====
Для нормальной работы сервиса, без GPU, необходимо не менее 8 CPU (минимальные требования для использование метода <u>ask</u>)  >= 2.20GHz с поддержкой инструкций AVX2 или новее:
*Intel Haswell
*Intel Broadwell
*Intel Skylake
*Intel Kaby Lake
*Intel Coffee Lake
*Intel Comet Lake
*Intel Rocket Lake
*Intel Alder Lake
*AMD Excavator
*AMD Zen (AMD Ryzen)
*AMD Zen 2 (AMD Ryzen)
*AMD Zen 3 (AMD Ryzen)
Работа на CPU при использование метода <u>ask</u> крайне не рекомендуется. Оперативной памяти необходимо не менее 16Gb, для работы без GPU.


====='''Установка/обновление сервиса'''=====
[https://cloud.connect2ai.net/index.php/apps/files/?dir=/qas&fileid=26891 Дистрибутив] распространяется в виде установочных пакетов для окружения и сервиса. Загрузите установочные пакеты на сервер и выполните команды для Вашей системы в каталоге с пакетом.

Перед установкой непосредственно сервиса необходимо [[PVE. Установка сервисного пакета окружения|установить сервисный пакет окружения]].

Установка/обновление QAS осуществляется скриптом <code>chmod +x ./qas-<версия>-<релиз>.sh && ./qas-<версия>-<релиз>.sh -i</code> с правами администратора. Список всех ключей инсталятора можно посмотреть, запустив инсталятор <code>./qas-<версия>-<релиз>.sh</code> без ключей.

Загрузить последнюю версию пакета  <code>curl -s '<nowiki>https://cloud.connect2ai.net/qas/'</nowiki> --user 'user_nexcloud:pass_nexcloud' | bash</code>

Установить/обновить пакет одной командой <code>curl -s '<nowiki>https://cloud.connect2ai.net/qas/?name=s'</nowiki> --user 'user_nexcloud:pass_nexcloud' | bash && chmod +x ./qas.sh && ./qas.sh -i</code>

Проверить актуальную версию пакета можно <code>curl -s 'https://cloud.connect2ai.net/qas/<nowiki/>?type=v'</code>

Не забудьте запустить сервис и включить в автозапуск в системе:

<code>sudo systemctl enable qas.service && sudo systemctl start qas.service</code>

Удостоверьтесь, что сервис стартовал:

<code>systemctl status qas.service</code>

Разрешите доступ к порту 6187 на нужном интерфейсе по протоколу tcp.



====='''Работа в составе кластера'''=====

Для высоконагруженных систем сервис можно расположить на нескольких нодах(виртуальных машинах). В этом случае чтобы не потерять документы и изменения полученные на одной из нод, выделяется один основной сервис и вспомогательные сервисы

* База файловая, в папке data.
* lsync настроен через конфиг QAS для репликации базы на все указанные серверы в списке cluster.nodes: [], указывем все слейв сервера.
* На всех слейвах прописан в конфиге master, чтобы все операции добавления и изменения данных при автокэшировании они производили через мастер. Параметр в конфиге questions.master, на мастере значение "<nowiki>http://127.0.0.1:6187</nowiki>".
* Векторная база на каждом сервере своя, она следит за своей папкой data и обновляет в оперативке по этой папке данные у себя.
* UPS при изменении данных работает только с мастером QAS, а при запросе данных - со всем серверами cluster, распределяя нагрузку.
* В конфигурации UPS: в servers.qas.cluster.trainer указаваем матер сервер, в servers.qas.cluster перечесляем все сервера кластера в том числе и мастер.

===== '''Конфигурирование параметров сервиса''' =====
Настройка параметров сервиса qas производится в файле /opt/qas/config.json

Описание параметров приведено в таблице
{| class="wikitable"
|+
!Параметр
!По умолчанию
!Назначение
|-
|logs.path
|logs/
|Папка для хранения логов. Примеры абсолютного пути: "/var/log/qas/"
|-
|logs.backups
|10
|Количество файлов ротации
|-
|logs.maxSize
|5242880
|Максимальный размер файла в байтах, триггер для ротации
|-
|<s><small>fragments.window</small></s>
|<small>256</small>
|<s><small>Ширина окна векторизации текста</small></s>
|-
|<s><small>fragments.shift</small></s>
|<small>8</small>
|<s><small>Cдвиг окна векторизации текста</small></s>
|-
|<s><small>fragments.neighbours</small></s>
|<small>1</small>
|<s><small>Количество предложений слева и справа от текущего векторизируемого предложения, которые попадут в векторизируемый фрагмент.</small></s>
|-
|fragments.context
|2048
|Максимальная длина текста, которая будет подана в генератор для поиска ответа на вопрос
|-
|fragments.threshold
|0.6
|Уровень достоверности при векторном поиске фрагментов в загруженных документах
|-
|fragments.limit
|2
|Максимальное количество фрагментов, которые должны быть найдены в документах в порядке убывания доверия
|-
|questions.autocache
|true
|Разрешает автоматически кешировать вопросы и ответы на них
|-
|questions.master
|"<nowiki>http://127.0.0.1:6187</nowiki>"
|Адрес мастер-сервера для работы в кластере. Необходим чтобы добавленные вопросы распространились на серверы кластера
|-
|questions.threshold
|0.7
|Минимальный уровень достоверности ответа для попадания в кеш
|-
|cluster.logfile
|logs/sync.log
|Расположение лог файла синхронизации (актуально для мастер-сервера)
|-
|cluster.logfile
|logs/sync.status
|Расположение файла статуса lsyncd (актуально для мастер-сервера)
|-
|cluster.nodes
|[ ]
|Ноды кластера на которые с мастер-сервера будут распространяться изменения
|}


===== '''Сбор данных об ошибках''' =====
Логи сервиса по умолчанию находятся в файле /opt/qas/logs/log.txt


====='''Удаление'''=====
Для удаления выполните команду: <code>/opt/qas/uninstall</code>. Команда деинсталлирует сервис и удалит рабочий каталог, включая все установленные модели.


===== '''Часто задаваемые вопросы''' =====
{| class="wikitable"
|+
!Вопрос
!Ответ
|-
|
|
|-
|
|
|-
|
|
|}