QAS. Руководство администратора: различия между версиями
Материал из Флора AI
Нет описания правки |
E.Elagina (обсуждение | вклад) |
||
| Строка 2: | Строка 2: | ||
====='''Общее описание'''===== | ====='''Общее описание'''===== | ||
Сервис предназначен для поиска ответа на заданный вопрос. Входным значением для сервиса являются данные в текстовом формате. В ответ на входящий запрос сервис возвращает данные в формате JSON. | Сервис предназначен для поиска ответа на заданный вопрос. Входным значением для сервиса являются данные в текстовом формате. В ответ на входящий запрос сервис возвращает данные в формате JSON. | ||
====='''Термины и определения'''===== | ====='''Термины и определения'''===== | ||
Question Answering System (QAS) – сервис ответов на вопросы. | Question Answering System (QAS) – сервис ответов на вопросы. | ||
| Строка 9: | Строка 7: | ||
====='''Системные требования'''===== | ====='''Системные требования'''===== | ||
Для нормальной работы сервиса, без GPU, необходимо не менее 8 CPU (минимальные требования для использование метода <u>ask</u>) >= 2.20GHz с поддержкой | Для нормальной работы сервиса, без GPU, необходимо не менее 8 CPU (минимальные требования для использование метода <u>ask</u>) >= 2.20GHz с поддержкой инструкций AVX2 или новее: | ||
*Intel Haswell | *Intel Haswell | ||
*Intel Broadwell | *Intel Broadwell | ||
| Строка 34: | Строка 32: | ||
Загрузить последнюю версию пакета <code>curl -s '<nowiki>https://cloud.connect2ai.net/qas/'</nowiki> --user 'user_nexcloud:pass_nexcloud' | bash</code> | Загрузить последнюю версию пакета <code>curl -s '<nowiki>https://cloud.connect2ai.net/qas/'</nowiki> --user 'user_nexcloud:pass_nexcloud' | bash</code> | ||
Установить/обновить пакет одной командой <code>curl -s '<nowiki>https://cloud.connect2ai.net/qas/?name=s'</nowiki> --user 'user_nexcloud:pass_nexcloud' | bash && chmod +x ./qas.sh && ./qas.sh -i</code> | |||
Проверить актуальную версию пакета можно <code>curl -s 'https://cloud.connect2ai.net/qas/<nowiki/>?type=v'</code> | Проверить актуальную версию пакета можно <code>curl -s 'https://cloud.connect2ai.net/qas/<nowiki/>?type=v'</code> | ||
Версия от 12:54, 3 апреля 2024
Общее описание
Сервис предназначен для поиска ответа на заданный вопрос. Входным значением для сервиса являются данные в текстовом формате. В ответ на входящий запрос сервис возвращает данные в формате JSON.
Термины и определения
Question Answering System (QAS) – сервис ответов на вопросы.
Системные требования
Для нормальной работы сервиса, без GPU, необходимо не менее 8 CPU (минимальные требования для использование метода ask) >= 2.20GHz с поддержкой инструкций AVX2 или новее:
- Intel Haswell
- Intel Broadwell
- Intel Skylake
- Intel Kaby Lake
- Intel Coffee Lake
- Intel Comet Lake
- Intel Rocket Lake
- Intel Alder Lake
- AMD Excavator
- AMD Zen (AMD Ryzen)
- AMD Zen 2 (AMD Ryzen)
- AMD Zen 3 (AMD Ryzen)
Работа на CPU при использование метода ask крайне не рекомендуется. Оперативной памяти необходимо не менее 16Gb, для работы без GPU.
Установка/обновление сервиса
Дистрибутив распространяется в виде установочных пакетов для окружения и сервиса. Загрузите установочные пакеты на сервер и выполните команды для Вашей системы в каталоге с пакетом.
Перед установкой непосредственно сервиса необходимо установить сервисный пакет окружения.
Установка/обновление QAS осуществляется скриптом chmod +x ./qas-<версия>-<релиз>.sh && ./qas-<версия>-<релиз>.sh -i с правами администратора. Список всех ключей инсталятора можно посмотреть, запустив инсталятор ./qas-<версия>-<релиз>.sh без ключей.
Загрузить последнюю версию пакета curl -s 'https://cloud.connect2ai.net/qas/' --user 'user_nexcloud:pass_nexcloud' | bash
Установить/обновить пакет одной командой curl -s 'https://cloud.connect2ai.net/qas/?name=s' --user 'user_nexcloud:pass_nexcloud' | bash && chmod +x ./qas.sh && ./qas.sh -i
Проверить актуальную версию пакета можно curl -s 'https://cloud.connect2ai.net/qas/?type=v'
Не забудьте запустить сервис и включить в автозапуск в системе:
sudo systemctl enable qas.service && sudo systemctl start qas.service
Удостоверьтесь, что сервис стартовал:
systemctl status qas.service
Разрешите доступ к порту 6187 на нужном интерфейсе по протоколу tcp.
Конфигурирование параметров сервиса
Настройка параметров сервиса qas производится в файле /opt/qas/config.json
Описание параметров приведено в таблице
| Параметр | По умолчанию | Назначение |
|---|---|---|
| logs.path | logs/ | Папка для хранения логов. Примеры абсолютного пути: "/var/log/qas/" |
| logs.backups | 10 | Количество файлов ротации |
| logs.maxSize | 5242880 | Максимальный размер файла в байтах, триггер для ротации |
| fragments.window | 256 | Ширина окна векторизации текста |
| fragments.shift | 8 | Cдвиг окна векторизации текста |
| fragments.neighbours | 1 | Количество предложений слева и справа от текущего векторизируемого предложения, которые попадут в векторизируемый фрагмент. |
| fragments.context | 2048 | Максимальная длина текста, которая будет подана в генератор для поиска ответа на вопрос |
| fragments.threshold | 0.6 | Уровень достоверности при векторном поиске фрагментов в загруженных документах |
| fragments.limit | 2 | Максимальное количество фрагментов, которые должны быть найдены в документах в порядке убывания доверия |
Сбор данных об ошибках
Логи сервиса по умолчанию находятся в файле /opt/qas/logs/log.txt
Удаление
Для удаления выполните команду: /opt/qas/uninstall. Команда деинсталлирует сервис и удалит рабочий каталог, включая все установленные модели.