Установка в интерактивном режиме с отделенным AI (ИИ) сервером
Сервер AI также может быть установлен вместе с сервером управления (наличие видеокарты NVIDIA обязательно).
Серверы которые используются в данном примере
| IP | Роль | Hostname |
|---|---|---|
| 172.16.16.70 | Command (СУ) | r7team-install.volav.ru |
| 172.16.16.81 | Media | r7team-m-install.volav.ru |
| 172.16.16.82 | AI | доменное имя не требуется |
Дистрибутивы (теперь используется 2 архива дистрибутивов, AI функционал выведен в отдельный архив)
| Роль | Архив |
|---|---|
| Command + Media (СУ и Медиа) | install_r7_team_cmd_media_1.14.0-579.tar.gz |
| AI (ИИ) | install_r7_team_ai_1.14.0-579.tar.gz |
Последовательность установки
Media-сервер (172.16.16.81)
Установка медиа сервера выполняется аналогично всем предыдущим версиям Р7 Команда. Механизм установки не изменен.
Встроенная транскрибация записи встреч идёт в пакете media, отдельно от AI-сервера и GPU. Параметры /etc/media/media.properties.d/transcription.properties
При этом суммаризация полученной транскрибации выполняется уже AI сервером с использованием GPU
После установки забрать application.media.id / application.media.token из /root/.team/application.properties на media-сервере — они нужны для command-сервера (следующий шаг).
Command-сервер (172.16.16.70) Сервер управления
Установка сервера управления выполняется аналогично всем предыдущим версиям Р7 Команда. Механизм установки не изменен. Добавлен скрипт открытия внешнего доступа к СУБД PostgreSQL.
Скрипт после установки command-сервера
Внешний доступ к PostgreSQL (выполняется на сервере управления в случае если AI сервер находится на отдельной виртуальной машине и подключается к серверу управления не по localhost)
Если AI (ИИ) сервисы устанавливаются на отдельном сервере, то необходимо произвести дополнительные настройки на сервере управления и в сетевой инфраструктуре.
- На сервере управления выполнить открытие доступа к СУДБ Postgresql либо через установщик (Сервисное меню -> Исправление ошибок установки), либо используя скрипт enableExternalConnections.sh
- На сервере управления настроить файрволл или аналогичную систему защиты. Открыть доступ для сервера с AI сервисами к следующим портам: 8761, 9100, 9200, 9400, 9401, 8010-8019
- На сервере с AI сервисами настроить файрволл или аналогичную систему защиты. Открыть доступ для сервера управления к следующим портам: 9502, 9503
В нашем примере разрешаем подключения к СУБД PostgreSQL с адресом 172.16.16.70 с любых IP
Также настройку внешнего доступа можно выполнить в терминале используя скрипт
Синтаксис команды на запуск скрипта
Usage: enableExternalConnections.sh <external_server_ip> <allowed_ip_list> Example: enableExternalConnections.sh 192.168.1.2 "10.0.0.5, 172.16.0.0/24" cd /home/user/install && ./enableExternalConnections.sh 172.16.16.70 "0.0.0.0/0"
AI-сервер (172.16.16.82)
Сервер ИИ — сервер выполняющий ИИ функции. В релизе 1.14 выполняет функцию суммаризации результата транскрибации встречи — резюме встречи.
Media → Command → Скрипт открытия доступа к БД→ AI
Причина: после установки Media нужно взять media.id и media.token и использовать при установке Command (СУ). AI ставится последним — нужен рабочий (доступный) config-server-addr от уже поднятого Command — сервера (Сервера управления).
Важное условие перед установкой AI сервера — в системе Debian 12 должна быть установлена видео карта NVIDIA и рабочие драйвера для нее. Корректность установки можно проверить командой nvidia-smi
Установка драйверов выходит за рамки данной инструкции, ниже приведен пример установки драйвера конкретно под видеокарту RTX 5060 Ti.
Шаг 1: Драйвер NVIDIA в нашем примере (RTX 5060 Ti / Blackwell)
Для Blackwell-архитектуры (RTX 5060 Ti) обязателен флаг —kernel-module-type=open.
apt-get update обязателен перед установкой зависимостей
# Зависимости
KERNEL=$(uname -r)
sudo apt-get update
sudo apt-get install -y linux-headers-${KERNEL} build-essential gcc make dkms
# Скачать и установить драйвер
wget https://download.nvidia.com/XFree86/Linux-x86_64/580.126.09/NVIDIA-Linux-x86_64-580.126.09.run
chmod +x NVIDIA-Linux-x86_64-580.126.09.run
sudo ./NVIDIA-Linux-x86_64-580.126.09.run --kernel-module-type=open --dkms -s
# Заблокировать nouveau из за конфликта с установленным драйвером
echo -e "blacklist nouveau\noptions nouveau modeset=0" | sudo tee /etc/modprobe.d/blacklist-nouveau.conf
sudo update-initramfs -u
# Загрузить модуль
sudo rmmod nouveau 2>/dev/null || true
sudo modprobe nvidia
# Проверить
nvidia-smi
Сборка DKMS
В случае если nvidia-smi может выдавать «couldn’t communicate with the NVIDIA driver», но это не значит, что драйвер сломан, возможно что модуль не собран под новое ядро.
Проверить и пересобрать:
KERNEL=$(uname -r)
sudo apt-get update
sudo apt-get install -y linux-headers-${KERNEL}
sudo dkms autoinstall -k ${KERNEL}
sudo modprobe nvidia
nvidia-smi # должен показать GPU
sudo systemctl restart team_ai-agent.service team_dictaphone.service
Шаг 2: Установка Р7 Команда AI (ИИ)
Требования к виртуальной машине:
- Свободное место в
/opt— от 20480 МБ (20 ГБ); - Версия драйвера NVIDIA — версия 570 или новее;
- Поддержка CUDA — версия 12.8 или новее;
- Память GPU (на карту) — от 16384 МБ (16 ГБ);
- Количество GPU — минимум 1;
- ОЗУ — от 8192 МБ (8 ГБ);
Процесс конфигурирования и установки
Установка завершена.
Критерием успешной интеграции AI сервера и Сервера управления считается корректная регистрация AI сервера на сервере управления.
