Self-hosting stosu AI voice: praktyczny poradnik

Uruchamianie AI głosowego na własnej infrastrukturze daje kontrolę nad danymi, opóźnieniami i kosztami. Kiedyś oznaczało to sklejanie serwera SIP, serwera mediów, stosu mowy i frameworka agentów. Z DialPress to jeden stos z jednym zestawem opcji wdrożenia.

Zacznij od jednego serwera

Jeden instalator dla Linuxa konfiguruje bramę, mowę i agentów jako utwardzone usługi systemd z TLS dla Twojej domeny. To najszybsza droga do działającego numeru telefonu, który odbiera agent AI.

Przejdź na kontenery

Docker Compose uruchamia każdy moduł w osobnym kontenerze z limitami pamięci i CPU dla każdej usługi. Skaluj obciążony moduł osobno, zamiast skalować wszystko.

Dorośnij do Kubernetes

Chart Helm uruchamia każdy moduł jako osobny workload, autoskalowany według metryk na żywo. Zatrzymywane pody są najpierw opróżniane, więc wdrożenia i skalowanie w dół nigdy nie zrywają połączeń.

Przenieś mowę na GPU

Rozpoznawanie mowy i agenci mogą działać na maszynach z GPU przez wzajemne TLS, z równoważeniem według modelu i obciążenia. Nadaj większym GPU wyższą wagę; kieruj każdy model tylko do maszyn, które go obsługują.

Zachowaj ten sam kod

Twoje trasy, agenci i aplikacje nie zmieniają się między laptopem a flotą. Właśnie po to jest warstwa infrastruktury.