Budżet opóźnień połączenia z AI głosowym

W naturalnej rozmowie między wypowiedziami mija kilkaset milisekund. Przekrocz to wyraźnie, a rozmówcy zaczną przerywać Twojemu agentowi — albo się rozłączą. Każde połączenie z AI głosowym to wyścig z tym budżetem.

Na co idzie czas

Rozmówca przestaje mówić. Rozpoznawanie mowy musi uznać, że skończył, model musi zacząć odpowiadać, synteza mowy musi wygenerować pierwsze audio, a audio musi dotrzeć do rozmówcy. Każdy krok dodaje opóźnienie; sieć dodaje je dwukrotnie.

Strumieniuj wszystko

Strumieniowe rozpoznawanie, strumieniowana odpowiedź modelu i synteza mowy zdanie po zdaniu sprawiają, że rozmówca słyszy pierwsze słowa, zanim reszta zostanie wygenerowana.

Obsłuż wtrącenia

Gdy rozmówca przerywa, natychmiast wyczyść kolejkę audio. W SDK dialpress to jedno wywołanie: media.clear().

Skróć ścieżkę

Trzymaj bramę, silnik mowy i agenta blisko siebie. Infrastruktura, która kontroluje całą ścieżkę mediów, może usunąć przeskoki, których produkt oparty tylko na modelu nie usunie.