Zum Inhalt springen
Neu: das dialpress Node SDK. SIP routen wie mit Express und einen Agenten in jeden Anruf bringen.Get started
DialPress
DialPress

Das Latenzbudget eines Voice-AI-Anrufs

DialPress voice waveform on ember
DialPress voice waveform on ember

Anrufer bemerken Stille lange bevor sie schlechte Grammatik bemerken. Wohin die Millisekunden in einem Voice-AI-Gesprächsschritt gehen – und wie Sie sie zurückgewinnen.

In einem natürlichen Gespräch liegen zwischen zwei Redebeiträgen nur wenige hundert Millisekunden. Deutlich mehr, und Anrufer fallen Ihrem Agenten ins Wort – oder legen auf. Jeder Voice-AI-Anruf ist ein Wettlauf gegen dieses Budget.

Wohin die Zeit geht

Der Anrufer hört auf zu sprechen. Die Spracherkennung muss entscheiden, dass er fertig ist, das Modell muss mit der Antwort beginnen, Text-to-Speech muss das erste Audio erzeugen, und das Audio muss den Anrufer erreichen. Jeder Schritt kostet Zeit; das Netzwerk sogar doppelt.

Alles streamen

Streaming-Erkennung, gestreamte Modellausgabe und Sprachausgabe Satz für Satz bedeuten: Der Anrufer hört die ersten Worte, während der Rest noch generiert wird.

Barge-in behandeln

Wenn der Anrufer unterbricht, verwerfen Sie das eingereihte Audio sofort. Im dialpress SDK ist das ein einziger Aufruf: media.clear().

Den Pfad verkürzen

Halten Sie Gateway, Speech-Engine und Agent nah beieinander. Infrastruktur, die den gesamten Media-Pfad besitzt, kann Hops entfernen, die ein reines Modellprodukt nicht entfernen kann.

Praxisnotizen

Weiterlesen