Le budget de latence d’un appel vocal IA

Une conversation naturelle laisse quelques centaines de millisecondes entre deux prises de parole. Au-delà, les appelants coupent la parole à votre agent — ou raccrochent. Chaque appel vocal IA est une course contre ce budget.

Où passe le temps

L’appelant cesse de parler. La reconnaissance vocale doit décider qu’il a terminé, le modèle doit commencer à répondre, la synthèse vocale doit produire le premier audio, et cet audio doit atteindre l’appelant. Chaque étape ajoute du délai ; le réseau en ajoute deux fois.

Tout en streaming

Reconnaissance en streaming, sortie du modèle en streaming et synthèse phrase par phrase : l’appelant entend les premiers mots pendant que le reste est encore en cours de génération.

Gérer les interruptions

Quand l’appelant interrompt, videz immédiatement l’audio en file d’attente. Dans le SDK dialpress, c’est un seul appel : media.clear().

Raccourcir le chemin

Gardez la passerelle, le moteur vocal et l’agent proches les uns des autres. Une infrastructure qui maîtrise tout le chemin média peut supprimer des sauts qu’un produit limité au modèle ne peut pas éliminer.