Calculateur de latence pour l'IA vocale

Comment ce calcul est effectué

L'écart perçu est la somme de chaque étape entre la fin de la parole et le premier son : le silence que vous attendez avant de conclure que l'appelant a terminé, la finalisation de la transcription, le premier token du modèle, le premier octet de la voix, deux sauts réseau et le trajet téléphonique.

perceived gap = endpointing silence      ← your setting
              + STT finalisation
              + LLM time to first token
              + TTS time to first byte
              + network RTT × 2           ← your region choice
              + telephony / jitter buffer

Pourquoi ce n'est généralement pas le modèle

Dans une configuration classique, le seuil de silence de l'endpointing est le poste le plus important à lui seul — environ 600 ms sur un budget d'à peu près 1 500 ms, soit 40 % de tout ce que l'appelant attend. Ce n'est pas une limite imposée par le fournisseur. C'est un nombre dans votre configuration qui décide combien de temps le système écoute le silence avant de conclure que l'appelant a fini, et les équipes passent régulièrement des semaines à comparer des modèles pendant qu'il reste à une valeur par défaut que personne n'a choisie.

Le réduire est le gain le moins coûteux à disposition, et c'est un vrai compromis plutôt qu'un cadeau : coupez trop et vous interrompez quiconque marque une pause au milieu d'une phrase. Le choix de la région est l'autre levier entre vos mains — l'aller-retour réseau est compté deux fois, donc un déploiement inter-régions peut ajouter 400 ms avant qu'aucun fournisseur n'ait mal fait quoi que ce soit.

À quoi ressemble le bon niveau

Les intervalles naturels de tour de parole chez l'humain avoisinent 200 ms. En dessous de 500 ms, un agent paraît immédiat ; en dessous de 800 ms, cela se lit comme une pause normale. Au-delà d'environ 1,2 seconde, les appelants commencent à se répéter ou à parler par-dessus l'agent, parce que le silence se lit comme une ligne coupée et non comme une réflexion. Un modèle de raisonnement à 1,4 seconde jusqu'au premier token consomme le budget entier à lui seul — raison pour laquelle ces modèles ont leur place après l'appel, pour résumer et décider, plutôt que sur le tour en direct.

Les chiffres par étape présentés ici sont des plages typiques, publiées ou observées, et non des garanties. La latence réelle varie selon la région, la charge, la taille des données et les conditions réseau — mesurez la vôtre et servez-vous de ceci comme d'un budget de conception.

Last reviewed July 2026.

Questions fréquentes

Quelle est une bonne latence pour un agent vocal IA ?

En dessous de 800 ms, c'est confortable ; en dessous de 500 ms, c'est immédiat — les pauses naturelles entre tours de parole humains tournent autour de 200 ms. Au-delà d'environ 1,2 seconde, les appelants commencent à se répéter ou à parler par-dessus l'agent, car le silence se lit comme une ligne coupée plutôt que comme une réflexion.

Pourquoi mon agent vocal est-il lent alors que chaque fournisseur promet une latence faible ?

Parce que les chiffres des fournisseurs ne couvrent qu'une partie du budget. Dans une configuration classique, le seuil de silence de l'endpointing — le temps d'attente pour être sûr que l'appelant a cessé de parler — est le plus gros contributeur à lui seul, souvent 40% du total. C'est un réglage de votre côté, pas une limite du fournisseur, et aucun changement de modèle n'y remédiera.

Comment réduire la latence d'un agent vocal ?

Par ordre de rendement : raccourcir le seuil d'endpointing, déployer dans la même région que vos fournisseurs, raccourcir le prompt système, diffuser le texte en streaming vers la synthèse vocale plutôt que d'attendre une réponse complète, et seulement ensuite envisager un modèle plus rapide. Les deux premiers points sont gratuits et valent en général plus que tout le reste réuni.

Qu'est-ce que l'endpointing ?

Déterminer quand l'appelant a fini de parler. Attendez trop longtemps et chaque réponse paraît poussive ; coupez trop tôt et vous interrompez quiconque marque une pause en milieu de phrase. C'est un véritable arbitrage plutôt qu'un bug — mais un arbitrage que la plupart des équipes ne font jamais consciemment, laissant une valeur par défaut en place et accusant le modèle.

Un modèle de raisonnement a-t-il du sens pour la voix ?

Rarement sur le chemin critique. Un modèle qui met 1,4 seconde à produire son premier token consomme à lui seul tout le budget. Les modèles de raisonnement conviennent mieux après l'appel — résumer, extraire, décider des actions suivantes — pendant que le tour de parole en direct tourne sur quelque chose conçu pour le time to first token.

À lire aussi