Contenido6 secciones
Cómo funcionaARTÍCULO
Adónde se va el segundo
En una llamada real a nuestra demo el agente empezó a hablar 1,09 segundos después de que la persona callara: 0,48 s para decidir que había terminado, 0,54 s para la primera frase del modelo, 0,07 s para el primer sonido. Qué es cada parte y por qué una instalación local tiene que volver a medirlo.
Costa4 min de lectura
Respuesta corta
La pausa antes de que un agente de voz responda son tres retardos seguidos: decidir que la persona ha terminado, que el modelo de lenguaje produzca su primera frase y que el sintetizador produzca su primer sonido. En una llamada a nuestra demo el 9 de octubre de 2026, con modelos en la nube, fueron 0,48 s, 0,54 s y 0,07 s, es decir, 1,09 s en total. En su propio hardware cada una de esas cifras cambia y hay que medirla de nuevo bajo carga.
Datos clave
- Llamada a la demo, 9 de octubre de 2026, modelos en la nube: detección del fin de turno y red 0,48 s, primera frase del modelo 0,54 s, primer audio sintetizado 0,07 s, 1,09 s en total.
- El criterio de aceptación que proponemos se escribe por escenario: por ejemplo, una respuesta mediana no más lenta de 1,5 segundos en la línea real del cliente.
- El tiempo de respuesta se acepta como mediana y percentil 90 bajo una carga acordada, no como la mejor llamada.
Al teléfono, la gente espera una respuesta tras una pausa de más o menos un segundo. Si tarda bastante más, dice "¿hola?", empieza a repetirse o habla encima de la respuesta, y la llamada deja de sonar a conversación.
Así que la pregunta útil sobre un agente de voz no es lo listo que es su modelo. Es en qué se gasta ese segundo.
Las tres partes de una pausa
El 9 de octubre de 2026 tomamos una llamada real a nuestra demo, que funciona con modelos en la nube, y dividimos el hueco entre la última palabra de quien llama y el primer sonido del agente.
| Parte | Tiempo |
|---|---|
| Decidir que la persona ha terminado, más la red | 0,48 s |
| La primera frase del modelo de lenguaje | 0,54 s |
| El primer sonido del sintetizador | 0,07 s |
| Del final de la frase a la voz | 1,09 s |
Una llamada, un momento, modelos en la nube. Es un desglose, no un benchmark, y la página de entrega muestra la misma cifra con la misma salvedad.
Saber que la persona ha terminado
Los primeros 0,48 segundos se van en esperar a que el silencio signifique algo.
Quien se calla en mitad de una dirección no ha terminado, y quien dice "sí" y se calla, sí. El agente tiene que distinguirlo solo por el sonido, sin la cara y la respiración que lee un operador humano. Si la espera es demasiado corta, el agente interrumpe a la gente a media frase. Si es demasiado larga, cada respuesta empieza tarde. El mismo mecanismo decide cuándo el agente debe callar porque le han interrumpido, que es el tema de el que llamó y interrumpió, y cuándo un "ajá" solo indica que la persona escucha.
Esto es configuración, no hardware. Se mueve con sus clientes y sus escenarios, y hay que ajustarlo con llamadas reales, no en una línea de oficina silenciosa.
La primera frase del modelo
Los siguientes 0,54 segundos son del modelo de lenguaje, y la palabra importante es "primera". El agente no espera a la respuesta completa. Necesita la primera frase, se la pasa a la voz y sigue escribiendo el resto mientras quien llama ya oye el principio.
Por eso la velocidad del modelo hasta la primera frase importa mucho más que su velocidad en una respuesta larga, y una primera frase corta ("Entendido, un piso de dos habitaciones.") es una decisión de diseño y no una manía. Es también la parte que más cambia al salir de la nube: un modelo local en sus tarjetas puede ser más rápido o más lento, y se frena cuando varias personas dejan de hablar a la vez. Qué significa eso para el servidor lo contamos en sobre qué funciona un agente de voz.
El primer sonido
Los últimos 0,07 segundos son el sintetizador empezando a hablar. Es la parte más pequeña en nuestra llamada porque la voz empieza a sonar en cuanto existen las primeras palabras, no después de generar la frase entera.
Un sintetizador local puede perder esa ventaja si necesita terminar la frase antes de reproducirla. Es una propiedad del modelo que elija, y conviene comprobarla antes de elegirlo.
Qué pasa con las cifras en sus propios servidores
Cuando los modelos salen de la nube, cada fila de la tabla vuelve a ser una pregunta.
La detección del fin de turno se queda más o menos donde está, porque es sobre todo configuración, pero la parte de red cambia con dónde está el servidor y cómo le llega la llamada. La primera frase del modelo la fijan su modelo en sus tarjetas y cuántas personas esperan respuesta en el mismo momento. El primer sonido lo fija el sintetizador que elija. Y la propia llamada telefónica añade su retardo por el camino, parte de lo que medimos en dos tramos móviles.
Por eso no prometemos los 1,09 segundos de la demo para una instalación totalmente local. Prometemos medirlos: primero en hardware alquilado, con sus escenarios y su pico real, antes de comprar el servidor.
Cómo escribirlo en la aceptación
Una buena llamada no demuestra nada sobre la llamada número cien de una mañana con mucho trabajo. El criterio que proponemos tiene tres partes: una mediana y un percentil 90, desde el final de la frase de quien llama hasta la voz del agente, con un número acordado de llamadas simultáneas, en su línea real. Una línea típica de la especificación dice "respuesta mediana no más lenta de 1,5 segundos".
Escrito así, "el agente es lento" deja de ser una impresión y pasa a ser un número que ambas partes midieron de la misma manera.
Preguntas que esto plantea
- ¿Qué tiempo de respuesta es bueno para un agente de voz?
- La gente espera una respuesta tras una pausa de más o menos un segundo. En nuestra demo el agente respondió en 1,09 s en una llamada real. Para la aceptación proponemos fijar una mediana y un percentil 90, por ejemplo una mediana no más lenta de 1,5 segundos, medidos en su línea y con su pico.
- ¿Qué parte es la más lenta?
- En la llamada medida, la primera frase del modelo de lenguaje con 0,54 s, seguida de cerca por decidir que la persona había terminado con 0,48 s. La síntesis fue la parte más pequeña, 0,07 s. Con modelos locales las proporciones pueden ser completamente distintas.
- ¿Por qué no prometen la misma latencia en nuestros servidores?
- Porque los 1,09 s se midieron con modelos en la nube y en una sola llamada. Un modelo local en sus tarjetas, con varias llamadas a la vez, tiene su propio tiempo hasta la primera frase, y lo honesto es medirlo en hardware alquilado antes de que nadie compre un servidor.