Para onde vai o segundo

Ao telefone, as pessoas esperam uma resposta depois de uma pausa de mais ou menos um segundo. Se demora bem mais, dizem "alô?", começam a se repetir ou falam por cima da resposta, e a chamada deixa de soar como conversa.

Então a pergunta útil sobre um agente de voz não é o quanto o modelo é inteligente. É em que esse segundo é gasto.

As três partes de uma pausa

Em 9 de outubro de 2026 pegamos uma chamada real para a nossa demo, que roda com modelos na nuvem, e dividimos o intervalo entre a última palavra de quem liga e o primeiro som do agente.

Uma chamada, um momento, modelos na nuvem. É uma decomposição, não um benchmark, e a página de entrega mostra o mesmo número com a mesma ressalva.

Saber que a pessoa terminou

Os primeiros 0,48 segundo vão em esperar que o silêncio signifique alguma coisa.

Quem para no meio de um endereço não terminou, e quem diz "sim" e para, terminou. O agente tem de distinguir um do outro só pelo som, sem o rosto e a respiração que um atendente humano lê. Espera curta demais, e o agente interrompe as pessoas no meio da frase. Longa demais, e toda resposta começa atrasada. O mesmo mecanismo decide quando o agente deve se calar porque foi interrompido, que é o tema de quem ligou e interrompeu, e quando um "uhum" só indica que a pessoa está ouvindo.

Isso é configuração, não hardware. Muda com os seus clientes e os seus cenários, e precisa ser ajustado em chamadas reais, não numa linha silenciosa de escritório.

A primeira frase do modelo

Os 0,54 segundo seguintes são do modelo de linguagem, e a palavra importante é "primeira". O agente não espera a resposta inteira. Ele precisa da primeira frase, entrega para a voz e continua escrevendo o resto enquanto quem liga já ouve o começo.

Por isso a velocidade do modelo até a primeira frase importa muito mais que a velocidade numa resposta longa, e uma primeira frase curta ("Entendi, apartamento de dois quartos.") é uma decisão de projeto e não um tique. É também a parte que mais muda quando você sai da nuvem: um modelo local nas suas placas pode ser mais rápido ou mais lento, e fica mais lento quando várias pessoas param de falar ao mesmo tempo. O que isso significa para o servidor está em em que roda um agente de voz.

O primeiro som

Os últimos 0,07 segundo são o sintetizador começando a falar. É a menor parte na nossa chamada porque a voz começa a tocar assim que as primeiras palavras existem, e não depois de gerar a frase inteira.

Um sintetizador local pode perder essa vantagem se precisar terminar a frase antes de tocá-la. É uma propriedade do modelo que você escolhe, e vale verificar antes de escolher.

O que acontece com os números nos seus servidores

Quando os modelos saem da nuvem, cada linha da tabela volta a ser uma pergunta.

A detecção do fim de turno fica mais ou menos onde está, porque é sobretudo configuração, mas a parte de rede muda com onde o servidor fica e como a chamada chega até ele. A primeira frase do modelo é definida pelo seu modelo nas suas placas e por quantas pessoas esperam resposta no mesmo momento. O primeiro som é definido pelo sintetizador escolhido. E a própria chamada telefônica acrescenta o seu atraso no caminho, parte do que medimos em dois trechos móveis.

Por isso não prometemos o 1,09 segundo da demo para uma instalação totalmente local. Prometemos medir: primeiro em hardware alugado, com os seus cenários e o seu pico real, antes de comprar o servidor.

Como escrever isso na aceitação

Uma chamada boa não prova nada sobre a centésima chamada de uma manhã cheia. O critério que propomos tem três partes: uma mediana e um percentil 90, do fim da frase de quem liga até a voz do agente, sob um número combinado de chamadas simultâneas, na sua linha real. Uma linha típica da especificação diz "resposta mediana não mais lenta que 1,5 segundo".

Escrito assim, "o agente é lento" deixa de ser uma impressão e vira um número que os dois lados mediram do mesmo jeito.