Содержаниеразделов: 6
Как это работаетЗАМЕТКА
Куда уходит секунда
На реальном звонке в наше демо агент заговорил через 1,09 секунды после того, как человек замолчал: 0,48 с, чтобы понять, что он договорил, 0,54 с на первое предложение модели, 0,07 с на первый звук. Что это за части и почему при локальной установке их надо измерять заново.
Costa4 мин чтения
Короткий ответ
Пауза перед ответом голосового агента - это три задержки подряд: понять, что звонящий договорил, получить от языковой модели первое предложение и получить от синтеза первый звук. На звонке в наше демо 9 октября 2026 года, на облачных моделях, они составили 0,48 с, 0,54 с и 0,07 с, всего 1,09 с. На вашем железе меняется каждая из этих цифр, и её нужно измерить заново под нагрузкой.
Ключевые факты
- Демо-звонок 9 октября 2026 года, облачные модели: определение конца фразы и сеть 0,48 с, первое предложение модели 0,54 с, первый звук синтеза 0,07 с, всего 1,09 с.
- Критерий приёмки, который мы предлагаем, пишется под сценарии: например, медианный ответ не дольше 1,5 секунды на реальной линии заказчика.
- Скорость ответа принимается как медиана и 90-й процентиль под согласованной нагрузкой, а не по одному лучшему звонку.
Человек в трубке ждёт ответа на паузе примерно в секунду. Если дольше, он говорит «алло?», начинает повторять или перебивает ответ, и звонок перестаёт звучать как разговор.
Поэтому полезный вопрос о голосовом агенте не в том, насколько умна его модель. Он в том, на что уходит эта секунда.
Три части одной паузы
9 октября 2026 года мы взяли реальный звонок в наше демо, работающее на облачных моделях, и разложили промежуток между последним словом звонящего и первым звуком агента на части.
| Часть | Время |
|---|---|
| Понять, что звонящий договорил, и сеть | 0,48 с |
| Первое предложение языковой модели | 0,54 с |
| Первый звук синтеза | 0,07 с |
| От конца фразы до голоса | 1,09 с |
Один звонок, один момент, облачные модели. Это разбивка, а не бенчмарк, и на странице поставки та же цифра стоит с той же оговоркой.
Понять, что человек договорил
Первые 0,48 секунды уходят на ожидание, когда тишина начнёт что-то значить.
Человек, который замолчал посреди адреса, не договорил, а человек, который сказал «да» и замолчал, - договорил. Агенту надо отличить одно от другого только по звуку, без лица и дыхания, которые считывает живой оператор. Сделать ожидание слишком коротким - агент будет перебивать людей на полуслове. Слишком длинным - каждый ответ начнётся с опозданием. Тот же механизм решает, когда агенту замолчать, потому что его перебили, - об этом звонящий, который перебил, - и когда «угу» означает только, что человек слушает.
Это настройка, а не железо. Она зависит от ваших звонящих и ваших сценариев, и подбирать её надо на реальных звонках, а не на тихой офисной линии.
Первое предложение модели
Следующие 0,54 секунды принадлежат языковой модели, и главное слово здесь - «первое». Агент не ждёт ответа целиком. Ему нужно первое предложение: он отдаёт его голосу и продолжает писать остальное, пока звонящий уже слышит начало.
Поэтому скорость модели до первого предложения важнее её скорости на длинном ответе, а короткое первое предложение («Понял, двушка.») - решение, а не манера. Эта же часть сильнее всего меняется, когда вы уходите с облачных моделей: локальная модель на ваших картах может оказаться быстрее или медленнее, и она замедляется, когда несколько звонящих замолкают одновременно. Что это значит для сервера, мы разобрали в заметке на чём работает голосовой агент.
Первый звук
Последние 0,07 секунды - это синтез, который начинает говорить. На нашем звонке это самая маленькая часть, потому что голос начинает играть, как только готовы первые несколько слов, а не после того, как отрисована вся фраза.
Локальный синтез может потерять это преимущество, если ему нужно дописать фразу целиком, прежде чем её проиграть. Это свойство модели, которую вы выбираете, и его стоит проверить до выбора.
Что происходит с цифрами на ваших серверах
Когда модели уходят из облака, каждая строка таблицы снова становится вопросом.
Определение конца фразы остаётся примерно на месте, потому что это в основном настройка, но сетевая часть меняется вместе с тем, где стоит сервер и как к нему приходит звонок. Первое предложение модели определяют ваша модель на ваших картах и то, сколько звонящих ждут ответа в одну и ту же секунду. Первый звук определяет выбранный синтез. И сам телефонный звонок добавляет свою задержку по пути - это часть того, что мы измеряли в заметке два мобильных плеча.
Поэтому мы не обещаем демонстрационные 1,09 секунды для полностью локальной установки. Мы обещаем их измерить: сначала на арендованном железе, с вашими сценариями и вашим реальным пиком, до покупки сервера.
Как записать это в приёмку
Один удачный звонок ничего не доказывает про сотый звонок загруженного утра. Критерий, который мы предлагаем, состоит из трёх частей: медиана и 90-й процентиль от конца фразы звонящего до голоса агента, под согласованным числом одновременных звонков, на вашей реальной линии. Типичная строка в спецификации выглядит так: «медианный ответ не дольше 1,5 секунды».
В такой формулировке «агент тормозит» перестаёт быть впечатлением и становится цифрой, которую обе стороны измерили одинаково.
Вопросы, которые тут возникают
- Какая задержка ответа нормальна для голосового агента?
- Человек ждёт ответа на паузе примерно в секунду. В нашем демо агент ответил за 1,09 с на реальном звонке. Для приёмки мы предлагаем фиксировать медиану и 90-й процентиль, например медиану не дольше 1,5 секунды, на вашей линии и под вашим пиком.
- Какая часть самая медленная?
- На измеренном звонке - первое предложение языковой модели, 0,54 с, и почти столько же ушло на то, чтобы понять, что звонящий договорил, 0,48 с. Синтез занял меньше всего, 0,07 с. На локальных моделях пропорции могут быть совсем другими.
- Почему вы не обещаете такую же задержку на наших серверах?
- Потому что 1,09 с измерены на облачных моделях и на одном звонке. Локальная модель на ваших картах под несколькими звонящими сразу даёт своё время до первого предложения, и честнее измерить его на арендованном железе, прежде чем кто-то купит сервер.