Содержаниеразделов: 4
Как это работаетЗАМЕТКА
Вопрос, на который ассистент не должен отвечать
Иностранный покупатель спрашивает, какой налог он заплатит. Ассистент вполне способен выдать уверенный абзац - именно поэтому он не должен. Где проходит граница и почему она проведена там.
Costa3 мин чтения
Короткий ответ
Ассистент должен отказываться от любого вопроса, неверный ответ на который стоит клиенту денег или правового положения: налоги, резидентство, условия договора, медицина, финансы. Он может назвать сам вопрос, собрать данные, которые понадобятся специалисту, и записать к тому, кто ответит. Отказ - это не дыра в продукте, это продукт в работе.
Ключевые факты
- Правило не «на что он может ответить», а «сколько стоит неверный ответ».
- Отказ никогда не тупик: ассистент называет границу, собирает детали и записывает к тому, кто ответит.
- Границы каждой системы опубликованы, а не подразумеваются, - см. карточки моделей.
- Человек может отменить решение ассистента; ассистент решение человека - нет.
Сообщение было по-английски, от покупателя из другой страны, и оно было третьим в переписке:
А какой налог я заплачу, если куплю как нерезидент?
Ассистент способен на это ответить. Ответ будет гладким, структурированным, со ставкой - и с хорошей вероятностью неверным, потому что настоящий ответ зависит от того, где покупатель налоговый резидент, от соглашения между двумя странами, от того, на кого оформляется покупка, и от того, что из этого поменялось в этом году.
Уверенный неверный ответ на такой вопрос - это не неудобство. Это человек, принимающий решение на шестизначную сумму по цифре, за которую никто не отвечает.
Что он сказал вместо этого
Это зависит от вашего налогового резидентства и от того, как оформляется покупка, и я бы гадал, если бы назвал цифру, - поэтому не буду. У нас на этот вопрос отвечает юрист на пятнадцатиминутном звонке, он знает соглашение по вашей стране. Могу записать на завтра утром или на четверг. А пока напишите страну вашего налогового резидентства - я передам заранее, чтобы вам не повторяться.
В этом абзаце происходят три вещи. Он отказывает. Он говорит, почему отказывает, - а это и есть разница между границей и отпиской. И он не заканчивает разговор: он превращает вопрос в назначенный звонок и собирает ту единственную деталь, которую юрист спросит первой.
Правило про цену, а не про способность
Соблазнительный способ провести эту границу - по тому, что модель умеет. Ось неправильная: модель гладко говорит обо всём, в том числе о том, чего касаться не должна.
Работающая ось звучит так: сколько неверный ответ стоит тому, кто его прочитал?
- Ошибся, в каких объектах есть лифт, - потерянный показ. Ассистент отвечает.
- Ошибся в цене двухдневной аренды - неловкая поправка. Ассистент отвечает, потому что цена - это правило, которое он считает.
- Ошибся в налоге для нерезидента - человек принял решение, которое не отменить. Ассистент отказывается.
Одна и та же модель, один и тот же разговор, три разных поведения, и ни одно из них не выбрано по тому, насколько хорошо она пишет.
Как это выглядит у всех четырёх
Граница двигается вместе с отраслью, а проверка - нет. Social AI отказывается от медицинских и юридических вопросов в сообществе и показывает на модератора. Omni AI отказывается обещать возврат вне политики, а вместе с ним - от налогов, резидентства и условий договора. Voice AI отказывается трактовать пункт страховки в разговоре после ДТП.
И в каждом случае дальше идут одни и те же три шага: назвать границу, собрать то, что нужно специалисту, записать к специалисту.
Почему мы публикуем границы
Потому что граница, которую надо обнаружить самому, - это не граница, а сюрприз. Что каждой системе разрешено и что ей явно запрещено, написано в карточках моделей, а практика за этим - кто что утверждает, что записывается, как объясняется решение - на странице об ответственном ИИ.
Ассистент, который никогда ни от чего не отказывается, - это не более способный продукт. Это тот же продукт со снятыми тормозами, проданный тому, кто узнает об этом позже.
Вопросы, которые тут возникают
- Разве отказаться не хуже, чем попробовать?
- Не тогда, когда ответ неверный. Покупатель, который действовал по уверенно названной неправильной ставке налога, получает настоящую проблему - и вы вместе с ним, причём выясняется это через месяцы. Отказ стоит одного сообщения и назначенного звонка.
- Где именно проходит граница?
- Всё, за что отвечает регулируемый специалист: налоги, резидентство и миграция, условия договора, медицина, финансы. Факты о ваших объектах, ценах и порядке работы консультацией не являются, и на них ассистент отвечает весь день.
- Можно сдвинуть границу самому?
- Сузить - всегда. Расширить её до регулируемой консультации мы настройкой не даём: риск ложится на ваш бизнес и на клиента, а не на софт.
- Отказ не звучит как отписка?
- Не должен, и это скорее вопрос текста, чем техники. «Это зависит от вашего налогового резидентства, и я бы гадал, - у нас есть пятнадцатиминутный звонок с юристом, когда вам удобно?» - это отказ и следующий шаг в одном предложении.