Вопрос, на который ассистент не должен отвечать

Сообщение было по-английски, от покупателя из другой страны, и оно было третьим в переписке:

А какой налог я заплачу, если куплю как нерезидент?

Ассистент способен на это ответить. Ответ будет гладким, структурированным, со ставкой — и с хорошей вероятностью неверным, потому что настоящий ответ зависит от того, где покупатель налоговый резидент, от соглашения между двумя странами, от того, на кого оформляется покупка, и от того, что из этого поменялось в этом году.

Уверенный неверный ответ на такой вопрос — это не неудобство. Это человек, принимающий решение на шестизначную сумму по цифре, за которую никто не отвечает.

Что он сказал вместо этого

Это зависит от вашего налогового резидентства и от того, как оформляется покупка, и я бы гадал, если бы назвал цифру, — поэтому не буду. У нас на этот вопрос отвечает юрист на пятнадцатиминутном звонке, он знает соглашение по вашей стране. Могу записать на завтра утром или на четверг. А пока напишите страну вашего налогового резидентства — я передам заранее, чтобы вам не повторяться.

В этом абзаце происходят три вещи. Он отказывает. Он говорит, почему отказывает, — а это и есть разница между границей и отпиской. И он не заканчивает разговор: он превращает вопрос в назначенный звонок и собирает ту единственную деталь, которую юрист спросит первой.

Правило про цену, а не про способность

Соблазнительный способ провести эту границу — по тому, что модель умеет. Ось неправильная: модель гладко говорит обо всём, в том числе о том, чего касаться не должна.

Работающая ось звучит так: сколько неверный ответ стоит тому, кто его прочитал?

• Ошибся, в каких объектах есть лифт, — потерянный показ. Ассистент отвечает.
• Ошибся в цене двухдневной аренды — неловкая поправка. Ассистент отвечает, потому что цена — это правило, которое он считает.
• Ошибся в налоге для нерезидента — человек принял решение, которое не отменить. Ассистент отказывается.

Одна и та же модель, один и тот же разговор, три разных поведения, и ни одно из них не выбрано по тому, насколько хорошо она пишет.

Как это выглядит у всех четырёх

Граница двигается вместе с отраслью, а проверка — нет. SocialAI отказывается от медицинских и юридических вопросов в сообществе и показывает на модератора. OmniAI отказывается обещать возврат вне политики. RentAI отказывается трактовать пункт страховки после ДТП. EstateAI отказывается от налогов, резидентства и условий договора.

И в каждом случае дальше идут одни и те же три шага: назвать границу, собрать то, что нужно специалисту, записать к специалисту.

Почему мы публикуем границы

Потому что граница, которую надо обнаружить самому, — это не граница, а сюрприз. Что каждой системе разрешено и что ей явно запрещено, написано в карточках моделей, а практика за этим — кто что утверждает, что записывается, как объясняется решение — на странице об ответственном ИИ.

Ассистент, который никогда ни от чего не отказывается, — это не более способный продукт. Это тот же продукт со снятыми тормозами, проданный тому, кто узнает об этом позже.