Правила, которые мы держим сами на себе
Как мы обращаемся с тем, что может пойти не так
Когда системе доверяют настоящую работу, возникают законные вопросы: кто решает, кто отвечает, что происходит с данными и что будет, если она серьёзно ошибётся. Эта страница отвечает на все четыре. Здесь то, что мы делаем на самом деле, а не то, что звучало бы успокаивающе.
- Важное утверждает человек
- Всё записывается
- GDPR
Где решение остаётся за человеком
Система делает рутину. Она не принимает решений, которые стоят денег, имеют юридический вес или меняют положение человека по отношению к вам. Такие всегда уходят человеку.
Она останавливается и спрашивает, когда
- Сама недостаточно уверена в своём ответе
- Тема чувствительная - деньги, договоры, жалобы, всё юридическое
- Собеседник просит живого человека
- Ответ нарушил бы одно из ваших собственных правил
Человек всегда может отменить
- Любое её решение ваша команда может развернуть
- Отмена записывается рядом с исходным решением
- Исправленное возвращается обратно, и та же ошибка встречается реже
- Есть выключатель, который останавливает её целиком, и он у вашей команды
Вам видно, как она работает
- Экран, где видно, что происходит прямо сейчас
- Оповещение, когда картина меняется
- Регулярная выборочная проверка её ответов
- Что думают о ней люди по ту сторону
Проверяем, что она относится ко всем одинаково
Система, обученная на прошлой работе, наследует всё, что в ней было перекошено. Мы это проверяем, а не считаем само собой разумеющимся: до запуска и потом, пока она работает.
Что проверяем
- Одинаково ли обходятся с людьми независимо от возраста, пола, происхождения и языка, на котором они пишут
- Одинаково ли точна на всех 16 языках, а не только на том, на котором её строили
- Равномерно ли распределены случаи, которые она передаёт человеку, или они собираются на одной группе
- Совпадает ли её уверенность с тем, как часто она действительно права
Когда проверяем
- До запуска - полная проверка, каждый раз
- Пока работает - регулярно, на реальном потоке
- Постоянно - оповещение, если картина сдвинулась
- По запросу - попросите проверку, и мы её сделаем
Почему она поступила именно так
По любому отдельному решению мы можем показать, что система приняла во внимание и насколько сильно каждый факт повлиял. Это нужно в двух случаях: когда клиент оспаривает результат и когда вы хотите понять, о том ли она вообще рассуждает.
- Какие факты склонили решение в ту или другую сторону - по конкретному случаю
- На какую часть написанного она на самом деле отвечала
- Запись каждого решения, которая хранится, чтобы к ней можно было вернуться
Ваши данные
Чем мы связаны
- Собираем только то, что нужно для работы
- Используем только для того, для чего собрали
- Любой может спросить, что о нём хранится, и потребовать удалить
- Любой может спросить, почему автоматическое решение вышло таким
- Письменное соглашение об обработке данных с каждым клиентом
- Стандартные договорные условия там, где данные пересекают границу
Как они хранятся
- Зашифрованы там, где лежат, - AES-256
- Зашифрованы, пока передаются, - TLS 1.3
- Доступ выдаётся по роли и только там, где нужен для работы
- Вход в два шага для всех, у кого есть доступ
- Регулярные проверки безопасности наших систем
- Клиентские данные не хранятся дольше, чем нужно для работы
Когда что-то ломается
Это сроки, которые мы берём на себя при серьёзном сбое. Они в договоре, а не на плакате.
- 15 минут
Мы взяли это в работу
Человек уже занимается, и вы об этом знаете
- 1 час
Дошло до тех, кто может починить
Передано старшим инженерам
- 4 часа
Что-то уже стоит
Починка или обход, который останавливает ущерб
- 24 часа
Вы знаете, почему это случилось
Разбор письменно и что мы изменили, чтобы не повторилось
Внешние правила, по которым мы строим
Два свода правил задают, как мы работаем. Мы им следуем; ни по одному из них нельзя выдать себе сертификат, и мы этого не утверждаем.
- EU AI Act - классифицируем каждую систему по уровню риска, прямо говорим человеку, что он общается с машиной, помечаем то, что машина создала, оставляем человека в цепочке решений и ведём документацию, которую требует регламент. Ничего из запрещённого списка не строим.
- NIST AI Risk Management Framework - наша работа с рисками идёт по его четырём частям: договориться, кто отвечает; описать, где система касается живых людей; измерить, как она работает на деле; и действовать по тому, что показали измерения.
О чём и когда мы вам сообщаем
Каждый месяц вы получаете письменный отчёт о том, как система отработала: что обработала, что передала людям, где ошиблась и что мы изменили. Если случилось что-то, что задело ваших клиентов, вы узнаете это от нас раньше, чем от них.
Рядом
Есть вопросы, на которые здесь нет ответа?
Спросите. Если вашей службе комплаенса нужно что-то конкретное письменно, прежде чем она согласует, - скажите что, и мы напишем.
Почта: info@inite.solutions
Обновлено: август 2026