ИИ-ассистенты перестали быть игрушкой: они читают почту поставщиков, разбирают инвойсы, готовят ответы и напоминают о сроках. Но вместе с пользой компания отдаёт сервису самое чувствительное — переписку, цены, условия контрактов. Прежде чем подключать любой инструмент, задайте поставщику семь вопросов. Ответы быстро покажут, кто перед вами: зрелый продукт или красивая демонстрация.
1. Где хранятся наши данные и кто имеет к ним доступ?
Просите конкретику: страна и юрисдикция серверов, шифрование при передаче и хранении, круг сотрудников поставщика, которые технически могут видеть ваши документы. Для импортёра в Казахстане и ЕАЭС это не формальность: в переписке с заводами — закупочные цены, скидки и условия, которые не должны оказаться у конкурентов.
2. Обучается ли модель на наших данных?
Ключевой вопрос эпохи больших языковых моделей. Если поставщик дообучает модели на данных клиентов, ваша коммерческая информация может косвенно «просочиться» в ответы другим пользователям. Нормальный ответ: «на ваших данных модель не обучается, это закреплено в договоре». Просите письменный пункт, а не устное обещание на демо.
3. Что ассистент делает сам, а что — только с подтверждением?
Это водораздел между «подсказчиком» и оператором. Прочитать письмо и подготовить черновик — безопасно. Отправить поставщику заказ на десятки тысяч долларов — уже нет. У зрелого продукта уровни автономии настраиваются: что ИИ делает сам, что выносит на подтверждение человеку, что запрещено в принципе. Если такой настройки нет — контроль остаётся на словах.
4. Есть ли журнал действий и объяснение решений?
Когда ассистент рассортировал двести писем или сверил инвойс, вы должны видеть: что именно он сделал, на каком основании и где сомневался. Без журнала невозможно ни разобрать ошибку, ни доказать свою позицию партнёру. Регуляторный тренд — включая европейский AI Act — движется именно к прозрачности и объяснимости, так что журнал действий со временем станет нормой, а не бонусом.
5. Как система обрабатывает собственные ошибки?
Языковые модели ошибаются: путают цифры, «дорисовывают» несуществующие позиции. Вопрос не в том, ошибается ли система, а в том, что она делает с неуверенностью. Правильная архитектура — перепроверка извлечённых сумм и артикулов, сверка итога инвойса с суммой строк, честная пометка «не уверен, нужен человек». Спросите прямо: «что произойдёт, если ИИ неверно прочитает сумму в инвойсе?» — и слушайте, есть ли в ответе слово «проверка».
6. Как разграничен доступ внутри нашей команды?
Менеджеру по закупкам не нужны зарплатные ведомости, бухгалтеру — переписка отдела продаж. Узнайте, есть ли роли и права, можно ли ограничить ассистента конкретными ящиками и папками и как быстро отзывается доступ уволенного сотрудника. Один общий логин на всю компанию — тревожный признак.
7. Что будет, если мы решим уйти?
Экспорт данных в открытом формате, понятные сроки удаления с серверов, письменное подтверждение удаления. Если на этом вопросе поставщик начинает мяться, вы смотрите на будущую зависимость от вендора, из которой дорого выбираться.
Как пользоваться этим списком
Отправьте семь вопросов письмом ещё до демонстрации — по качеству ответа многое ясно заранее. Хорошие признаки:
- отвечают конкретно, со ссылками на договор и документацию, а не «у нас всё безопасно»;
- сами предлагают режим с подтверждением критичных действий человеком;
- спокойно обсуждают сценарий вашего ухода.
Прикинуть, сколько времени и денег освобождает автоматизация рутины с почтой и документами, можно в калькуляторе, а короткие ответы на типовые вопросы собраны в FAQ.
Мы в HORUVIA строим ИИ-оператора для импортёров именно вокруг этих семи ответов — от журнала действий до подтверждения критичных операций человеком — и подробнее разбираем каждую тему в других заметках.