В нашу платформу для малого бизнеса (Fluxs) мы встроили ИИ-помощника. Ему можно написать в чат обычными словами, например «сколько задач просрочено на этой неделе» или «откуда пришли заявки за месяц», и он покажет ответ в виде таблицы и графика. А если сказать «заведи задачу Иванову на завтра», он эту задачу создаст.
Сделать чат оказалось нетрудно. Трудно было сделать так, чтобы ему можно было верить. Для этого мы придумали три правила, которые помощник не может нарушить.
Первое: цифры он не придумывает. Нейросети любят уверенно говорить красивые числа, которых на самом деле нет. Для отчёта по бизнесу это самое плохое, что может быть. Поэтому ИИ у нас только решает, куда посмотреть, а таблицу и график считает и рисует обычная программа, которая берёт данные прямо из вашей базы. Придумать цифру, которой там нет, он просто не может.
Второе: он видит только вашу компанию. Кто вы и какая у вас компания, система узнаёт, когда вы входите, а не спрашивает у нейросети. Поэтому даже если ИИ что-то перепутает, чужие данные ему недоступны.
Третье: без вашего «да» он ничего не создаёт. Если попросить завести задачу или добавить клиента, помощник сначала показывает, что именно он собирается сделать, и ждёт, пока вы нажмёте кнопку. Пока кнопка не нажата, в системе ничего не меняется.
1/3
Про эти правила нам лучше всех напомнила одна наша ошибка. В системе есть раздел «Онлайн запись», куда попадают записи клиентов. Мы спросили помощника про него, а он взял другой раздел с похожим названием и выдал данные оттуда. Ответ выглядел правдоподобно: таблица, цифры. Только цифры были не из того раздела.
После этого мы поняли: когда ассистент уверенно отвечает не на тот вопрос, это хуже, чем если он честно скажет «не знаю». Теперь, если раздела с таким точным названием нет, помощник так и пишет: «Такого не нашёл, есть вот эти», показывает настоящие названия и просит выбрать.
Ещё две полезные вещи. Во-первых, он умеет создавать новые поля, то есть дополнительные графы в карточках. Можно написать, например, «добавь в задачи поле „Бюджет“» или «в сделках нужна дата отгрузки», и он подготовит такие поля в задачах, заявках или сделках, а создаст их только после вашего «да», как и всё остальное. Во-вторых, как только вы открываете кабинет, он сам показывает, что у вас на сегодня: что просрочено, у каких задач срок сегодня, какие встречи стоят в планировщике, какие пришли новые заявки и сделки, какие документы ждут вашего решения. Эта сводка считается обычным подсчётом, без нейросети, поэтому появляется сразу.
Чего он не умеет, чтобы никто не ждал лишнего: менять и удалять то, что уже есть в системе. Он только читает данные и создаёт новое, и то с вашего разрешения. Вопрос можно ещё и продиктовать голосом, но пока это работает только в браузерах Chrome и Edge.
Это часть платформы Fluxs, которую мы делаем, так что формально это пост про наш продукт. Но мне кажется, что подход «не верить ИИ на слово» полезен и без нашей платформы. Если любопытно, как это выглядит: подробнее тут
