Свободный диалог удобен, но правдоподобный ответ не всегда является правильным. Поэтому рабочий бот должен понимать не только что он знает, но и когда обязан остановиться.
Минимальный безопасный контур
- утверждённые источники знаний;
- явные правила допустимых ответов;
- удаление персональных данных перед обращением к модели;
- журнал технических ошибок;
- передача сотруднику, если данных недостаточно;
- регулярная проверка вопросов, на которые бот не ответил.
Такой подход делает AI частью управляемого процесса, а не отдельным экспериментом.