Урок 7 из 8 · 20 мин · обновлено

Контроль и безопасность: доступы, подтверждения, журнал

Как не потерять контроль над агентом: минимальные доступы, подтверждение важных действий человеком, журнал действий, проверка результатов, персональные данные и что делать, если агент ошибся.

Минимум доступов

Чем больше агент может, тем больше вреда от ошибки — или от атаки через скрытые инструкции (урок 6). Поэтому главный принцип — минимально нужный доступ:

  • только нужные сервисы — для сводки заявок хватит таблицы и мессенджера; почта и банк не нужны;
  • только нужные папки и письма — не весь диск и не вся почта;
  • только чтение, если не нужно менять;
  • отдельные учётные записи или ключи доступа для агента — чтобы их легко отключить, не меняя свои пароли.

Регулярно пересматривайте доступы: задача ушла — доступ убрать.

Подтверждение человеком

Даже точная инструкция не гарантирует, что агент не ошибётся. Поэтому действия с последствиями подтверждает человек:

  • отправка писем и сообщений клиентам, поставщикам, руководству;
  • удаление и массовые изменения данных;
  • деньги — оплаты, переводы, покупки;
  • публикация — посты, отзывы, объявления;
  • регистрация и согласие с условиями от вашего имени.

Удобная схема: агент готовит черновик — письмо, список изменений, — вы смотрите и нажимаете «отправить». Это занимает секунды, а спасает от неприятных ошибок.

Журнал и проверка

  • Журнал действий — что агент сделал, когда и с какими данными. Во многих сервисах есть история запусков. Смотрите туда, особенно первые недели;
  • выборочная проверка — каждый день 2–3 результата: строки в таблице, сводки, черновики;
  • показатели — сколько ошибок нашли, сколько времени сэкономили. Если ошибок становится больше — что-то изменилось: данные, сервис, инструкция.

Персональные данные

Через агентов легко «утечь» данным клиентов и сотрудников:

  • передавайте персональные данные только в сервисы, разрешённые правилами компании и законом;
  • минимум данных: для сводки заявок не нужен адрес клиента — не передавайте его;
  • не загружайте в чат-помощник документы с паспортными данными, медицинскими сведениями, зарплатами — если это не разрешено явно.

Как устроены правила о персональных данных и законе об ИИ для компании — в уроке «Данные, право и запуск пилота» курса для бизнеса.

Если агент ошибся

  1. Остановите агента или связку — не дайте ошибке повториться.
  2. Исправьте последствия: свяжитесь с клиентом, верните данные, отмените действие.
  3. Найдите причину: чего не хватило в инструкции, какие права были лишними, какие данные устарели.
  4. Дополните инструкцию, урежьте права, обновите документы.
  5. Проверьте на тестовом примере, прежде чем включать снова.

Попробуйте сами. Для своего агента или связки составьте «паспорт безопасности»: какие доступы и зачем, какие действия только с подтверждением, как вы проверяете результат, какие данные не передаёте.

Пример паспорта Анны

Задача: утренняя сводка заявок на торты.

  • Доступы: таблица «Заказы тортов» — только чтение; мессенджер — отправка сообщений только Анне.
  • Без доступа: почта, банк, сайт, данные сотрудников.
  • С подтверждением: не нужно — агент ничего не отправляет наружу.
  • Проверка: первую неделю — сверять сводку с таблицей каждый день, потом — раз в неделю.
  • Данные: в сводке только имя, дата, вес, комментарий; телефоны и адреса — не передавать.
  • Если ошибка: выключить расписание, сверить с таблицей, поправить инструкцию.

Мини-тест: проверьте себя

Закрепите урок: несколько вопросов, разбор ответов — в конце.

  1. Какой принцип доступа самый безопасный для агента?

  2. Какие действия агента обязательно должен подтверждать человек?

  3. Агент по ошибке отправил клиенту неправильную цену. Что делать в первую очередь?