Кому:
Тема: Новости продукта
Как контролировать ИИ-агентаИнтерактивный урок о хуках и контроле над агентом.
Проблема:
Агент может игнорировать прямые указания.
В этом уроке мы узнаем, как хук блокирует действия агента, даже если тот игнорирует инструкцию.
Однажды мой товарищ А. поручил агенту рассылку.
А.Предприниматель
Что сделать
Рассказать клиентам об обновлениях продукта.
А. отдельно подчеркнул
Каждому — отдельное письмо.
Вроде никто не смотрит?
АгентВ почте у Анны
Это был промпт!
Промпт - это просьба для агента, он может её игнорировать.
Поставим хук
Только по одному!
Поставим вышибалу перед отправкой.
Он будет пропускать только письма
с одним получателем.
Как работает хук
Хук — внешняя проверка в коде. Она запускается перед каждой отправкой. Без её разрешения агент не может отправить письмо.
Проверяем: один получатель?
Правило нарушено — письмо не уйдёт.
Вот урод!
Кому:
Тема: Новости продукта
Здесь пять адресов.
Только по одному!
Только по одному!
Отправка заблокирована
Кому: anna@mail.com
Тема: Новости продукта
Один получатель.
Проходи.
Проходи.
Один адрес — письмо можно отправить.
Контроль должен быть
вне агента.
Агент может проигнорировать просьбу. Но хук не даст выполнить действие, которое нарушает правило.
Просьбу агент читает.
Правило проверяет код.
