Агенты
Как определить разрешения для агентов ИИ в компании
Хулиан Медина · Директор SourcingUp и создатель CommerceUp
Назначайте разрешения по задачам и по последствиям. Чтение информации, подготовка изменения и его применение — это разные возможности; У каждого должна быть узнаваемая сфера деятельности и ответственное лицо в команде.
Разделите действия
Агенту, который просматривает каталог, не нужно изменять цены. Тому, кто готовит ответ, не нужен доступ ко всей информации о клиенте. Определение конкретных действий и ресурсов уменьшает количество ошибок и облегчает объяснение того, что вы можете сделать. Конфигурация инструментов должна сделать это решение эффективным, помимо описания его в инструкциях.
Размещайте одобрение там, где это важно
В примере бизнес-обновления агент может предложить новое описание, а человек может его опубликовать. Для повторяющихся и обратимых действий команда может оценить другой уровень автономии. Важно то, что одобрение происходит до принятия обязательства и что рецензент видит полное изменение.
Подготовьтесь к восстановлению
Запишите, какое действие было предпринято, какой инструмент отреагировал и какой результат был получен. Я определил, как приостановить доступ и как исправить изменения, если это возможно. В случае сбоя инструмента агент не должен бесконечно повторять операцию, которая могла быть завершена. Пересмотр разрешений должен сопровождать изменения в процессах.
Чтобы применить это на практике
- Список разрешенных действий и ресурсов.
- Он будет разделять чтение, предложение и исполнение.
- Определите, кто утверждает конфиденциальные изменения.
- Просматривайте журналы и доступ при изменении задачи.
Откуда этот взгляд?
Гид Хулиана Медины. Предлагаемые сценарии носят иллюстративный характер; Они не представляют собой измеренные результаты для клиентов. Моя работа в SourcingUp.