Desenhe a fronteira antes do fluxo
Liste as ações permitidas, os dados necessários e situações que exigem revisão. Ambiguidade, alto impacto, ausência de informação e exceções são sinais frequentes de transferência.
Essa fronteira precisa ser compreensível para quem opera o sistema, não só para quem escreveu o prompt. Uma pessoa deve poder revisar o motivo da ação e interrompê-la.
Transfira contexto, não apenas texto
Quando o agente chama uma pessoa, entregue o objetivo, o histórico relevante, as fontes consultadas, o que já tentou e por que parou. Obrigar alguém a reconstruir a conversa anula parte do ganho.
Registre também o desfecho. Ele mostra padrões de exceção e ajuda a corrigir tanto o agente quanto o processo humano.
Supervisão é uma decisão de projeto
A supervisão não pode aparecer apenas depois de um incidente. O NIST inclui processos de monitoramento e gestão contínua no seu framework de risco para IA. A intensidade da revisão deve acompanhar impacto e incerteza.
Uma resposta informativa pode pedir revisão amostral. Uma ação que altera dados, compromissos ou dinheiro merece controles mais fortes e possibilidade de reversão.
Ajuste a autonomia pela evidência
Acompanhe acertos, erros, casos inconclusivos e satisfação de quem recebe o trabalho. Amplie o escopo somente quando a equipe confia no comportamento observado, e não na primeira demonstração.
Fontes e leitura complementar
Quer levar essa discussão para sua operação?
Conte seu desafio. Nossa equipe pode ajudar a definir uma hipótese, uma linha de base e o primeiro passo.
