Como desenhar a aprovação humana em fluxos de IA
Resumo da decisão: Associe a aprovação de IA a um resultado concreto: ficha, versões, envios incertos, testes piloto e transferência clara de responsabilidades.
Defina a ação que precisa de aprovação
Um assistente de orçamentos pode classificar pedidos, preparar um rascunho e mostrá-lo ao responsável. Redigir e enviar ao cliente são ações distintas. Neste exemplo, o envio exige aprovação para aquele orçamento. Escrever bem não concede autoridade sobre condições comerciais.
Associe cada ação a um responsável, impacto e caminho de recuperação. Não reúna envio, eliminação e pagamento num vago «continuar». Este é um exemplo de desenho, não um resultado medido de cliente.
Prepare uma ficha para decidir
Mostre destinatário, texto completo, nomes e versões dos anexos, preços ou datas relevantes e consequência da ação. Permita aprovar, rejeitar ou pedir alterações. Complete os dados necessários antes de solicitar a decisão.
Vincule a aprovação à versão apresentada. Alterar destinatário, texto ou anexo exige nova aprovação. Um email com «sou o diretor» não verifica identidade: utilize o utilizador verificado e as permissões da aplicação.
Não repita o envio sem verificar o resultado
Dê um identificador a cada intenção de envio e distinga preparado, aprovado, enviado e resultado desconhecido. Se a ligação falhar antes da resposta do fornecedor, procure primeiro o seu registo ou comprovativo. Não coloque automaticamente um resultado incerto numa nova fila de envio.
Quando suportadas, use as mesmas chaves de idempotência para a mesma operação e verifique os limites de retenção. O registo local não prova processamento único no destino. Enviado, entregue e lido representam evidências diferentes.
Teste também as exceções
Prepare aprovação válida, rejeição, mudança de destinatário após aprovação, aprovação expirada e perda de ligação durante o envio. Defina ação esperada e revisor para cada caso. Cinco sucessos iniciam o teste, sem demonstrar segurança em todas as condições.
Compare tarefas corretamente concluídas, correções, duplicados e espera humana com o processo manual. Inclua revisão e recuperação no tempo total. A rapidez do rascunho, por si só, não demonstra ganho de produtividade.
Torne a passagem e a pausa visíveis
Cada fila precisa de responsável e substituto disponível. Defina a validade da aprovação conforme o risco. Quem assume deve ver estado, versão aprovada e incerteza restante. A pausa deve impedir novas ações externas.
OWASP aborda autonomia excessiva. NIST AI RMF inclui papéis de supervisão humana. O fluxo acima é a nossa proposta de aplicação. Comece por um processo real, a sua ficha e o procedimento de falha.
Metodologia
As afirmações são avaliadas quanto à viabilidade, custo, risco e mensuração. Os cálculos ilustrativos são pressupostos; decisões legais e de segurança exigem fontes primárias.
Nota de fontes
As ligações e documentos citados são pontos de partida. Não são publicados resultados de clientes não verificados.
Registo de alterações
— A revisão editorial nativa aguarda o portal de publicação v3.0.
Perguntas frequentes
Toda saída de IA exige aprovação?
Decida segundo o impacto. Separe rascunhos internos de envios externos e delimite explicitamente as ações automáticas.
E se o texto mudar depois da aprovação?
A aprovação anterior não cobre texto novo. Apresente a versão alterada a uma pessoa autorizada para nova decisão.
Devemos repetir um envio de resultado desconhecido?
Investigue primeiro o registo do fornecedor. Uma repetição automática pode duplicar a ação.