Saltar para o conteúdo
← Ideias

Limiares de confiança na classificação com IA: quando aceitar, rever ou rejeitar

Defina limiares de confiança com base no custo de cada erro, encaminhe os casos incertos para revisão e estabeleça como medir e atualizar a política.

Diagrama de um fluxo de classificação com IA que encaminha resultados para aceitação automática, revisão humana ou outra via.

Uma classificação automática não deve ser aceite apenas porque o modelo atribui uma pontuação elevada. Essa pontuação expressa uma estimativa do sistema, não uma garantia de que a categoria está correta nem de que a decisão é adequada ao processo. Para decidir o que fazer com cada resultado, é necessário combinar a qualidade da previsão com o custo de errar, a possibilidade de revisão e as consequências operacionais.

Uma abordagem prática divide os resultados em três vias: aceitação automática, revisão humana e rejeição ou encaminhamento para um processo alternativo. Os limites entre elas podem variar consoante a categoria e mudar ao longo do tempo. O objetivo não é maximizar a automatização a qualquer custo, mas automatizar os casos suficientemente seguros e tornar visíveis os que precisam de atenção.

Uma pontuação de confiança não é uma decisão

Uma pontuação de confiança não é uma decisão

Os classificadores podem devolver uma categoria e uma pontuação associada. No entanto, uma pontuação de 0,9 não significa necessariamente que o resultado tenha 90% de probabilidade de estar correto no contexto de utilização em causa. A interpretação depende da forma como o modelo foi treinado e avaliado, da representatividade dos dados e da calibração das pontuações.

Além disso, a mesma pontuação pode corresponder a riscos diferentes. Classificar um pedido de informação como «geral» em vez de «faturação» pode causar um pequeno atraso; classificar um pedido urgente como rotineiro pode ter consequências mais graves. Por isso, não convém definir um único limiar para todas as classes sem analisar primeiro o custo de cada tipo de erro.

Antes de automatizar, confirme o que significa a pontuação disponível, como se comporta em dados representativos e se o modelo pode abster-se quando não encontra uma resposta suficientemente clara. Se a pontuação não estiver calibrada, utilize-a como indicador para ordenar ou priorizar resultados, e não como uma probabilidade exata.

Calcule o custo de errar por categoria

Para cada classe, compare dois erros: o falso positivo, quando o sistema atribui uma categoria que não corresponde ao caso, e o falso negativo, quando não deteta uma categoria que deveria ter identificado. Numa classificação multiclasse, importa especificar quais as confusões realmente prejudiciais; nem todas as categorias incorretas têm o mesmo impacto.

Uma matriz de confusão por categoria ajuda a identificar erros frequentes, mas as métricas não substituem a análise do fluxo de trabalho. Pergunte às equipas de operações o que acontece depois de cada etiqueta: é enviada uma comunicação? O caso é atribuído a uma equipa? É definida uma prioridade? Um documento é arquivado? Registe o impacto em termos práticos, como trabalho repetido, atrasos, incumprimento de um procedimento ou risco para a pessoa afetada, sem presumir que todos os erros têm um custo monetário conhecido.

  • Erros reversíveis e de baixo impacto: pode ser razoável automatizar mais casos, desde que exista uma forma simples de os corrigir.
  • Erros difíceis de detetar ou corrigir: exigem limites mais conservadores e controlos adicionais.
  • Classes com consequências relevantes: podem exigir revisão humana mesmo quando as pontuações são elevadas, dependendo da política do processo.

O resultado é uma política por classe: que erros são toleráveis, quais exigem revisão e quais obrigam a interromper ou encaminhar a automatização.

Divida os resultados entre aceitar, rever e rejeitar

Defina dois limiares de pontuação em vez de um. Acima do limiar superior, o sistema pode propor a aceitação automática; entre os dois limiares, o caso passa a revisão; abaixo do limiar inferior, a previsão automática é rejeitada ou encaminhada para uma via alternativa. Neste contexto, «rejeitar» significa não utilizar a classificação como decisão final, e não rejeitar o pedido da pessoa.

Os limiares não têm de ser iguais para todas as classes. Se confundir duas categorias produzir efeitos diferentes, podem ser necessários limiares distintos ou regras específicas para essas confusões. Também é possível exigir uma condição adicional, como uma diferença mínima entre a categoria mais provável e a segunda mais provável. Essa separação pode ajudar a detetar resultados ambíguos, embora deva ser avaliada com dados do próprio fluxo de trabalho.

Documente claramente cada via: quem pode corrigir um resultado, o que acontece quando o sistema não responde e como se regista a decisão final. Um resultado de baixa confiança deve ter um destino operacional definido; caso contrário, a equipa acabará por inventar exceções caso a caso.

Calibre com exemplos representativos e verificados

Reúna exemplos que reflitam a utilização real: categorias frequentes e pouco frequentes, textos curtos e longos, formatos diferentes, casos ambíguos e erros de entrada previsíveis. Inclua amostras dos canais e grupos que irão alimentar o sistema. Um conjunto composto apenas por casos fáceis pode dar a impressão de que o desempenho será melhor do que aquele que se verificará em produção.

Para cada exemplo, registe a etiqueta correta segundo um critério acordado e estabeleça como resolver eventuais desacordos. Separe os dados utilizados para ajustar a política dos dados reservados para a validar. Para cada limiar possível, meça pelo menos quantos casos seriam aceites automaticamente, que proporção desses casos está correta por classe e quantos seriam encaminhados para revisão. Acrescente uma avaliação dos erros em função do respetivo impacto operacional.

  1. Defina as classes e as consequências de cada erro com as pessoas responsáveis pelo processo.
  2. Construa uma amostra representativa e verifique as etiquetas, resolvendo os desacordos.
  3. Teste vários limiares e calcule a precisão, a cobertura automática e a carga de revisão por classe.
  4. Escolha a política que cumpre os requisitos de risco e de capacidade operacional, e não apenas uma métrica agregada.
  5. Valide a decisão com dados separados antes de a aplicar em produção.

O quadro de gestão de riscos de IA do NIST oferece uma referência para organizar a identificação, a avaliação e a gestão de riscos. Não estabelece um limiar universal que possa ser copiado: a decisão deve ter em conta o contexto, os dados e o impacto do sistema em causa.

Conceba a revisão humana como parte do produto

A revisão não é uma exceção técnica que se resolve enviando casos para uma caixa de entrada. Defina quem revê, de que informação precisa, quanto tempo pode dedicar à tarefa e que ações pode tomar. Apresente a categoria sugerida e o contexto relevante, mas permita que a pessoa a corrija, peça informações ou encaminhe o caso quando a política o exigir.

Registe a etiqueta final e, se possível, o motivo da correção. Estes dados ajudam a detetar confusões recorrentes e a preparar melhorias; não devem ser incorporados automaticamente no treino sem controlos de qualidade. Se as pessoas responsáveis pela revisão não partilharem os mesmos critérios, as suas decisões podem acrescentar ruído em vez de o reduzir.

Acompanhe também a carga de trabalho: uma taxa de revisão muito elevada pode transformar a automatização num estrangulamento. Se o volume ultrapassar a capacidade prevista, dê prioridade aos casos com base no impacto, na urgência ou no tempo de espera e reveja se o modelo, as categorias ou os limiares devem mudar. Não reduza os limiares de forma improvisada apenas para diminuir a fila.

Monitorize e reveja a política de decisão

Meça os resultados por classe e por segmentos relevantes do processo. No mínimo, acompanhe a precisão das aceitações automáticas, a taxa de revisão, a percentagem de rejeições ou encaminhamentos, os erros relevantes e o tempo necessário para resolver cada caso. Uma métrica global pode ocultar falhas sistemáticas numa categoria minoritária.

Compare as previsões com resultados verificados e defina uma frequência de revisão adequada ao risco e ao volume. Reavalie a política se mudarem as categorias, os formulários, os canais, o modelo ou as regras operacionais. Investigue também sinais como o aumento das correções humanas, uma mudança na distribuição das classes ou mais casos fora dos padrões conhecidos. São indícios a analisar, não uma prova automática de que o modelo piorou.

Guarde as versões dos limiares, os elementos utilizados para os aprovar e a data da revisão. A gestão e a qualidade dos dados também são importantes: definições incoerentes ou etiquetas desatualizadas enfraquecem qualquer calibração. O corpo de conhecimento da DAMA International pode servir de referência geral para estruturar práticas de gestão de dados.

Lista de verificação para a implementação

Lista de verificação para a implementação
  • Cada categoria tem uma definição operacional e exemplos de casos-limite?
  • Os falsos positivos e os falsos negativos foram comparados em função das respetivas consequências?
  • Os limiares distinguem aceitação, revisão e encaminhamento, e podem variar por classe?
  • A avaliação utiliza dados representativos e etiquetas verificadas?
  • Existe capacidade humana, instruções de revisão e uma via de escalamento?
  • Os erros, a cobertura e a carga de revisão são medidos por classe?
  • Estão definidos responsáveis, registos e condições explícitas para voltar a avaliar a política?

Em suma, definir limiares de confiança consiste em conceber uma política de decisão, não em escolher um número isolado. Comece pelo custo dos erros, valide os limites com casos reais e mantenha uma via segura para os casos incertos. Assim, a automatização pode crescer sem confundir uma pontuação do modelo com uma decisão fiável.

Fuentes y referencias

  1. AI Risk Management FrameworkNIST
  2. Data management body of knowledgeDAMA International