CDMS | Além da Explicabilidade SHAP em Claim Denials na Saúde

Nos últimos anos, a adoção generalizada de tecnologias digitais de saúde tem transformado o setor da saúde num domínio intensivo em dados, criando novas oportunidades para a Advanced Analytics e a Artificial Intelligence (AI).

No âmbito de um Claim Denial Management System (CDMS), que envolve o workflow de prevenção de recusas, identificação das causas-raiz e aplicação de ações corretivas para mitigar os seus efeitos, um healthcare claim (sinistro de saúde) refere-se a um pedido formal de pagamento submetido por um prestador de cuidados de saúde, como um hospital, a uma seguradora ou a um terceiro pagador, por cuidados médicos prestados a um doente. Assim, para além da resolução de recusas individuais, uma gestão eficaz é essencial para sustentar a estabilidade financeira, reduzir ineficiências e salvaguardar o acesso dos doentes aos cuidados de saúde.

Todos os anos, as seguradoras privadas dos EUA processam cerca de 3 mil milhões de claims médicos. Aproximadamente 15% (450 milhões) são inicialmente recusados, sendo que 54,3% dessas recusas acabam por ser revertidas após múltiplos ciclos de recurso. Consequentemente, os hospitais gastam, em média, US$43,84 a contestar cada claim recusado, totalizando cerca de US$19,7 mil milhões por ano, dos quais US$10,6 mil milhões poderão representar esforço administrativo desnecessário, uma vez que os claims deveriam ter sido pagos à partida (Premier, 2024).

Neste contexto, a rápida expansão da informação médica, das transações e das prescrições tem intensificado a carga administrativa, conduzindo frequentemente a um processamento prolongado dos claims, a ineficiências operacionais e a decisões de reembolso atrasadas, tornando cada vez mais difícil e moroso para os prestadores navegar em vastos conjuntos de dados e extrair insights acionáveis para uma tomada de decisão informada. Superar estes desafios exige adaptabilidade, automação, deteção robusta de fraude, estratégias centradas no doente e um rigoroso cumprimento regulatório.

As tendências globais indicam uma adoção crescente de AI, Machine Learning (ML) e Advanced Analytics. Na saúde, os sistemas de AI representam uma estratégia promissora graças à sua capacidade de processar conjuntos de dados de grande escala, identificar padrões ocultos, gerar insights acionáveis e apoiar a tomada de decisão inteligente, contribuindo assim para colmatar ineficiências persistentes relacionadas com a alocação de recursos, as exigências administrativas e o desempenho operacional.

Assim, modelos sofisticados de ML têm alcançado um desempenho preditivo notável na previsão de recusas de claims, na identificação de claims de alto risco e no apoio à tomada de decisão operacional. Contudo, a sua complexidade crescente e a natureza black-box têm reduzido significativamente a sua interpretabilidade. Como abordagem, a Explainable Artificial Intelligence (XAI) surgiu para fornecer justificações transparentes e insights significativos sobre as previsões dos modelos, melhorando a sua interpretabilidade e apoiando uma tomada de decisão mais informada.

Entre as técnicas de XAI, o SHAP (SHapley Additive exPlanations) é um método amplamente adotado e model-agnostic, utilizado para quantificar a contribuição de cada feature individual para a previsão de um modelo. No entanto, o SHAP explica o quê influenciou uma previsão, e não porquê o resultado ocorreu; não distingue entre correlação e causalidade, limitando a sua capacidade de identificar as verdadeiras causas-raiz de um evento ou de recomendar ações corretivas eficazes.

Assim, Como podemos identificar não apenas o que influenciou uma previsão, mas também o que realmente causou a devolução e que ações poderiam preveni-la?

O fosso entre atribuição e ação

Isto pode parecer abstrato, por isso vamos torná-lo mais concreto com um exemplo.

O XGBoost é um modelo de machine learning que realiza previsões combinando várias árvores de decisão simples, aprendendo padrões a partir de dados históricos para inferir novos casos, o que lhe permite identificar padrões complexos nos dados com elevada precisão.

A figura abaixo apresenta um SHAP summary plot para um modelo XGBoost treinado para prever recusas de claims. As features estão ordenadas pela sua contribuição global para as previsões do modelo, estando cada ponto colorido de acordo com o valor da respetiva feature (vermelho indica valores elevados, enquanto azul indica valores baixos).

Como demonstrado, o SHAP evidencia aquilo em que o modelo se apoia, nomeadamente, valores mais elevados nos indicadores bureaucracy_time_days, claim_type_oral e claim_total contribuem para empurrar a previsão no sentido da recusa. Adicionalmente, os indicadores patient_rejection fornecem insights valiosos sobre o comportamento do modelo, indicando que doentes com um histórico de rejeição elevado têm maior probabilidade de ver os seus claims recusados.

Os 20% de claims mais lentos, definidos como aqueles em que bureaucracy_time_days ultrapassa aproximadamente 40 dias, correspondem a 1.996 claims, dos quais 74,9% acabam por ser recusados. Os claims resolvidos mais rapidamente contam uma história oposta: os que são liquidados em cerca de duas semanas e meia são recusados apenas em ~10% dos casos (9,7% no escalão rápido, 10,6% no escalão típico), e mesmo os claims que se arrastam por três a cinco semanas mantêm-se nos 17,3%, ainda abaixo da média global de 25%. O risco de recusa praticamente não se altera enquanto o claim é processado dentro do prazo, subindo de forma acentuada apenas quando ultrapassa a marca dos 40 dias.

Assim, quando um claim lento pertence também a um doente com um histórico recente de rejeição muito elevado, os dois sinais combinam-se: todos os 660 claims nessas condições, presentes nos dados, foram recusados — uma taxa de recusa de 100%. Por outras palavras, o mesmo claim que passaria sem problemas em duas semanas torna-se uma recusa quase certa ao ultrapassar as seis semanas, e um doente que já foi rejeitado anteriormente raramente beneficia da dúvida.

À primeira vista, o SHAP parece fornecer uma explicação considerável ao identificar quais as features que influenciaram a previsão e ao quantificar a sua contribuição. Mas há uma ressalva importante: o SHAP explica o modelo, não o processo real por detrás da previsão nem os mecanismos subjacentes que conduziram ao resultado, por exemplo:

• Será bureaucracy_time_days uma causa da recusa, ou apenas um sintoma que a acompanha?

• Se interviéssemos na redução do tempo de processamento administrativo, o risco de recusa diminuiria, e em que medida?

Para preencher as peças em falta, foram adicionadas três perspectivas complementares sobre o modelo preditivo. Cada uma responde a uma pergunta que o SHAP, isoladamente, não consegue responder, e, em conjunto, fornecem uma visão completa dos fatores por detrás das recusas de claims.

Perspetiva	Pergunta a que responde	Método
Relacional	Que códigos carregam risco por causa da companhia que mantêm?	Graph Neural Network sobre o claim–code graph
Causal	Se intervirmos num fator, quanto é que o risco de recusa realmente muda?	DoWhy + EconML ForestDRLearner
Contrafactual	Se este fator tivesse assumido um valor diferente, este claim teria continuado a ser recusado?	Pearl-style SCM

Perspetiva relacional: de features a relações

Revisitando os resultados anteriores, as code features que surgiram nesse SHAP summary: os códigos de implantes e medicamentos situam-se perto do fundo do ranking (medication_code_FI0078, FI0077), com os seus pontos praticamente sem dispersão a partir de zero, uma vez que, individualmente, quase não movem o score.

Como resultado, o risco emerge das relações entre códigos, e não de códigos individuais isolados. As Graph Neural Networks (GNNs) foram especificamente concebidas para modelar este tipo de estrutura relacional.

Para tornar isto concreto, analisemos dois drug codes identificados brevemente pela análise SHAP. Isoladamente, o medicamento biológico (FI0078) e o medicamento de quimioterapia (FI0077) parecem pouco relevantes: cada um surge em cerca de 780 claims e é recusado cerca de 47% das vezes, apenas ligeiramente acima da baseline de 25%. Mas os 128 claims que apresentam ambos os códigos em simultâneo são recusados em 80% dos casos (103 dos 128), um lift de 3,2× face à taxa base. Nenhum dos medicamentos é, por si só, de alto risco — o risco reside na sua combinação. Este é precisamente o sinal que o SHAP não consegue ver, uma vez que pontua a contribuição de cada feature de forma independente, e é exatamente isto que a perspetiva relacional foi concebida para captar.

Na prática, uma GNN aprende um embedding para cada código através de message passing, em que a representação de cada código é repetidamente atualizada a partir dos claims e dos códigos vizinhos com que ocorre. O resultado é uma relational denial propensity: o risco de um código em contexto.

Como mostrado acima, o painel Top Combinations destaca os pares de procedimentos de maior risco, em que hip prosthesis + biologic ocupa o primeiro lugar, com 86% dos claims recusados, seguido de knee prosthesis + chemotherapy, com 84%. Crucialmente, cada combinação apresenta os seus top denial reasons ("Charges included in billed procedure", "Incomplete documentation"), o que constitui o início de uma história causal, e não apenas de uma correlação.

Ao consultar o Node Detail, o perfil de risco de um único código é detalhado. Neste caso, o medicamento biológico (FI0078): 784 claims, 47% de recusa, uma GNN relational propensity de 43%, os seus principais denial reasons, e as 18 top combinações em que participa:

Isto ilustra a principal vantagem da perspetiva relacional: o risco de recusa de um código de procedimento depende não só do próprio código, mas também dos outros procedimentos que o acompanham. Enquanto o FI0078 isolado apresenta uma taxa de recusa de 47%, ao combiná-lo com um implante essa taxa sobe para 86%.

O explorer fecha também o ciclo, ligando de volta ao SHAP. Ao explorar essa top combination, são listados os claims individuais sinalizados por detrás da taxa de 86% (uma probabilidade média prevista de recusa de 81,4% nos 125 claims pontuados), e ao expandir qualquer um deles é revelado o respetivo SHAP breakdown por claim. Para o claim 776709, um claim rejeitado com um score de 96,2%, os principais drivers são, mais uma vez, bureaucracy_time_days (+1,71) e o histórico recente de rejeição do doente (+1,65), exatamente as features que lideravam o summary global. A perspetiva relacional revela o pairing de alto risco; o SHAP, claim a claim, continua a explicar o que fez pender cada um deles.

No geral, a perspetiva relacional demonstra que as recusas de claims não são motivadas apenas por procedimentos individuais, mas pelas interações entre eles. Ao modelar estas relações, as GNNs revelam combinações de alto risco que permaneceriam ocultas caso os procedimentos fossem analisados isoladamente, fomentando insights significativos sobre os padrões subjacentes às recusas de claims. Ainda assim, isto não explica se estas combinações constituem a verdadeira causa de uma recusa. Para responder a essa questão, é necessário ir além dos padrões e identificar as causas reais das recusas de claims.

Causalidade: de associado a para alterações

Dado isto, as técnicas anteriores detalharam quais as features e combinações associadas às recusas, permanecendo, no entanto, a questão da causalidade por responder.

Nesta fase, a questão-chave deixa de ser quais os fatores associados às recusas, passando a ser se intervir num fator reduziria a probabilidade de uma recusa. A pergunta seguinte natural é de natureza interventiva:

• Se aumentássemos um dos fatores, quanto é que a taxa de recusa realmente mudaria?

É isto que o Average Treatment Effect (ATE) mede — um explorador que quantifica em que medida intervir num fator altera a probabilidade de recusa de um claim. Por trás, combina DoWhy, EconML e uma placebo refutation para garantir a robustez das estimativas.

Comparar as explicações do SHAP com as estimativas causais revela tanto concordâncias como diferenças importantes. O SHAP classifica bureaucracy_time_days, claim_type_oral e claim_total entre as features mais influentes nas previsões do modelo. A análise causal confirma que estes fatores não são apenas preditivos, mas têm também efeitos estatisticamente significativos sobre a probabilidade de recusa de um claim. Em particular, os claims orais aumentam o risco de recusa em 18,3 pontos percentuais, os claims de valor elevado em 17,8 pontos percentuais, e tempos de processamento administrativo mais longos em 4,9 pontos percentuais.

Por outro lado, no SHAP summary, as features relacionadas com a pré-autorização e o histórico de rejeição do doente contribuem para as previsões do modelo, sugerindo que este se apoia nessa informação, ao passo que a análise causal não encontra um efeito estatisticamente significativo para a sua ausência, após ajuste para fatores de confundimento.

Até este ponto, percebemos aquilo em que o modelo se apoia e quais os fatores que genuinamente influenciam o risco de recusa. O passo final é tornar estes insights acionáveis para um claim individual. Em vez de perguntar "o que aumenta o risco de recusa, em média?", passamos a perguntar "porque é que este claim foi recusado, e qual a menor alteração necessária para obter um resultado diferente?" É exatamente a isto que a counterfactual analysis responde.

Counterfactual root-cause analysis: de mudanças a ações

O ATE responde à pergunta de policy ("o que devemos fazer, em geral?"). O adjuster tem uma pergunta mais precisa: "porque é que este claim específico foi recusado, e qual a menor alteração que reverte esse resultado?" Isto é um counterfactual, e exige um modelo do processo gerador dos dados.

A framework Counterfactual RCA constrói um graphical causal model com equações estruturais de additive-noise e executa o processo de abduction–action–prediction de Pearl: para cada claim recusado, faz o abduct do exogenous noise, repõe subconjuntos ao valor "normal", e faz o Shapley-split da anomalia de recusa resultante pelos upstream drivers.

Nas 200 claims recusadas analisadas, emerge um padrão claro: o tempo de processamento administrativo é a principal causa-raiz, representando 49% de todas as top attributions, seguido do valor do claim, com 37%.

Repare-se na reconciliação: o RCA promove novamente bureaucracy_time_days ao topo, reforçando o instinto per-claim do SHAP, e explicando o porquê: nos claims que efetivamente acabam recusados, o tempo de processamento e o valor do claim são os fatores cujo noise mais frequentemente os faz pender para a recusa. O SHAP disse-nos o que o modelo via; o RCA diz-nos qual a causa que está realmente a atuar.

As explicações counterfactual conduzem naturalmente ao passo seguinte. Uma vez identificada a causa-raiz principal, coloca-se uma questão prática: se introduzirmos uma alteração numa feature, será isso suficiente para evitar a recusa?

Por exemplo, se o tempo de processamento administrativo for a causa-raiz dominante, valerá realmente a pena o esforço operacional de o reduzir? Mais importante ainda: encurtar o processo administrativo traduzir-se-ia em menos recusas de claims? O algorithmic recourse fornece essa resposta, simulando intervenções específicas por claim.

O contraste entre as duas alavancas é evidente. Dos 2.172 claims recusados, reduzir apenas o tempo de processamento administrativo reverte 1.353 (62%) para aprovado, sendo que o claim mais redutível cai de 95,1% → 5,2% (ex.: claim 784913). O gráfico abaixo torna esta mudança concreta: as probabilidades de recusa atuais (cinzento) concentram-se junto ao limite superior, mas, uma vez reduzido o bureaucracy time, a massa desloca-se para a esquerda, ultrapassando o threshold de decisão — 1.353 claims passam a aprovação, enquanto 819 (38%) permanecem recusados.

Esta diferença conta a mesma história já ilustrada pelos métodos anteriores, em que o SHAP pendia para o lado "errado" na pré-autorização (has_pre_auth_False a empurrar no sentido da aprovação), e o recourse confirma-o: a pré-autorização simplesmente não está no caminho causal da maioria das recusas. A alavanca que realmente move o resultado é o tempo de processamento, e três métodos independentes concordam nisso.

Transformar Insights em Ação: da Previsão à Prevenção de Claims

As recusas de claims de saúde raramente são causadas por um único fator, dada a sua complexidade intrínseca e a elevada interdependência entre variáveis administrativas, clínicas e financeiras. Considerando isto, e alinhando a saúde com novas tecnologias, o verdadeiro valor da AI nos claims de saúde não está em prever que uma recusa vai acontecer — está em preveni-la.

Ao combinar explainability, relational learning, causal inference e counterfactual reasoning, torna-se possível identificar claims de alto risco, compreender porque são recusados e quais as alterações operacionais mais suscetíveis de os prevenir.

No nosso caso, quatro perspetivas complementares convergiram para a mesma conclusão: o bureaucracy time não é apenas um sinal preditivo — é a alavanca operacional mais acionável para reduzir as recusas de claims. Esta mudança de previsão para intervenção abre a possibilidade de reduzir custos administrativos, acelerar reembolsos e, em última análise, melhorar tanto a eficiência dos prestadores como o acesso dos doentes aos cuidados de saúde.

Versão original em Inglês do artigo: https://www.effybusiness.com/post/cdms-a-journey-beyond-shap-explainability-in-healthcare-claims-denials