Inteligência artificial no diagnóstico médico: quem responde quando a máquina erra?

A inteligência artificial já analisa exames de imagem, sugere diagnósticos, prioriza atendimentos e apoia decisões clínicas em hospitais de todo o mundo. Os ganhos são reais: mais velocidade, detecção precoce de doenças, apoio em regiões com poucos especialistas. Mas, à medida que os algoritmos entram na rotina médica, uma pergunta se torna incontornável — quando uma decisão apoiada por IA causa dano ao paciente, de quem é a responsabilidade?

A IA como ferramenta de apoio, não de substituição

O ponto de partida, no Brasil, é firme: a inteligência artificial é instrumento de apoio à decisão, não substituta do médico. O ato médico continua sendo humano, e a relação médico-paciente permanece no centro. Isso tem uma consequência jurídica direta: o profissional que utiliza uma ferramenta de IA não transfere a ela a sua responsabilidade. A máquina sugere; o médico decide e responde.

Esse princípio dialoga com o conjunto de normas que vem se formando — das recomendações sobre uso ético de IA às diretrizes de governança tecnológica na saúde — e tende a ser reforçado pelo futuro Marco Legal da Inteligência Artificial, em tramitação no Congresso, que trata sistemas de uso sensível, como os de saúde, como aplicações de maior risco, sujeitas a transparência, supervisão humana e avaliação de impacto.

As várias camadas de responsabilidade

Quando há dano, a responsabilidade pode recair sobre diferentes elos, conforme o caso:

• O médico, se deixou de exercer o julgamento crítico, confiou cegamente na sugestão do sistema ou ignorou sinais que exigiam avaliação própria.
• A instituição de saúde, pela escolha, implementação e supervisão das ferramentas que coloca à disposição de suas equipes — inclusive pela qualidade dos dados e dos processos.
• O fornecedor da tecnologia, por defeitos no produto, falhas de desempenho ou informações inadequadas sobre limites e riscos de uso.

Na relação com o paciente, a lógica consumerista e a responsabilidade objetiva dos fornecedores de serviços tendem a facilitar a reparação do dano, deixando a discussão sobre "de quem foi a culpa" para o acerto de contas entre os envolvidos.

Vieses, dados e discriminação

Há um risco específico da IA médica que merece atenção: o viés algorítmico. Sistemas treinados com dados pouco representativos podem ter desempenho inferior para determinados grupos — por idade, sexo, etnia ou condição socioeconômica —, gerando diagnósticos menos precisos e, no limite, discriminação. Avaliar a procedência e a representatividade dos dados que alimentam o sistema é, portanto, parte da diligência exigida de quem o adota.

Transparência e explicabilidade

Decisões clínicas precisam ser compreensíveis. Um sistema que funciona como "caixa-preta", sem permitir entender por que chegou a determinada conclusão, é problemático tanto do ponto de vista clínico quanto jurídico. A capacidade de explicar a recomendação — e de documentar que houve avaliação humana sobre ela — é essencial para a defesa do profissional e da instituição em caso de questionamento.

Cuidados práticos para médicos e instituições

• Mantenha a supervisão humana real: a sugestão da IA deve ser avaliada criticamente, nunca seguida automaticamente.
• Conheça os limites da ferramenta: para que foi validada, em que populações, com qual margem de erro.
• Registre o uso da IA no prontuário e a decisão humana correspondente.
• Trate os dados conforme a LGPD: dados de saúde são sensíveis, e treinar ou alimentar sistemas exige base legal adequada.
• Formalize contratos com fornecedores, prevendo responsabilidades, padrões de desempenho e deveres de informação.
• Informe o paciente, quando pertinente, sobre o uso de tecnologia de apoio.

Conclusão

A inteligência artificial promete transformar a medicina para melhor, mas não muda um princípio fundamental: a decisão e o cuidado continuam sendo humanos, e a responsabilidade acompanha quem decide. Médicos e instituições que adotam essas ferramentas com método — supervisão, transparência, atenção aos dados e bons contratos — colhem os benefícios da tecnologia sem se expor a riscos que a própria pressa de inovar poderia criar.

---

Este conteúdo tem caráter informativo e não substitui a análise jurídica de casos concretos. Vidal Ribeiro Ponçano Sociedade de Advogados atua em direito médico, hospitalar, responsabilidade civil e proteção de dados.