IA em pesquisa clínica: quais riscos um CEP deve avaliar?

A inclusão de modelos de inteligência artificial em protocolos de pesquisa clínica altera substancialmente a proteção aos participantes. Na submissão à Plataforma Brasil, o Comitê de Ética em Pesquisa (CEP) não pode tratar a IA como mero instrumento estatístico. A tecnologia interfere na triagem de voluntários, na leitura diagnóstica, na predição de desfechos e no tratamento de dados sensíveis.

O erro mais comum é a descrição vaga ("os dados serão processados por IA"), sem detalhar a arquitetura computacional, a custódia da informação ou as salvaguardas humanas. Em consonância com o sistema CEP/Conep, a Instância Nacional de Ética em Pesquisa (Inaep), a LGPD na saúde e a Resolução CFM nº 2.454/2026, a avaliação ética exige rigor técnico e proporcionalidade regulatória.

Leitura Recomendada: Consulte a cobertura do Guia brasileiro estabelece parâmetros para uso de IA em pesquisas com seres humanos.

---

O que isso significa na prática?

Para pesquisadores principais (PIs), diretores técnicos de centros de pesquisa (conforme as regras da Anvisa para ensaios clínicos) e relatores de CEPs, o uso de IA impõe deveres operacionais imediatos:

• Para o Pesquisador Principal: O protocolo deve explicitar a acurácia prévia do algoritmo, a classificação regulatória (SaMD), a técnica de anonimização do prontuário e qual médico revisará nominalmente cada saída antes de qualquer conduta.
• Para os Centros e Clínicas: Contratos com provedores de nuvem devem proibir expressamente o uso de dados de pacientes para treinamento de modelos de terceiros (cláusula DPA).
• Para os Relatores de CEP: A análise deve checar a explicabilidade da ferramenta, o risco de viés em populações brasileiras e a clareza do consentimento, vetando a autonomia decisória irrestrita da máquina.
• Para a Governança e Risco Legal: Danos por alucinações ou vazamento de dados geram corresponsabilidade civil e ética do investigador e do centro, segundo o debate de responsabilidade médica por erro de IA no CFM.

---

Matriz de Avaliação de Risco de IA na Pesquisa Clínica

A análise ética deve seguir a proporcionalidade: mais impacto clínico e de dados exige maior densidade documental.

Nível de Risco	Aplicação no Estudo	Riscos ao Participante	Salvaguardas Mínimas	Documento no CEP
Baixo (Operacional)	Sumarização bibliográfica e checagem de formulários (CRF).	Inconsistências textuais sem reflexo na assistência.	Validação humana integral; veto a dados de pacientes em IA pública.	Declaração metodológica simples informando ferramenta e versão.
Moderado (Dados Secundários)	Mineração de prontuários (NLP) e pré-triagem de elegibilidade.	Quebra de sigilo, reidentificação por triangulação e viés de seleção.	Anonimização/pseudonimização criptográfica; checagem manual prévia.	Relatório de Impacto (RIPD/DPIA) e termo de custódia de dados.
Alto (Apoio Diagnóstico)	Interpretação de imagens e predição de eventos adversos.	Falso-negativo com perda de janela terapêutica; falso-positivo danoso.	Supervisão ativa (Human-in-the-loop); laudo assinado por médico.	Métricas prévias (sensibilidade, especificidade), protocolo de divergência e TCLE adaptado.
Crítico (Intervenção / SaMD)	Ajuste autônomo de doses; alocação adaptativa de braços do ensaio.	Dano físico agudo, toxicidade e perda de autonomia.	Travas automáticas (hard stops); interrupção manual; comitê DSMB.	Anuência/registro Anvisa, versionamento congelado e apólice de seguro.

---

Os 10 Eixos de Avaliação Ética pelo CEP

Ao analisar um projeto de pesquisa com IA, o CEP deve investigar dez dimensões fundamentais de conformidade metodológica e de segurança:

1. Finalidade e delimitação funcional

O protocolo deve especificar se a IA atua na triagem, na interpretação diagnóstica ou na sugestão terapêutica. Quanto maior o impacto clínico, maior o rigor na exigência de validação prévia. Descrições vagas inviabilizam a análise de risco-benefício exigida pela Resolução CNS nº 466/2012.

2. Governança de dados e risco de reidentificação

Segundo a LGPD (Art. 11 e 13), deve-se coletar apenas o mínimo necessário. A pseudonimização não anula a reidentificação quando prontuários são cruzados com idade, CEP e datas. O protocolo deve detalhar a desidentificação de anotações médicas livres e a remoção de metadados em imagens DICOM.

3. Transparência informada e TCLE adaptado

O TCLE deve esclarecer em linguagem acessível: o papel da IA no estudo, a obrigatoriedade da supervisão médica e a possibilidade de falhas algorítmicas. Em estudos retrospectivos com dispensa de TCLE, deve-se justificar a inviabilidade de contato e anexar o Termo de Compromisso de Utilização de Dados (TCUD).

4. Vieses algorítmicos e representatividade

Modelos treinados em bases do exterior podem falhar frente à diversidade genética, demográfica e epidemiológica brasileira. O comitê deve requerer métricas de acurácia desagregadas por subgrupos (gênero, idade, etnia) para evitar discriminação e exclusões amostrais injustificadas.

5. Supervisão humana ativa (Human-in-the-loop)

Conforme a Resolução CFM nº 2.454/2026, a IA não pode ter decisão final. O protocolo deve nomear os médicos pesquisadores que validarão as saídas e definir o fluxo quando houver divergência clínica, conforme orientado na auditoria de IA no prontuário eletrônico pelo diretor técnico.

6. Rastreabilidade e congelamento de versão

Para assegurar a reprodutibilidade científica, o modelo deve ter versão e hiperparâmetros congelados (model freezing) durante a pesquisa, vedando autoaprendizado em tempo real. O centro deve registrar trilhas de auditoria contendo data, versão, inputs e identificação do validador.

7. Segurança cibernética e contratos em nuvem

O uso de APIs ou serviços em nuvem exige análise contratual (DPA) que proíba expressamente a retenção de dados clínicos para retreino comercial do provedor. Transferências internacionais devem cumprir o Art. 33 da LGPD, sob criptografia avançada (TLS 1.3 e AES-256).

8. Gestão de incidentes e contingência

O protocolo deve prever procedimentos claros para indisponibilidade da ferramenta, alucinações algorítmicas ou vazamento de informações. Deve haver gatilhos para suspensão temporária do sistema, aviso ao CEP, à Anvisa e ao comitê de monitoramento de dados (DSMB).

9. Impactos coletivos e combate à estigmatização

A análise ética avalia reflexos sociais: a IA não pode produzir escores preditivos que estigmatizem grupos vulneráveis ou alimentem práticas discriminatórias em saúde. O protocolo deve garantir a devolução social dos benefícios gerados pela investigação.

10. Proporcionalidade documental

A governança deve ser progressiva. Pesquisas retrospectivas com dados públicos exigem fluxo desburocratizado; ensaios clínicos intervencionais com SaMD exigem validação integral e auditorias contínuas, harmonizando segurança do participante e viabilidade científica.

---

Estudo de Caso Operacional: IA no Centro de Investigação

Para ilustrar o fluxo de conformidade ética, acompanhe a rotina de validação de um algoritmo para triagem de retinopatia diabética em centro de pesquisa credenciado:

1. Recepção e Admissão: O paciente assina o TCLE contendo cláusulas claras sobre o processamento das imagens e recebe código alfanumérico único, desvinculando sua identidade civil do banco analítico.
2. Aquisição e Higienização: Na retinografia não-midriática, a enfermagem utiliza rotina técnica que remove automaticamente todas as tags de dados pessoais (PII) dos metadados do arquivo DICOM.
3. Processamento Local: O modelo de visão computacional roda em servidor local isolado da internet, sob versão congelada (v2.4.1), gerando escore probabilístico e mapa de calor anatômico.
4. Ato Médico Soberano: O oftalmologista pesquisador examina a retina e confronta com o mapa da IA. O laudo oficial e a conduta decorrem exclusivamente da deliberação médica, que prevalece em qualquer divergência.
5. Auditoria e CEP: O centro envia relatórios semestrais de concordância clínica e estabilidade ao CEP, atestando conformidade ética e ausência de desvios operacionais.

---

Checklist Operacional para Submissão ao CEP

Antes de submeter o protocolo na Plataforma Brasil ou redigir o parecer ético, verifique:

1. Metodologia e Escopo Técnico

• Algoritmo, versão, desenvolvedor e arquitetura básica identificados nominalmente.
• Finalidade do sistema categorizada (apoio administrativo, triagem, diagnóstico ou intervenção).
• Apresentação de métricas prévias de acurácia clínica (sensibilidade, especificidade e AUC-ROC).
• Confirmação de congelamento da versão (model freezing) durante toda a vigência da pesquisa.

2. Governança de Dados e LGPD

• Matriz de coleta compatível com o princípio da minimização de dados sensíveis.
• Procedimentos técnicos de anonimização/pseudonimização blindados contra reidentificação cruzada.
• Higienização prévia de metadados em exames DICOM e textos livres em prontuários.
• Anexação de Relatório de Impacto (RIPD/DPIA) para grandes bancos de dados de saúde.

3. Segurança da Informação e Nuvem

• Cláusula contratual (DPA) que proíbe o uso dos dados para retreinamento comercial de terceiros.
• Conformidade de eventuais transferências internacionais com o Art. 33 da LGPD.
• Criptografia ativa de ponta a ponta (TLS 1.3 e AES-256) em trânsito e em repouso.
• Registro contínuo de logs para auditoria técnica retrospectiva.

4. Transparência e TCLE

• TCLE redigido em linguagem acessível sobre a atuação da IA e a primazia médica.
• Garantia formal de direito à revisão humana em qualquer decisão automatizada.
• Justificativa técnica e assinatura de TCUD em solicitações de dispensa de consentimento.

5. Supervisão Médica e Contingência

• Verificação de diversidade demográfica na base do modelo para mitigar vieses na população brasileira.
• Médicos pesquisadores nomeados formalmente no protocolo para validação das inferências.
• Fluxo operacional documentado para conduta clínica em caso de divergência com a máquina.
• Plano de contingência detalhado para falhas, alucinações e notificação rápida ao CEP.

---

---

Este conteúdo tem finalidade editorial e informativa. Não substitui orientação jurídica, regulatória, médica ou técnica individualizada. Conteúdo organizado pelo Conselho Editorial Clariora, com curadoria de fontes oficiais e apoio de inteligência artificial.

Fontes Oficiais

• Ministério da Saúde / Instância Nacional de Ética em Pesquisa (Inaep): Guia para orientar o uso de inteligência artificial em estudos científicos com seres humanos (Setembro de 2026). Acesso: https://www.gov.br/saude/pt-br/assuntos/noticias-ms/2026/setembro/inaep-aprova-guia-para-orientar-uso-de-inteligencia-artificial-em-estudos-cientificos/
• Conselho Nacional de Saúde (CNS): Resolução CNS nº 466/2012 e Resolução CNS nº 510/2016.
• Conselho Federal de Medicina (CFM): Resolução CFM nº 2.454/2026.
• Legislação Federal: Lei nº 14.874/2024 (Marco da Pesquisa Clínica) e Lei nº 13.709/2018 (LGPD).

---

Interlinks Recomendados

• Guia brasileiro estabelece parâmetros para uso de IA em pesquisas com seres humanos
• IA na medicina: como clínicas devem revisar ferramentas, fornecedores e fluxos digitais
• Como avaliar o risco de ferramentas de IA na saúde sob a LGPD
• Responsabilidade por erro médico e inteligência artificial segundo o CFM
• Auditoria de IA e prontuário eletrônico: o papel do diretor técnico
• Novas regras da Anvisa para ensaios clínicos em serviços de saúde

Aviso Legal: Conteúdo editorial informativo. Não substitui orientação médica, jurídica, regulatória ou técnica individualizada.

Aviso Legal: Este conteúdo é informativo e não substitui orientação médica, jurídica, regulatória ou técnica individualizada.