Detalhes do Documento

This article contends that the European frameworks governing clinical AI fail to sustain accountability once systems are in use, and that certification and documentation are not apt to capture distributed, evolving decision-making. Drawing on comparative doctrine, the paper diagnoses the gap between formal compliance and lived responsibility. It advances living oversight as a governance practice that is continuous and substantively human, reframes stewardship as a shared responsibility across developers, clinicians, institutions, and regulators, and sets out practical implications: dynamic consent, post-deployment auditing, and enforceable redress. Accountability has to be designed into operation – not verified after the event – if clinical AI is to remain compatible with the moral foundations of healthcare.

Este artigo sustenta que os atuais instrumentos jurídicos que regem a inteligência artificial no sector da saúde na União Europeia são insuficientes para assegurar uma verdadeira responsabilidade ética e legal na fase pós-implementação dos sistemas. Argumenta que a arquitetura normativa vigente assenta em mecanismos estáticos de certificação e documentação, que não respondem à natureza distribuída e evolutiva da tomada de decisão clínica mediada por algoritmos. A partir de uma análise comparada e de uma reflexão normativa, identifica um desfasamento estrutural entre o cumprimento formal e a responsabilização efetiva. Defende que, para proteger a dignidade humana, a autonomia e para assegurar mecanismos efetivos de responsabilização, a supervisão deve tornar-se uma prática institucional viva: contínua, contextualizada, sempre com substancial envolvimento humano. O artigo desenvolve o conceito de responsabilidade por tutela (stewardship) como modelo de responsabilização partilhada e duradoura entre desenvolvedores, clínicos, instituições e reguladores. Apresenta implicações concretas para a governação da IA em saúde, como o consentimento dinâmico, auditorias pós-implementação e mecanismos de indemnização verdadeiramente executáveis. Conclui que a responsabilização deve estar incorporada no funcionamento efetivo dos sistemas, para que o uso de IA se mantenha compatível com os fundamentos morais dos cuidados de saúde.