A gestão da saúde e dos cuidados de saúde é um dos mais importantes tópicos no domínio da vida humana, com uma crescente consciencialização da opinião pública pela promoção de estilos de vida mais saudáveis para população em geral e particularmente para os seniores, cuja esperança de vida tem vindo a aumentar, com necessidade de maior acompanhamento e vigilância. São também as próprias mensagens publicitárias de diversos produtos, considerados de «bem-estar», que constroem promoções atrativas utilizando as chamadas «alegações de saúde».
Texto: António da Costa Alexandre Foto: DR
.
A Inteligência Artificial (IA) tem sido apresentada pela comunidade científica e pela própria comunicação social como uma ferramenta com potencialidades transformadoras do mundo em que vivemos, criando oportunidades de progresso tanto a nível económico como social, desempenhando com maior rapidez, segurança, rigor e informação tarefas e atividades humanas, mas também apoiando a decisão em diversos domínios. A área da saúde tem merecido algum destaque quanto às vantagens que estas tecnologias e a própria conectividade desempenham no acompanhamento, no diagnóstico e na prevenção de doenças.
A conetividade alterou o nosso quotidiano, assim como os nossos comportamentos – basta pensar nas alterações que o comércio eletrónico veio provocar no comércio a retalho. A facilidade de encomendar no conforto do lar um determinado artigo que nos será entregue no nosso domicílio torna atrativa esta forma de compra. Para este efeito, também contribuem positivamente os mecanismos alternativos de resolução de conflitos de consumo, de que é exemplo o Centro Europeu do Consumidor, que resulta de uma parceria entre a Direção Geral do Consumidor e a Comissão Europeia.
No Reino Unido tem vindo a ser implementado DeepMind Health no sistema nacional de saúde, com a disponibilização de uma app denominada Streams para utilização de médicos e enfermeiros com o objetivo de manter atualizada a informação clínica dos doentes que estes profissionais de saúde acompanham.
O potencial da IA na medicina tem sido destacado para abordar questões prementes, em particular o envelhecimento da população e o aumento de doenças crónicas, a falta de pessoal na saúde e mesmo ao nível de ineficiência dos sistemas de saúde, alta de sustentabilidade e desigualdades. A monotorização remota dos sintomas do doente é uma possibilidade que permite adaptar a terapêutica em função da evolução da situação clínica (pelo recurso à IA, o médico pode tomar decisões com maior precisão em resultado da análise e da interpretação dos exames médicos que suportam o diagnóstico).
Na União Europeia (UE) a IA tem sido objeto de estudos e projetos que visam a sua difusão no mercado interno, com programas de apoio financeiro para uma implementação mais célere e abrangente, mas também com a produção de diversos documentos comunitários que fornecem reflexões e propostas de desenvolvimento e implementação de políticas públicas no domínio das tecnologias. Importa referir que a atual presidente, Ursula von der Leyen, afirmou na sua tomada de posse ser um dos objetivos do seu mandato alcançar a liderança da IA a nível mundial.
A Comissão Europeia publicou em 19 de fevereiro de 2020 o Livro Branco sobre a Inteligência Artificial – Uma abordagem europeia virada para a excelência e a confiança, onde se realça a melhoria que a IA pode imprimir aos cuidados de saúde, tornando o diagnóstico mais preciso e permitindo a prevenção mais eficaz de doenças. Este documento considera que na área da saúde a tecnologia atingiu a maturidade para uma implantação em grande escala.
Na área da saúde os sistemas de IA com capacidade para efetuar diagnósticos médicos e monitorização de patologias podem evitar erros médicos, permitindo também uma libertação do médico dessas tarefas para dedicar mais tempo aos seus pacientes. Contudo, não é certo que assim seja; também é possível que ao médico sejam atribuídos mais doentes, para preencher esse tempo livre que a tecnologia proporcionou, mas isso são as opções gestionárias resultantes das futuras escolhas políticas.
Nesta área muitos são os exemplos de aplicações, plataformas, robotização de sistemas e utilização tecnológica que já estão implementados ou em via de implementação. Refiro em concreto apenas a descoberta de um antibiótico, apenas possível pela utilização da IA, e o computador Watson, que apoia profissionais de saúde nas consultas médicas.
Em 2020, foi descoberto um novo antibiótico, pelo MIT – Massachusetts Institute of Techonology, eficaz no combate a bactérias multirresistentes aos antibióticos até aí conhecidos. Esta conquista foi possível pelo recurso à IA, treinada com uma elevadíssima multiplicidade de dados, impossível de concretizar pelos métodos tradicionais, desde logo pelos elevados custos que acarretaria. De acordo com os autores do livro A Era da Inteligência Artificial – e o nosso futuro comum, publicado no final de 2021 pela Dom Quixote, das 61.000 hipóteses analisado apenas uma se mostrou eficaz, ficando batizada como «halicina», por referência ao computador HAL, do filme 2001, Odisseia no Espaço. Afirmam os autores que provavelmente as relações entre os dados analisados pela IA teriam escapado à deteção humana, e acrescentam: «Mesmo após a descoberta do novo antibiótico, os humanos não conseguiram compreender exatamente porque funcionava. A IA, mais do que processar os dados mais rapidamente do que seria humanamente possível , detetou aspetos da realidade que os humanos não haviam detetado, ou talvez não conseguissem detetar.»
O Watson, da IBM, tem a capacidade para indicar em poucos minutos tratamentos personalizados na área da medicina, comparando o historial da doença e dos tratamentos, os exames e a informação genética com um universo (quase) completo de conhecimentos médicos atualizados. Já é considerado uma plataforma de serviços, aprendendo e tratando dados em larga escala, o que promete revolucionar a forma como é tratada a informação para decisão médica, apoiando a decisão do diagnóstico e reduzindo o erro, assinala José Mendes Ribeiro (Saúde Digital – um sistema de saúde para o século XXI, publicado pela Fundação Francisco Manuel dos Santos), afirmando ainda: «O Dr. Watson tem-se revelado um poderoso auxiliar das equipas clínicas para alcançarem uma eficácia terapêutica sem precedentes.»
.
Aspetos éticos da falta de explicabilidade dos algoritmos de «caixa negra»
Na base da IA está a recolha de elevada quantidade de dados, que por efeito da aprendizagem automática (técnicas que possibilitam às máquinas aprender com a experiência) leva a adquirir graus de conhecimento que permitem melhores soluções, por exemplo na medicina. No entanto, algumas decisões da IA são tomadas por algoritmos designados por «caixa negra», ou opacos, com dificuldade em explicar as soluções que alcançam. Esta dificuldade foi abordada nas entrevistas do meu trabalho de campo, no âmbito da dissertação de mestrado, com o título Novos Desafios da Administração Pública: Inteligência Artificial e Ética nos Sistemas Inteligentes com Autonomia, e foi então possível apurar que têm sido alcançados alguns progressos nesta área. Contudo, ainda não existe uma solução do tipo chave-na-mão.
No âmbito do princípio da explicabilidade, é reconhecido como imperativa a transparência dos processos, com comunicação das decisões que permita a sua contestação. O Grupo Independente de Peritos de Alto Nível sobre a Inteligência Artificial, designados pela Comissão Europeia, que produziu em 2019 o documento Orientações Éticas para uma IA de Confiança, também reconheceu dificuldades de explicação de algumas decisões provenientes dos designados algoritmos opacos ou de «caixa negra», referindo: «Nessas circunstâncias, podem ser necessárias outras medidas da explicabilidade (por exemplo, a rastreabilidade, a auditabilidade e a comunicação transparente sobre as capacidades do sistema).»
A explicabilidade é um dos tópicos mais debatidos quando se trata da aplicação de IA na área da saúde. Embora os sistemas orientados por IA tenham demonstrado superar os humanos em certas tarefas analíticas, a falta de explicabilidade continua a gerar críticas.
Os autores do documento Explainability for artificial intelligence in healthcare: a multidisciplinary perspective, publicado pelo jornal BMC Medical Informatics and Decision Making em novembro de 2020, identificaram do ponto de vista jurídico três campos principais no que concerne à explicabilidade: (1) Consentimento informado (2) Certificação e aprovação como dispositivos médicos e (3) Responsabilidade.
Referem os autores que para obter consentimento informado para procedimentos ou intervenções de diagnóstico a lei exige informações individuais e abrangentes sobre e compreensão desses processos. No caso do suporte à decisão baseado em IA, os processos e algoritmos subjacentes devem, portanto, ser explicados ao paciente. O consentimento informado implica que os dados pessoais de saúde só podem ser tratados após o consentimento do titular dos mesmos, com carácter obrigatório em todo o espaço da UE, por aplicação do Regulamento Geral de Proteção de Dados (RGPD).
No mesmo documento, foi referido quanto à certificação e à aprovação dos dispositivos médicos que nos Estados Unidos a introdução destes requisitos para IA explicável estava um pouco atrasada. Não existia regulação específica no que respeita à necessidade de explicabilidade dos dispositivos médicos que usam IA. No entanto, os autores concluíam pela necessidade da IA explicável, com regulamentação por parte dos órgãos legislativos, falando da necessidade de definição desses requisitos no futuro. Entretanto, em outubro deste ano a FDA – Food and Drug Administration publicou a lista Artificial Intelligence and Machine Learning (AI/ ML) – Enabled Medical Devices, dando a conhecer os dispositivos médicos aprovados nos Estados Unidos (disponível aqui).
No que respeita à questão da informação do paciente quanto à utilização da IA nas decisões de tratamento, por adesão do médico, à recomendação ou à ignorância a máquina, nos Estados Unidos não existia uma resposta clara sobre esta questão no que se refere à responsabilidade. Alguns autores defendem que provavelmente a explicabilidade pode constituir um pré-requisito no âmbito da responsabilidade civil. A FDA defendia a explicabilidade quanto aos dispositivos médicos, ou seja, a disponibilidade de informações para rastreabilidade, transparência e explicabilidade do desenvolvimento no tratamento médico.
Na UE, o Parlamento Europeu publicou o documento Artificial intelligence in healthcare – applications, risks, and ethical and societal impacts, em junho do corrente ano. A questão da explicabilidade é enquadrada no âmbito da transparência: «Em relação a design, desenvolvimento, avaliação e implementação de ferramentas de IA, transparência está intimamente ligada aos conceitos de rastreabilidade e explicabilidade, que correspondem a dois níveis distintos nos quais a transparência é exigida – 1) transparência dos processos de desenvolvimento e uso da IA (rastreabilidade); 2) transparência das próprias decisões da IA (explicabilidade ).»
Esta é uma das questões éticas que se colocam no campo da utilização da IA nos cuidados de saúde, mas que também é transversal a outras áreas da sociedade e em particular da Administração Pública, considerada como a grande impulsionadora destas tecnologias, bem como das decorrentes questões éticas que as mesmas colocam na sua implementação. Isto de modo a que possamos sentir confiança na IA, que já facilita o nosso quotidiano e que se prevê seja ainda mais difundida num futuro muito próximo.
.
»»»» António da Costa Alexandre, jurista, é mestre em Administração Pública/ Ética na Inteligência Artificial, pelo Instituto Superior de Ciências Sociais e Políticas (ISCSP) com coorientação do Instituto Superior Técnico (IST).