Farmácia, Indústria, Notas da Nova, Notícias, Opinião, Recentes, Saúde

Inteligência Artificial em Medicina: O perigo da dicotomia 1273

Filipa Machado Vaz e Teresa Soares

Sem que nos apercebêssemos, a Inteligência Artificial (IA) invadiu todos os setores da sociedade e assumiu-se como um facilitador do qual  já não pretendemos abdicar. Em saúde, promessas de diagnóstico imediato infalível, tratamentos decididos em minutos e promessas de conhecimento incalculável atraíram até os mais céticos.

Não é difícil de perceber: a área da Ciência de Computadores (4), na sua vertente de Machine Learning (ML), tem sofrido avanços surpreendentes, desenvolvendo uma IA que une disciplinas, desde a análise de dados à linguística e neurociências (5). Os modelos de Processamento de Linguagem Natural (NLP – Natural Language Processing) ainda que com algumas limitações, estão a transformar o setor saúde, permitindo melhorar a eficiência dos serviços médicos, a gestão hospitalar e a experiência dos pacientes. Tais inovações são particularmente relevantes para este setor, dado o seu contributo também para a otimização de gestão de processos, produtividade e resultados médicos (5,6).

 

Aplicações da IA em medicina

A aplicação da IA na medicina é vasta, dos quais sã exemplos o processamento de linguagem natural, o suporte ao desenvolvimento de novos fármacos e terapias, o reconhecimento de voz e os sistemas de deteção de doenças (7).

No campo do diagnóstico, a Imagiologia destaca-se como uma área onde a IA tem demonstrado particular utilidade, nomeadamente a nível da análise de exames de imagem para o diagnóstico de neoplasias (8,9), pneumonias (10) e de patologias autoimunes, como a esclerose múltipla (11).

A análise de exames laboratoriais é, igualmente, uma área onde a IA começa a desempenhar um papel crucial. Com efeito, estudos demonstram que, em casos particulares como o diagnóstico de carcinomas da pele, os sistemas de IA têm tido resultados altamente diferenciados (12).

Ao integrar dados laboratoriais, histórico médico e fatores de risco individuais, estes sistemas proporcionam diagnósticos mais rápidos e (por vezes) mais precisos.

Adicionalmente, a integração de sistemas de suporte à decisão clínica também desempenha um papel importante, auxiliando na recomendação de decisões. Estes sistemas alertam os médicos para dados relevantes que possam ter sido negligenciados, como diagnósticos ou problemas de saúde, e notificam sobre eventuais erros, como a prescrição de medicamentos contraindicados.

Assim, o uso de IA tem sido cada vez mais utilizado na saúde, especialmente para dar informação de suporte ao diagnóstico diferencial e a permitir a obtenção de mais informação para um plano terapêutico mais adequado ao paciente (6).

 

Vantagens e Impactos da IA na Medicina

Conforme mencionado, os sistemas de IA em saúde têm evidenciado inúmeras vantagens associadas a um elevado desempenho (4).

Alguns modelos permitem alcançar resultados surpreendentes e são, por vezes, capazes de identificar padrões e anomalias impercetíveis à observação humana, permitindo, desta forma, obter diagnósticos personalizados e reduzir as taxas de erro de diagnóstico. A capacidade destes sistemas em analisar grandes volumes de dados clínicos permite-lhes oferecer diagnósticos mais precisos, tornando-os valiosos aliados para os profissionais de saúde. Muitos destes sistemas possuem alertas integrados, o que ajuda a reduzir erros humanos associados ao diagnóstico e à administração terapêutica. (6)

Além destes modelos avançados conseguirem garantir melhores resultados para doenças comuns, há, ainda, a promessa de serem revolucionários no campo das doenças raras. (3) Destaca-se a Medicina de Precisão, na qual a promessa de tratamentos específicos a cada doente é uma das mais alimentadas pela IA moderna. Dados médicos de várias fontes são agregados e usados pela IA para sugerir diagnósticos rápidos e estratégias terapêuticas personalizadas. (13) Esta prevenção é especialmente pertinente, sendo a deteção do potencial diagnóstico feita por análises preditivas através da identificação de possíveis fatores de risco.

Esta utilização de IA vai para além dos diagnósticos; estende-se até terapêutica. Ao permitir o ajuste da estratégia ao diagnóstico e ao indivíduo, a análise intensiva de dados clínicos permite aumentar a eficiência e os resultados dos tratamentos, bem como minimizar os efeitos adversos associados a tratamentos específicos (13, 14) – tal aspeto reveste-se de particular relevância em populações minoritárias menos estudadas, tais como etnias não caucasianas, mulheres, crianças e idosos.

 

Desafios da IA na Medicina

Apesar de todos estes avanços, a utilização da IA na medicina enfrenta desafios significativos.

A privacidade e a segurança dos dados clínicos são preocupações centrais, que exigem o cumprimento de regulamentações éticas. Acresce ainda a (in)capacidade dos utilizadores em utilizarem estas ferramentas de forma a extraírem a informação mais acertada a cada decisão clinica.

Um dos desafios que tem surgido prende-se com risco de viés dos modelos, que pode levar a incorretos diagnósticos e tratamentos (16,18), colocando, assim, em causa um dos pilares desejados com a IA na Medicina: a Medicina de Precisão (19, 20). De facto, as minorias não estão corretamente representadas nos dados usados no treino dos algoritmos, tornando-se alvo de diagnósticos imprecisos e acarretando um maior risco de morbilidades e mortalidades. (19, 20, 21)

Paralelamente, a falta de interpretabilidade e transparência dos modelos mais avançados é outra barreira crítica. Muitos dos melhores modelos são considerados black-boxes, uma vez que o processo por detrás das suas predições é demasiado complexo para a interpretação e compreensão humanas. (4, 18)

Esta falta de transparência no processo de decisão é uma preocupação ética crítica, já que os sistemas utilizados em âmbito clínico necessitam de providenciar uma explicação clara das suas sugestões, no sentido de permitir aos profissionais de saúde entender a recomendação, confiar (ou não) na mesma, e atuar sobre ela. A transparência é um dos princípios fundamentais da IA Responsável, estando diretamente relacionada com a noção de responsabilidade do utilizador – se se atuar na sugestão do modelo e ocorrer dano, quem é o culpado, o humano ou a IA? A justiça, a inclusão e a segurança são outros destes princípios. (22).

 

Conclusão

Não nos podemos subjugar à dicotomia máxima informação vs. expertise clínica. O objetivo da IA em saúde é de amplificar e potenciar conhecimento, não de análise crítica de resultados, julgamentos sumários no diagnóstico e imperativos modelos de tratamento à luz apenas de uma quantidade infinita de informação integrada.

A decisão pode ser mais informada, mas não é obrigatoriamente a mais acertada.

É evidente a transformação da prática médica pela IA, ao permitir diagnósticos mais rápidos e precisos, ao melhorar a eficiência dos sistemas de saúde e ao proporcionar melhores resultados para os doentes.

No entanto, os diversos desafios éticos que da sua aplicação emergem, como a privacidade dos dados, a falta de representatividade e a transparência dos modelos, ainda limitam uma adoção ampla destas tecnologias.

Torna-se, assim, crucial a implementação de soluções, as quais poderão passar pelo aumento da diversidade dos dados e a aplicação de técnicas de explicabilidade e interpretabilidade por IA Explicável (XAI). Tais estratégias permitem aumentar a confiança nas IA atualmente disponíveis, promovendo uma adoção correta e ampla destas tecnologias na saúde, e transformando a medicina, tanto para os profissionais, como para os doentes.

Sempre com o pressuposto que mais informação clínica não é mais expertise. Essa sim, cabe aos profissionais liderar.

 

Filipa Machado Vaz

Manager in Business Consulting in Healthcare

Professora convidada na Nova School of Business and Economics

Membro do Health Economics & Management Knowledge Center da Nova SBE

 

Teresa Soares

Estudante do Curso de Especialização em Administração Hospitalar da ENSP NOVA

Presidente da Associação de Estudantes da ENSP NOVA (AEENSP-NOVA)

1º Ciclo de Estudos do Mestrado Integrado em Medicina pela NMS|FCM

 

Bibliografia

  1. Kocak B, Baessler B, Cuocolo R, Mercaldo N, Pinto dos Santos D. Trends and statistics of artificial intelligence and radiomics research in Radiology, Nuclear Medicine, and Medical Imaging: bibliometric analysis. Eur Radiol [Internet]. 2023 Nov 1;33(11):7542–55. Disponível em: https://link.springer.com/article/10.1007/s00330-023-09772-0
  2. Confalonieri R, Coba L, Wagner B, Besold TR. A historical perspective of explainable Artificial Intelligence. WIREs Data Min Knowl Discov. 2021 Jan 19;11(1). Disponível em: https://wires.onlinelibrary.wiley.com/doi/10.1002/widm.1391
  3. Alonso SG, de la Torre Díez I, Zapiraín BG. Predictive, Personalized, Preventive and Participatory (4P) Medicine Applied to Telemedicine and eHealth in the Literature. J Med Syst [Internet]. 2019 May 1;43(5). Disponível em: https://pubmed.ncbi.nlm.nih.gov/30976942/
  4. Kriegeskorte N, Golan T. Neural network models and deep learning. Curr Biol [Internet]. 2019 Apr 1;29(7):R231–6. Disponível em: https://pubmed.ncbi.nlm.nih.gov/30939301/
  5. What Is Artificial Intelligence (AI)? | Google Cloud [Internet]. Disponível em: https://cloud.google.com/learn/what-is-artificial-intelligence
  6. Hannah KJ, Hussey P, Kennedy MA, Ball MJ. Introduction to nursing informatics, fourth edition. Springer-Verlag London Ltd; 2015. 452 p. doi: 10.1007/978-1-4471-2999-8. Disponível em: https://download.e-bookshelf.de/download/0003/9216/09/L-G-0003921609-0013258673.pdf
  7. Shamshirband S, Fathi M, Dehzangi A, Chronopoulos AT, Alinejad-Rokny H. A review on deep learning approaches in healthcare systems: Taxonomies, challenges, and open issues. J Biomed Inform. 2021 Jan 1;113:103627. Disponível em: https://www.sciencedirect.com/science/article/pii/S1532046420302550
  8. Tang X. The role of artificial intelligence in medical imaging research. BJR Open. 2020 Nov;2(1):20190031. Disponível em: https://pmc.ncbi.nlm.nih.gov/articles/PMC7594889/
  9. Thrall JH, Li X, Li Q, Cruz C, Do S, Dreyer K, et al. Artificial Intelligence and Machine Learning in Radiology: Opportunities, Challenges, Pitfalls, and Criteria for Success. J Am Coll Radiol. 2018 Mar;15(3):504–8. Disponível em: https://www.sciencedirect.com/science/article/abs/pii/S154614401731671X
  10. Stokes K, Castaldo R, Federici C, Pagliara S, Maccaro A, Cappuccio F, et al. The use of artificial intelligence systems in diagnosis of pneumonia via signs and symptoms: A systematic review. Biomed Signal Process Control. 2022 Feb;72:103325. Disponível em: https://www.sciencedirect.com/science/article/pii/S1746809421009228
  11. Nabizadeh F, Masrouri S, Ramezannezhad E, Ghaderi A, Sharafi AM, Soraneh S, et al. Artificial intelligence in the diagnosis of multiple sclerosis: A systematic review. Mult Scler Relat Disord [Internet]. 2022 Mar 1;59. Disponível em: https://pubmed.ncbi.nlm.nih.gov/35180619/
  12. Combalia M, Codella N, Rotemberg V, Carrera C, Dusza S, Gutman D, et al. Validation of artificial intelligence prediction models for skin cancer diagnosis using dermoscopy images: the 2019 International Skin Imaging Collaboration Grand Challenge. Lancet Digit Health [Internet]. 2022 May 1;4(5):e330. Disponível em: https://pubmed.ncbi.nlm.nih.gov/35461690/
  13. Johnson KB, Wei W, Weeraratne D, Frisse ME, Misulis K, Rhee K, et al. Precision Medicine, AI, and the Future of Personalized Health Care. Clin Transl Sci. 2021 Jan 12;14(1):86–93. Disponível em: https://pubmed.ncbi.nlm.nih.gov/32961010/
  14. Bonkhoff AK, Grefkes C. Precision medicine in stroke: towards personalized outcome predictions using artificial intelligence. 2022 Apr 18;145(2):457–75. Disponível em: https://pubmed.ncbi.nlm.nih.gov/34918041/
  15. Health Insurance Portability and Accountability Act of 1996 (HIPAA) | CDC [Internet]. Disponível em: https://www.cdc.gov/phlp/php/resources/health-insurance-portability-and-accountability-act-of-1996-hipaa.html?CDC_AAref_Val=https://www.cdc.gov/phlp/publications/topic/hipaa.html
  16. Ali O, Abdelbaki W, Shrestha A, Elbasi E, Alryalat MAA, Dwivedi YK. A systematic literature review of artificial intelligence in the healthcare sector: Benefits, challenges, methodologies, and functionalities. J Innov Knowl. 2023 Jan;8(1):100333. Disponível em: https://www.researchgate.net/publication/367242223_A_systematic_literature_review_of_artificial_intelligence_in_the_healthcare_sector_Benefits_challenges_methodologies_and_functionalities
  17. EU AI Act: first regulation on artificial intelligence | News | European Parliament [Internet]. Disponível em: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
  18. Prakash S, Balaji JN, Joshi A, Surapaneni KM. Ethical Conundrums in the Application of Artificial Intelligence (AI) in Healthcare—A Scoping Review of Reviews. J Pers Med. 2022 Nov 16;12(11):1914. Disponível em: https://pubmed.ncbi.nlm.nih.gov/36422090/
  19. Norori N, Hu Q, Aellen FM, Faraci FD, Tzovara A. Addressing bias in big data and AI for health care: A call for open science. 2021 Oct;2(10):100347. Disponível em: https://pubmed.ncbi.nlm.nih.gov/34693373/
  20. Zou J, Schiebinger L. AI can be sexist and racist — it’s time to make it fair. Nature [Internet]. 2018 Jul 18;559(7714):324–6. Disponível em: https://www.nature.com/articles/d41586-018-05707-8
  21. Rajpurkar P, Chen E, Banerjee O, Topol EJ. AI in health and medicine. Nat Med [Internet]. 2022 Jan 1;28(1):31–8. Disponível em: https://pubmed.ncbi.nlm.nih.gov/35058619/
  22. Elendu C, Amaechi DC, Elendu TC, Jingwa KA, Okoye OK, John Okah M, et al. Ethical implications of AI and robotics in healthcare: A review. Medicine [Internet]. 2023 Dec 15;102(50):E36671. Disponível em: https://pubmed.ncbi.nlm.nih.gov/38115340/