Softwares, sensores, inteligência artificial e interfaces humano-máquina formam um ecossistema global em rápida evolução. Após a pandemia de Covid-19, as pessoas estão mais envolvidas com essas interfaces. Os rápidos avanços tecnológicos e os sistemas conectados estão moldando uma nova realidade em que o físico e o digital se misturam cada vez mais.

A demanda por IA generativa cresceu substancialmente desde o lançamento da última versão do ChatGPT, da OpenAI. A tecnologia proporciona a criação de conteúdo original, como textos, imagens, músicas e vídeos, por meio de um computador e em resposta a solicitações em linguagem comum, e não de programação.

Diferentemente da IA convencional, que é programada para executar tarefas específicas, a generativa pode criar algo novo e inesperado atendendo a praticamente todos os tipos de pedidos. Mas como isso pode impactar o mercado da saúde?

Para Kenneth Corrêa, especialista em negócios digitais e metaverso, a chamada IA generativa está passando por uma fase de revolução com a criação da ferramenta ChatGPT, a mais nova inteligência artificial capaz de atuar com rapidez e agilidade na criação de novos conteúdos, inclusive na área da saúde.

“O que nos deixa mais fascinados pelas IAs é a velocidade com que as coisas acontecem e a assertividade com que estão sendo obtidos os diagnósticos médicos. Inclusive, recentemente, foi desenvolvido um teste com pacientes atendidos por médicos humanos e pela ferramenta ChatGPT. Embora não soubessem que estavam conversando com uma IA, 80% das pessoas preferiram o atendimento feito pelo robô”, conta o especialista, referindo-se ao estudo publicado em abril de 2023 pelo jornal JAMA, da American Medical Association.

_____________________________________

ChatGPT e a saúde pública

O estudo publicado no JAMA, liderado por John W. Ayers, Ph.D., do Qualcomm Institute da Universidade da Califórnia em San Diego, fornece uma visão inicial de como os assistentes de inteligência artificial podem ajudar a responder questões de saúde pública. Rubens de Fraga Júnior, professor de Gerontologia da Faculdade Evangélica Mackenzie do Paraná, analisa a pesquisa no portal da revista Medicina S/A: www.medicinasa.com.br/chatgpt-saude-publica

_____________________________________

Recentemente, o Google anunciou a evolução de sua plataforma de inteligência artificial e seu próprio modelo de linguagem, o PaLM (para concorrer com o ChatGPT da OpenAI e o LLaMA da Meta). A empresa global ressaltou que, dentre as várias áreas que estão usando, existe uma específica para o atendimento médico: o Med-PaLM-2, que passou com excelência no exame de proficiência norte-americano.  A ferramenta foi testada por médicos especialistas e é capaz de ler exames, resumir conceitos e elaborar relatórios médicos.

Na área da saúde, Kenneth também ressalta a utilização das técnicas de machine learning e redes neurais, as quais possibilitam a leitura de exames de imagem, como raio-x e ressonância magnética, e a leitura de exames de padrões, como ecocardiograma.

ChatGPT

2023 tem sido o ano do ChatGPT. Alguns estudos indicam que, a partir dessa IA, a internet que nós conhecemos mudará completamente. Mas como isso vai modificar a saúde? Segundo o especialista Andrey Abreu, diretor corporativo de tecnologia da MV, as inteligências artificiais têm se mostrado muito úteis para auxiliar em tarefas mais burocráticas e no apoio à tomada de decisão, podendo executar tarefas rotineiras, capturar uma vasta quantidade de informações qualificadas e gerar insights.

“Na saúde, a inteligência artificial (IA) pode ter variados usos, na criação de hipóteses diagnósticas, por exemplo, auxiliando os médicos na tomada de decisões complexas, ou na medicina de precisão, fazendo testes de compatibilidade de um medicamento ao DNA do paciente para identificar possíveis efeitos adversos”, comenta.

Esse cenário se configura com a análise de imagens para detecção de doenças, no campo da medicina diagnóstica, “e também já é possível contar com IAs que identificam células cancerígenas em uma foto de celular ou até algoritmos que analisam a progressão ou regressão de um câncer pulmonar”, revela Abreu. “As tecnologias para realizar algo mais avançado já existem, o que precisamos é torná-las viáveis, tanto do ponto de vista econômico quanto do ponto de vista de legislação e cultura”, afirma.

Estamos nos aproximando da medicina de precisão, formatando tratamentos e diagnósticos mais personalizados, e aumentando significantemente as chances de cura de doenças complexas, sem a necessidade de submeter o paciente a procedimentos invasivos para a longevidade. “As tecnologias estão evoluindo para ser apoio, agilizar os diagnósticos, reduzir erros, mas, por muito que estejam próximas de imitar o comportamento humano, sempre precisaremos de seres humanos para dar o último toque, ter uma intuição e tomar a decisão final”, diz o especialista.

_____________________________________

Quatro pontos relevantes do ChatGPT na Saúde

Dados processados com inteligência

A vantagem do ChatGPT é a capacidade de cruzar e analisar dados dos pacientes. Na medida em que os exames estão sendo feitos e os sintomas, avaliados, a IA cria hipóteses para facilitar o diagnóstico, que sempre será validado por um profissional.

Clusterização

O ChatGPT também pode ajudar na organização das alas hospitalares, de acordo com idade, queixa médica ou qualquer outro parâmetro cadastrado. É como se ele pudesse cadastrar os pacientes por categorias, diminuindo burocracias.

Diminuição de situação adversa

As projeções apontam que situações adversas podem ser diminuídas porque o ChatGPT consegue armazenar dados do paciente e dar uma assistência mais assertiva ao médico, relembrando-o do histórico médico, alergias, medicações e procedimentos anteriores, entre outros itens.

Assistência direta ao paciente

O ChatGPT também pode ajudar o paciente a tirar dúvidas sobre seu estado de saúde, sintomas e outras coisas, além de direcioná-lo para o agendamento de consultas.

_____________________________________

Mas é seguro?

Com tantos avanços na IA na área da saúde, a pergunta fundamental é: os atendimentos feitos pelos robôs são seguros? A Organização Mundial da Saúde (OMS) emitiu recentemente um alerta de que é preciso muita cautela ao usar a nova tecnologia em busca de diagnósticos e tratamentos.

Kenneth se posiciona favoravelmente a esse alerta, uma vez que, em sua opinião, “algo que a gente não está pronto para fazer como humanidade, como sociedade organizada do ano 2023, é o robô fazer o diagnóstico, e tampouco ser responsabilizado pelo diagnóstico”.

Segundo o especialista, é possível a IA confundir uma informação e seguir o atendimento de maneira errônea. “Por isso, a forma como eu recomendo que centros clínicos, hospitais e os próprios profissionais da saúde utilizem o que já tem disponível de IA é sempre como um apoio na produtividade, na realização do pré-diagnóstico, de forma que o robô ajude o profissional de saúde, o qual deve ser responsável e sempre checar todas as informações passadas pela máquina antes de realizar um atendimento”. 

Desafios atuais

A questão da responsabilização é um dos desafios da inteligência artificial. Quem será responsabilizado caso o atendimento apresente uma falha de sistema? Outra dificuldade é a aceitação das pessoas em serem atendidas por um robô. E um terceiro desafio a ser pontuado é o custo. “Como a IA funciona como uma enciclopédia, só é possível gerar conhecimento de atendimento médico, de diagnóstico, em cima de um histórico, em cima da base de dados. Se você usa uma IA proprietária, que foi desenvolvida, por exemplo, por uma universidade de Medicina, ela vai te liberar o uso e vai cobrar por isso. Ou, então, você terá que lidar com os investimentos de criar a sua própria base de dados”, explica Kenneth Corrêa.

Apesar das incertezas, a ferramenta se apresenta como uma tecnologia promissora nas mais diferentes áreas, inclusive nos serviços de gestão de saúde. Essa é a percepção de executivos da área, dentre os quais está Fernando Paragó, diretor médico da Pró-Saúde, uma das maiores entidades de gestão hospitalar do Brasil.

“É fundamental que as instituições que se propõem a usar essas tecnologias estabeleçam um sistema de regras”, sugere Paragó. Nesse contexto, ele reforça a necessidade de se desenvolver práticas de controle e processos de utilização. “É preciso que os dados [das pessoas] sejam protegidos de forma adequada para evitar violações de privacidade e garantir a conformidade com as leis e regulamentos aplicáveis”, alerta o executivo.

Paragó afirma que, à medida que a IA se torna cada vez mais relevante na gestão hospitalar, é essencial abordar as incertezas com responsabilidade, garantindo benefícios maximizados. “Fica sob a nossa responsabilidade a tarefa de utilizá-la de forma racional, não para fortalecer práticas e modelos equivocadas do passado, mas para promover um redesenho do sistema na direção de atender às necessidades dos seus usuários”, finaliza Paragó.

Regulamentação

“Há uma série de questões em torno da IA generativa. A democratização do acesso a essa tecnologia tornou mais urgente a discussão”, diz Telma Luchetta, sócia de data e analytics da EY América do Sul. “A abordagem baseada no risco do sistema de IA é o caminho adotado até aqui pelas futuras regulações”, completa. Essa escolha foi feita pela versão inicial do projeto que visa regular o uso de IA na União Europeia (UE). O Parlamento Europeu, braço legislativo da UE, aprovou o texto, chamado de EU AI Act, no dia 14 de junho. O projeto separa diferentes modelos de inteligência artificial de acordo com a “abordagem baseada em risco”.

Cada sistema deve ser classificado conforme quatro categorias previstas: baixo risco à sociedade, como games; risco limitado, como chatbots; alto risco, como veículos autônomos; e risco inaceitável, como sistemas biométricos de vigilância. Cada uma dessas classificações traz obrigações de privacidade e transparência para as companhias, que devem seguir as regras da categoria na qual seus serviços e produtos se enquadram. O texto ainda precisa passar por votação final no Parlamento Europeu. (Leia mais sobre a proposta de regulamentação aqui).

Boas práticas de IA

Enquanto a regulamentação não vem, as próprias empresas precisam estar atentas aos seus sistemas de inteligência artificial, assegurando que sejam seguros e estejam em conformidade com a legislação. Caso contrário, se as boas práticas de IA não forem consideradas, há risco de comprometimento da reputação.

“Se eu tenho uma farmacêutica, não posso fabricar remédio e colocá-lo no mercado sem fazer todos os testes necessários e exigidos. Raciocínio semelhante se aplica à IA. Preciso garantir que minhas áreas de negócio façam todas as verificações possíveis, conforme as melhores práticas observadas nesses sistemas, antes de colocar robôs de IA no mercado. Há necessidade de definir parâmetros claros para o sistema de inteligência artificial, com o objetivo de proteger o negócio”, explica Telma. A orientação é analisar os comandos ou tipos de resposta que podem vir do sistema. “Também é preciso olhar para a privacidade, entendendo os dados que serão usados ou tratados, se são sensíveis ou não.”

Questões morais e de inclusão e diversidade, como orientação sexual, também devem ser observadas, especialmente em relação a como estão sendo contempladas pela base de dados da IA, a fim de evitar vieses inconscientes. Por fim, ainda segundo Telma, o olhar deve ser para a cibersegurança, com um sistema suficientemente robusto que garanta a segurança dos dados coletados, armazenados e transacionados.

Supervisão humana

Na trilha das boas práticas, a executiva destaca que o compliance nos sistemas de inteligência artificial requer supervisão humana. “A supervisão humana é um dos aspectos relevantes de compliance no contexto da IA. É por meio desse trabalho que será analisado o banco de dados utilizado pelo sistema, a fim de evitar os chamados vieses inconscientes.”

“Algumas perguntas devem ser feitas nessa verificação, como se o banco de dados está sendo realmente inclusivo, respeitando e contemplando as minorias no processo decisório; se está atualizado e condizente com a governança da organização; e se as decisões tomadas pelo sistema de IA estão em conformidade com a legislação em vigor, como a de proteção de dados”, explica.

Os vieses inconscientes são visões preconcebidas sobre determinados assuntos que costumam resultar em discriminação contra as mulheres e outros grupos da sociedade. Se os bancos de dados estão enviesados por gênero, por exemplo, a IA tomará, por consequência, uma decisão enviesada. Um banco de dados antigo de 30 anos atrás pode igualmente estar enviesado, já que representa uma realidade não mais observada ou aceita pela sociedade, que tem criado nos últimos anos uma série de iniciativas para combater preconceitos por meio da promoção da inclusão e da diversidade.

Parâmetros claros

“É preciso definir parâmetros claros para a IA. Os comandos devem ser constantemente revisados para assegurar que os sistemas estejam no caminho correto, protegendo dessa forma a reputação do negócio e evitando prejuízos financeiros”, ressalta Telma. Entre as boas práticas, estão a validação dos modelos de IA em uso interno antes de levá-los aos clientes; curadoria em relação aos bancos de dados utilizados pelos sistemas; e manual de padrões éticos para garantir a transparência e a explicabilidade dos sistemas adotados.

Em relação a esse último ponto, o sistema de IA deve permitir que seus resultados possam ser compreendidos pelos humanos, incluindo os afetados por suas decisões. Já houve situações nas quais os próprios formuladores do sistema não souberam explicar por que a IA chegou a uma decisão específica.

Futuro será orientado por dados

James Bradshaw, da EY, lembra que as tecnologias de inteligência artificial, dados e análises estão evoluindo, e muitas organizações estão lutando para acompanhar o ritmo.

“Na maioria das vezes, as operações legadas, a capacidade de executar mudanças e a falta de experiência se combinam para dificultar a melhoria contínua. No entanto, os resultados potenciais da incorporação de dados e análises para a tomada de decisão valem o esforço.” Com isso, é possível otimizar todos os processos, pois, como ressalta Bradshaw, “oportunidades de inovação também são possibilidades reais”.

Para Kenneth, o futuro da aplicação da inteligência artificial na área da saúde é bastante promissor. “Com a revolução do ChatGPT de outubro de 2022 para cá, as pessoas estão aceitando muito mais que existe IA, que ela já é usada no dia a dia em algumas áreas específicas. Essas mudanças ajudam a diminuir bloqueios e barreiras. As pessoas vão percebendo que o mundo está cada vez mais complexo, e que é possível usar a IA ao nosso favor. Sem contar que o ChatGPT é acessível, e qualquer pessoa pode desenvolver uma solução usando a ferramenta.”

Além da aceitação, outro fator importante para o futuro da IA na saúde são os investimentos feitos pelos grandes players de tecnologia. “Multinacionais como Google, Meta, Amazon e IBM estão apostando alto em IA. Em geral, para onde vai o dinheiro, há um desenvolvimento acelerado, resultando em boas ideias e boas soluções”, conclui.

___

Com informações da Agência EY e Universidade de São Paulo (USP)