A regulação está acompanhando a evolução das soluções de IA?

Por Leonardo Vedolin

O nosso futuro é uma corrida entre o poder crescente da tecnologia e a sabedoria com a qual a utilizamos. A frase do físico inglês e ganhador do Prêmio Nobel Stephen Hawking, aplicável em diversos contextos ligados ao uso de inovações, é um lembrete pertinente das formidáveis possibilidades e dos desafios que vamos encontrar na utilização da Inteligência Artificial (IA) na saúde. Em pouco tempo, a possibilidade do uso da IA no diagnóstico de doenças, otimização de recursos e geração de valor para a indústria em saúde, tem provocado investidores, executivos, profissionais de saúde e a sociedade de um modo geral. De um lado, o entusiasmo e a pressão para a incorporação da tecnologia têm crescido rapidamente. Do outro, organizações se deparam com desafios de priorização, definição de casos de uso que gerem valor e execução das frentes. No centro do cuidado, ainda temos usuários equilibrando expectativas entre a incorporação rápida e o ceticismo.

Uma das últimas barreiras potenciais para o uso clínico esbarrava na frieza e na impessoalidade das ferramentas: em consultas, por exemplo, a conversa detalhada e o histórico aprofundado do paciente ainda dependiam da expertise do médico. No entanto, novas ferramentas apresentadas recentemente por big techs começaram a simular a conversa médico-paciente, apresentando características como empatia e humanização, antes qualidades intrínsecas a profissionais de carne e osso. A AMIE, sigla em inglês para Explorador Articulado de Inteligência Médica, do Google, impressiona pela acurácia na precisão diagnóstica e abrangência do contexto e histórico do paciente, além da grande habilidade de comunicação e empatia. O desempenho foi testado por meio de uma conversa com atores treinados, simulando pacientes. Os dados coletados foram comparados com a mesma entrevista realizada por 20 médicos de atenção primária (PCPs) credenciados. O estudo cruzado randomizado e cego, que incluiu 149 cenários de casos de provedores no Canadá, Reino Unido e Índia em uma ampla gama de especialidades e doenças, mostrou que a AMIE pode ter maior precisão diagnóstica e desempenho superior em 28 dos 32 eixos estudados e se saiu bem em frentes como empatia, confiança, abertura e honestidade

A transposição dessas barreiras pelos algoritmos, que adquirem cada vez mais atributos humanos, fomenta também o debate urgente sobre a ética no uso da IA na saúde. Entretanto, apesar da humanização das ferramentas já ser tangível, a definição de diretrizes importantes, como equidade, justiça, privacidade e robustez, que garantem a real segurança e fiabilidade das tecnologias, ainda é incipiente. Essa é uma preocupação já endereçada pela Organização Mundial da Saúde (OMS), que recentemente lançou um Guia de Ética e Governança da Inteligência Artificial na Saúde. O material selecionou seis princípios éticos: proteção da autonomia humana, no qual os profissionais detêm a palavra final em decisões no sistema de saúde, e não as máquinas; promoção da proteção e bem-estar das pessoas além do interesse público; garantia da transparência, explicabilidade e inteligibilidade da tecnologia, afinal, médicos e profissionais precisam entender exatamente o que estão utilizando e em quais condições a tecnologia foi desenvolvida; promoção da responsabilidade e prestação de contas da IA; garantia da inclusão e da equidade na aplicação e desenvolvimento da tecnologia; e, por fim, a promoção de uma IA responsiva e sustentável.

A OMS também propõe uma abordagem para garantir que todo o potencial da IA seja empregado pelo bem comum, maximizando os resultados dos algoritmos e mitigando riscos:

• Empresas responsáveis pela tecnologia implantada devem monitorar e garantir o pleno funcionamento das ferramentas, além de atender todas as normas de segurança.
• Desenvolvedores também são responsáveis por publicar os dados e informações quanto ao desenvolvimento dos produtos e como eles devem ser manuseados, garantindo a transparência em todas as etapas.
• Sistemas de saúde que adotam a IA devem garantir o treinamento e capacitação dos profissionais responsáveis pelas ferramentas.
• As tecnologias utilizadas devem respeitar e serem treinadas com uma base de dados com diversas nacionalidades, gêneros e raças, com o objetivo de promover a diversidade e evitar algoritmos “viciados”.
• As ferramentas de IA devem ser continuamente avaliadas com base em sua performance, para que caso haja algum tipo de problema, seja rapidamente identificado e devidamente corrigido.

Como entusiasta tecnológico, que testemunha diariamente os benefícios que a inovação traz à prática médica e aos pacientes, acredito que os algoritmos usados de forma sensata têm potencial para geração exponencial de valor, seja pela empoderamento dos profissionais de saúde, aumento do acesso, melhor experiência dos usuários ou redução drástica das ineficiências de um setor em apuros. Mas, como nos alerta Hawking, a sabedoria na utilização da IA passa por princípios éticos inegociáveis, que devem nortear a conduta tanto de cientistas e engenheiros de dados, quanto dos profissionais da saúde. Essa é uma revolução que está apenas começando e precisa ser apropriadamente regulada para chegarmos ao futuro que tanto esperamos. Assumindo que a regulação não está acompanhando evolução das soluções de inteligência artificial fica a pergunta: estamos preparados para o desafio?

*Leonardo Vedolin é Diretor-geral médico e de cuidados integrados da Dasa.