A Inteligência Artificial na medicina e a responsabilidade do médico

Por Gisele Machado Figueiredo Boselli

A atualização tecnológica, novo atributo do profissional contemporâneo, vem tornando ainda mais complexa a atuação do médico. Como afirma o professor Genival Veloso de França, não existe no momento, no mundo inteiro, outra atividade mais vulnerável que a Medicina, chegando a ser uma das mais difíceis de se exercer sob o ponto de vista legal¹.

Neste contexto, causou grande comoção e preocupação a carta aberta que o Future of Life Institute, organização sem fins lucrativos, publicou, no final de março deste ano, fazendo um alerta sobre os riscos que o desenvolvimento da Inteligência Artificial representa para a humanidade. A principal crítica do documento se baseia na possibilidade de pessoas “não eleitas”, que não possuem qualquer comprometimento legal ou ético, desenvolverem sistemas de Inteligência Artificial que podem impactar de forma sem precedentes as nossas relações sociais e as atuais formas de trabalho.

Hans Jonas, filósofo alemão falecido em 1993, já antevia consequências negativas na evolução da técnica sem uma consciência ética ao apresentar sua obra “O Princípio da Responsabilidade” que, em síntese, estabelece a necessidade de impor limites ao avanço do processo tecnológico. Suas ideias muito influenciaram os movimentos em defesa do meio ambiente, mas abrangem uma preocupação ainda mais ampla, relacionada ao desenvolvimento de todas as novas tecnologias – dentre as quais podemos incluir a Inteligência Artificial – e sua interferência direta e indireta na natureza ou na sociedade.

Na Medicina, a I. A. já vem sendo utilizada com sucesso há anos e passou a ser uma excelente ferramenta, por ser capaz de auxiliar em diagnósticos e na definição de terapêuticas mais acertadas para os pacientes. Também realiza com mais agilidade e eficiência diversos processos de gestão no complexo ecossistema da saúde. A expectativa é que, em pouco tempo, ela esteja presente em toda a jornada do paciente. Desta forma, passa a ser urgente e indispensável que os profissionais tenham uma compreensão precisa em relação à mesma, para que seu uso seja feito com consciência e responsabilidade.

Com a difusão global desta tecnologia e sua disponibilidade irrestrita, sem qualquer forma de regramento ou regulação, certamente surgirão no ambiente da saúde outros inúmeros produtos prometendo revolucionar a prática médica, nos mais diversos aspectos. Ainda assim, deve prevalecer para o médico a máxima hipocrática de “não causar dano” ao paciente de tal forma que a máquina não poderá se sobrepor ao relacionamento pessoal e humanizado existente entre as partes.

Ainda que a Medicina não seja uma ciência exata, ela deve se basear nas melhores e mais atuais evidências científicas, de forma a trazer, para um determinado momento no tempo, a resposta mais acertada para a queixa de um paciente, oferecendo uma terapêutica condizente. Os produtos dotados de I. A. não fogem a esta lógica e sua utilização sem critério ou capacitação técnica pode ser fator para responsabilização do médico, quando repercutir em dano ao paciente.

Nossos tribunais entendem que a responsabilização pelo dano, causado por erro, mesmo quando apoiado por ferramenta de última geração tecnológica, poderá recair sobre o médico que optou por utilizá-la, se caracterizada sua imperícia. Portanto, o médico, além do conhecimento técnico em sua especialidade ou área de atuação, deve ser capaz de escolher a ferramenta de I. A. que melhor possa auxiliá-lo na prestação de uma assistência mais propícia ao paciente, sempre à luz dos princípios éticos e deontológicos já consagrados.

Para reduzir os riscos de danos – e responsabilização civil -, passa a ser crucial que o usuário entenda que a Inteligência Artificial é projetada por algoritmos e modelos matemáticos para processar um número grande de informações e aprender com eles (machine learnig). Este aprendizado depende de um treinamento apropriado para correções dos erros. Gradativamente, este processo deverá promover maior precisão e eficiência à máquina, até que ela passe a fazer escolhas adequadas de forma autônoma ou ofereça alternativas para que uma decisão seja tomada.

Relevante compreender que, a depender da forma como foi realizado o treinamento da ferramenta de I. A. ou mesmo no contexto em que ela foi testada ou validada, poderá haver maior ou menor possibilidade de apresentar distorções nas suas respostas e causar imprecisões ou práticas discriminatórias. A mensuração do risco ou das vulnerabilidades da máquina dependerá da clareza das informações do fabricante em relação a como e em que condições o sistema foi projetado.

Infelizmente, no Brasil ainda não há lei que norteie ou limite o desenvolvimento da Inteligência Artificial². As poucas normas que tratam dos dispositivos de saúde no país são de âmbito do Poder Executivo (Ministério da Saúde e ANVISA), dentre elas a RDC 549/2021, que dispõe sobre a certificação dos equipamentos sob regime da Agência Sanitária. Porém, no processo de registro, nem sempre é exigida a total transparência em relação ao seu funcionamento, o que impossibilita avaliar o grau de confiança de seus algoritmos.

Com o grande atraso do Poder Legislativo em relação à regulação das novas tecnologias em saúde, impera a insegurança jurídica e compete ao Judiciário, caso a caso, proferir a decisão quanto às responsabilidades envolvidas em danos patrimoniais ou extrapatrimoniais delas decorrentes. Na ausência da lei específica, as decisões judiciais são embasadas pelas demais fontes do direito existentes, dentre elas, a lei consumerista, que é particularmente mais protetiva ao paciente (consumidor, no caso). Neste cenário, quando o médico se utiliza de recursos técnicos inovadores, mantém-se numa situação desprotegida juridicamente, assumindo diretamente os riscos pelo uso do equipamento.

É evidente que não se pode retroagir e deixar de investir em novas tecnologias, considerando que sua utilização na saúde é algo inevitável e promissor, na maior parte das vezes. Deve-se, porém, estar apto a analisar criteriosamente a procedência e transparência dos novos produtos a fim de utilizá-los com responsabilidade e segurança. A ética inerente ao médico, aliada a medidas de prevenção de danos devem nortear a melhor prática da Medicina e não podem se tornar valores obsoletos.

Referências:
¹FRANÇA, Genival Veloso de. Direito Médico. 17. ed. Rio de Janeiro: Forense, 2021. P. 261.
²Tramita no Congresso o PL 21/2020, que estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil.

*Gisele Machado Figueiredo Boselli é advogada, OAB/SP 177.176,  especialista em Direito Médico e da Saúde pela PUC-PR, pós-graduada em Direito da Economia e da Empresa pela FGV,SP. Membro efetivo da Comissão de Direito Médico e da Saúde da OAB de São Paulo.