SAS tem novo laboratório de saúde com inteligência artificial ética

O mundo tem visto avanços inéditos em inteligência artificial (IA) desde o lançamento das iniciativas de inovação responsável da empresa de IA e analytics SAS, há um ano. Diante de uma rápida revolução, o SAS ampliou os esforços para levar IA de confiança aos clientes, incluindo um primeiro laboratório de cuidados de saúde com IA ética, na Holanda. O SAS também expandiu sua Prática de Ética de Dados, integrando seu bem-sucedido programa Data for Good, permitindo que a empresa considere não apenas os riscos da IA, mas também seu potencial para um mundo melhor.

Como parte do compromisso com a inovação responsável, o SAS faz parcerias com organizações em todo o mundo para explorar maneiras de implementar a IA ética nas indústrias. Um exemplo recente é uma colaboração do SAS com duas organizações holandesas: Erasmus University Medical Center (Erasmus MC), um dos principais hospitais acadêmicos da Europa; e a Delft University of Technology (TU Delft), sede do TU Delft Digital Ethics Centre. As três organizações lançaram juntas o primeiro laboratório de IA ética e responsável na área de saúde (REAHL).

O REAHL visa abordar as questões éticas e os desafios relacionados ao desenvolvimento e à implementação de tecnologias de IA na área da saúde. Diante dos constantes avanços na IA, é fundamental garantir que essas tecnologias sejam elaboradas e utilizadas de forma segura, transparente e ética. O REAHL reúne equipes multidisciplinares de especialistas em IA, medicina e ética com legisladores para colaborar no desenvolvimento e na implementação de tecnologias de IA que priorizem a segurança, a privacidade e a autonomia do paciente.

Isso inclui garantir que os sistemas de IA sejam imparciais, transparentes e responsáveis, e usados respeitando os direitos e valores dos pacientes. O REAHL pretende criar uma estrutura de IA ética para a área de saúde que servirá de modelo para centros médicos por todo o mundo.

O REAHL acaba de ser reconhecido como um laboratório oficial do Centro Nacional de Inovação em Inteligência Artificial (ICAI) da Holanda. Um laboratório do ICAI é uma iniciativa de pesquisa colaborativa entre parceiros industriais, governamentais ou sem fins lucrativos e institutos de conhecimento. Os laboratórios do ICAI têm de atender aos requisitos de dados, experiência e capacidade, com a expectativa de obter resultados práticos no mundo real.

“Juntos, não desenvolvemos apenas tecnologias de IA, mas moldamos o futuro da assistência médica com um compromisso inabalável de defender os princípios éticos e priorizar o bem-estar dos pacientes em todas as inovações”, afirma o professor-assistente Michel van Genderen, médico PhD, intensivista assistente e cofundador do Datahub no Erasmus MC em Roterdã. “Com nosso esforço pioneiro para estabelecer o primeiro laboratório ético de IA na área de saúde, abrimos caminho para uma nova era de assistência ao paciente, em que a utilização da tecnologia de IA é regida pela transparência, segurança e equidade como alicerces básicos”.

O SAS também é membro fundador da Coalition for Health AI (CHAI), uma comunidade de sistemas acadêmicos de saúde, organizações e profissionais especializados em IA e ciência de dados. A CHAI lançou, recentemente, um projeto de IA confiável para a área de saúde, resultado da coordenação liderada pela CHAI e pela Academia Nacional de Medicina com especialistas em IA de centros acadêmicos médicos e de saúde, tecnologia e outros setores da indústria.

Saiba mais sobre como o SAS e a Microsoft firmaram uma parceria com o Erasmus MC para desenvolver, implementar e monitorar aplicativos orientados por dados em todo o hospital para melhorar o atendimento e a capacidade dos pacientes, além de otimizar o uso de salas cirúrgicas, unidades de terapia intensiva e capacidade de leitos.

Ampliação da Prática de Ética 

A explosão da IA generativa na forma de ChatGPT, Google Bard e outros elevou a novos níveis o acirrado debate sobre a IA na sociedade. Para explorar aplicações positivas de IA, o SAS recentemente expandiu a Prática de Ética de Dados, integrando a equipe Data for Good da empresa.

“Com o avanço rápido da IA, precisamos nos manter diligentes para que o ser humano esteja no centro de tudo o que fazemos”, afirma Townsend. “Mas não se trata apenas de proteger os vulneráveis, mas também de buscar oportunidades de usar a IA para melhorar a vida das pessoas.”

A equipe do Data for Good do SAS busca oportunidades de parceria com organizações para a aplicação de IA em causas que beneficiem a sociedade. Por exemplo, a equipe colabora com organizações sem fins lucrativos para combater a destruição da floresta amazônica no Brasil e explorar a discriminação habitacional na cidade de Nova York. Além disso, como anunciado hoje, o SAS se uniu ao Centro de Estudos de Galápagos, da UNC, para aplicar IA alimentada coletivamente e machine learning para ajudar a preservar tartarugas marinhas ameaçadas de extinção.

Inovação responsável dentro e fora do SAS

Algumas das diversas atividades de inovação responsável do SAS no último ano incluem:

• A empresa continua inovando e aprimorando a SAS® Viya®, principal plataforma de IA confiável da empresa. A SAS Viya inclui recursos de IA confiável, como detecção de viés, explicabilidade, auditabilidade de decisões, monitoramento de modelos, governança e responsabilidade, aumentando a credibilidade dos esforços de IA responsável de órgãos governamentais.
• A Prática de Ética de Dados atendeu a mais de 200 solicitações de consultoria sobre questões de inovação responsável dentro da empresa.
• O SAS realizou um treinamento interno para inovação responsável que ensina aos profissionais de data analytics o que significa inovar com responsabilidade. Os participantes aprendem os princípios da inovação responsável e como o software SAS ajuda os analistas no dever da cautela ao trabalhar com dados. O treinamento será oferecido externamente ainda este ano.
• Na sede mundial em Cary, NC, o SAS recebeu o Comitê Consultivo Nacional de Inteligência Artificial, do qual Townsend faz parte. Ele também faz parte da diretoria da EqualAI.
• O SAS contribuiu para o Roadmap for Responsible Artificial Intelligence (Roteiro para Inteligência Artificial Responsável) da Business Roundtable, que orienta negócios, legisladores e reguladores americanos na jornada compartilhada rumo à IA responsável.