A expansão da IA e temor exposto na Declaração de Bletchley
Por Gisele Machado Figueiredo Boselli
No dia primeiro de novembro de 2023 foi publicada a Declaração de Bletchley, pretendendo mobilizar a comunidade internacional para a necessidade de se promover o desenvolvimento seguro da Inteligência Artificial, a fim de que suas oportunidades transformadoras sejam utilizadas para o bem, na promoção do crescimento econômico inclusivo, do desenvolvimento sustentável e da inovação.
O documento foi assinado pelo Reino Unido, União Europeia e mais 27 países, dentre os quais estão Brasil, Estados Unidos, China, Índia, Israel, República da Coreia, Ucrânia. Seus representantes participaram, entre 1 e 2 de novembro de 2023, do AI Safety Summit 2023, sediado em Bletchley Park, na Inglaterra.
A escolha do local para sediar este primeiro AI Safety Summit não foi casual. Em Bletchley Park, localizada entre as cidades de Cambridge e Oxford, foi instalada uma base militar secreta do Reino Unido, durante a Segunda Guerra Mundial. Nela, o matemático Alan Turing desenvolveu a máquina decifradora de códigos alemães, contribuindo para o desfecho da guerra em favor dos aliados.
Desde Turing, atualmente considerado o pai da Inteligência Artificial, cientistas trabalham continuamente para aperfeiçoá-la. Contudo, na última década a tecnologia atingiu um elevado nível de sofisticação, gerando apreensão, especialmente em relação às ameaças que representa à segurança, às liberdades e à vida dos cidadãos.
A intenção da Declaração de Bletchley vai além da manutenção das garantias e liberdades fundamentais no mundo globalizado, diante das inovações. Há um firme propósito em impedir ou mitigar os riscos potenciais e inerentes à IA. Os possíveis danos, decorrentes tanto do seu uso indevido como intencional, ainda não são mensuráveis.
A linguagem do documento reflete uma genuína apreensão e um senso de urgência em unir a comunidade internacional – estados, empresas de tecnologia, a sociedade civil e cientistas – para agir efetiva e rapidamente com o objetivo de garantir a segurança da Inteligência Artificial, que já vem sendo desenvolvida e empregada de forma acelerada globalmente.
A preocupação é direcionada especialmente aos sistemas de IA que são excepcionalmente poderosos e potencialmente prejudiciais, para os quais devem ser criadas regras exigindo testes de segurança e o fornecimento de transparência sobre seu funcionamento, a fim de que sejam possíveis avaliações externas capazes de medir, monitorar, mitigar e prevenir seus efeitos negativos.
A Declaração destaca dois eixos de atuação mais prioritários. Primeiramente, propõe-se a identificação dos riscos de segurança da IA e a compreensão do real impacto desta tecnologia em nossas sociedades. Neste intento, pretende-se engajamento dos envolvidos na construção de um entendimento científico e baseado em evidências sobre os referidos riscos. A segunda pauta da agenda é a construção de políticas nacionais, sejam por leis ou outras medidas, que possam garantir a proteção diante dos perigos observados.
Apesar de já existirem muitos projetos em andamento, a maior parte dos países ainda não logrou aprovar uma legislação abrangente e conclusiva neste sentido. Em junho de 2023, a União Europeia apresentou o texto de sua norma reguladora da Inteligência Artificial e, na última semana de outubro, o presidente dos Estados Unidos assinou uma “Executive Order”, medida que se assemelha a um decreto, para mobilizar o governo no enfrentamento dos riscos envolvidos na IA.
O Brasil tampouco conseguiu aprovar uma legislação própria. Atualmente, tramita no Senado Federal o Projeto de Lei 2338/23, que dispõe sobre o uso da Inteligência Artificial. Porém, não há qualquer estimativa para sua conclusão, que ainda depende de aprovação nas duas casas legislativas, além da sanção presidencial.
É realmente muito importante que sejam tomadas medidas para conter o potencial prejudicial da Inteligência Artificial e que os estados se mobilizem neste sentido. Contudo, os desafios ultrapassam a mera elaboração de estudos e de leis. Investimentos financeiros são cruciais, assim como esforços direcionados ao aprimoramento da segurança digital e da Inteligência de Estado.
Considerando que a IA nasceu como ferramenta militar, é fato que não deixará de ser empregada com tal propósito, especialmente no presente momento em que tensões internacionais se amplificaram. Sistemas de IA foram observados na Guerra da Ucrânia e no conflito no Oriente Médio, em drones multifuncionais, capazes de identificar alvos, reconhecer inimigos e disparar de forma autônoma. E sabe-se que suas aplicações podem ir além, abrangendo a vigilância de moradores das regiões de conflitos e o desenvolvimento de novas armas químicas, ainda mais letais.
Confrontamos, assim, o paradoxo de uma tecnologia disruptiva que apresenta uma dualidade em seu uso – para o bem e para o mal. A Declaração de Bletchley é um chamado é para uma ação coletiva e reflexão sobre como podemos guiar o desenvolvimento da IA para um futuro que priorize a segurança, a prosperidade e o bem-estar coletivo.
*Gisele Machado Figueiredo Boselli é advogada, OAB/SP 177.176, especialista em Direito Médico e da Saúde pela PUC-PR, pós-graduada em Direito da Economia e da Empresa pela FGV,SP. Membro efetivo da Comissão de Direito Médico e da Saúde da OAB de São Paulo.
