O Professor da FGV Direito Rio e coordenador do CTS-FGV Luca Belli, escreveu o artigo para a revista O Globo.
Ao longo dos últimos dias, a ficha caiu. Finalmente, “os mercados” se deram conta do que inúmeros acadêmicos têm falado nos últimos anos: existe uma quantidade assustadora de charlatanismo sobre inteligência artificial (IA).
Já em junho, Goldman Sachs e Moody’s avisaram que a IA generativa demandava investimentos muito acima dos reais benefícios. Era inevitável que a bolha estourasse, e agora está estourando.
Isso não significa que a IA não tenha enorme potencial. Mas é absurdo acreditar que qualquer chatbot ou projeto com a palavra IA no título seja capaz de mudar o mundo e realizar lucros. Para acreditar que essa seja a realidade, é preciso ser muito ingênuo, ou falsamente ingênuo.
Infelizmente, devido aos bilhões já investidos em IA, é raro haver um debate que não seja contaminado por marketing e anúncios bombásticos, particularmente no que diz respeito à IA generativa.
É justamente para promover um desenvolvimento saudável, sustentável e seguro de IA que precisamos de políticas públicas e regulações sólidas. É ótimo ver que ambas estão sendo elaboradas pelo governo e pelo Congresso. Melhor ainda saber que não foram adotadas e podem ser melhoradas.
Começando pelo Plano Brasileiro de IA. A proposta é extremamente bem-vinda. O Brasil precisa de tal plano para se tornar soberano em IA. Por que, porém, publicar uma proposta de plano antes de ter apresentado uma nova estratégia? Os planos tipicamente implementam estratégias. Inverter o caminho pode gerar confusão.
Apesar de ser bem articulada, a proposta de plano menciona o termo cibersegurança duas vezes em 83 páginas. Apagões cibernéticos e ciberataques nos lembram cotidianamente que, se a cibersegurança não for priorizada, corremos o risco de construir uma enorme bomba-relógio. O uso ofensivo de IA já é realidade. Basta pensar que, desde o lançamento do ChatGPT, houve aumento de 4.151% nas mensagens de phishing.
A proposta de Marco Regulatório sobre IA, consagrada no PL 2.338, também é positiva. O PL, amplamente inspirado no AI Act europeu, regulamenta riscos e estabelece direitos. Mas não é imune a crítica. Está repleto de adjetivos que tornam as disposições perigosamente vagas.
É difícil até para um especialista adivinhar o que sejam “medidas adequadas de segurança da informação”, “testes para avaliação de níveis apropriados de confiabilidade” ou “níveis apropriados de […] segurança e cibersegurança avaliadas por meio de métodos apropriados”. Adequado, apropriado e razoável são os adjetivos favoritos de cada advogado. Podem significar qualquer coisa. O PL inclui esses qualificativos 29 vezes.
Cláusulas de flexibilidade são bem-vindas para que a regulação não engesse a inovação. Porém, se não for definido um mecanismo eficaz para especificá-las com padrões técnicos ou regulamentação administrativa, a flexibilidade vira incerteza jurídica. O oposto do que a regulação deve trazer.
Exatamente como sua fonte de inspiração europeia, o PL 2.338 é vago no que diz respeito à implementação. Propõe um sistema de regulação e governança de IA (SIA) em que reguladores setoriais se coordenariam sob a liderança da Autoridade Nacional de Proteção de Dados (ANPD).
A ideia é promissora, mas o PL não especifica como tal coordenação funcionaria na prática em caso de divergências. Esses detalhes são cruciais.
Precisamos considerar também que a ANPD, na atual estrutura, mal consegue cumprir suas atribuições. Pensar que a autoridade lidere efetivamente um novo sistema de tamanha complexidade é excesso de otimismo. Se a estrutura da ANPD não for reformada substancialmente, é difícil que o SIA possa funcionar.
Os eventos das últimas semanas trouxeram uma saudável injeção de realidade, provando que estratégia, governança e regulação efetiva de IA são tão imperativas quanto urgentes. É necessário, porém, ser mais crítico sobre como construí-las. O diabo está nos detalhes.
Artigo originalmente publicado em https://oglobo.globo.com/opiniao/artigos/coluna/2024/08/e-preciso-ser-mais-critico-sobre-inteligencia-artificial.ghtml.