No dia 17/04/2023, nosso Diretor Luca Belli, nossa pesquisadora Nina da Hora e a Professora Visitante do CTS-FGV Bianca Kremer participaram do Seminário “A construção do marco regulatório da Inteligência Artificial no Brasil”, organizado pelo Centro de Estudos Judiciários do Conselho da Justiça Federal (CEJ/CJF) e o Superior Tribunal de Justiça (STJ) em Brasília.
O evento teve como objetivo debater sobre a elaboração do Marco Regulatório da Inteligência Artificial no Brasil, bem como tratar das principais repercussões para o setor de inovação tecno-científica a partir da implementação de ferramentas de governança regulatória.
Bianca Kremer participou do Painel 2, “Direitos e deveres no ciclo de vida dos sistemas de IA”, reforçando que a regulação proposta para a IA não representa um impedimento para a liberdade da inovação ou dos princípios da liberdade econômica. Ela ressaltou a importância de uma abordagem baseada em riscos e ao mesmo tempo uma modelagem baseada em direitos. Isso significa levar em conta o funcionamento da IA como uma tecnologia que pode apresentar padrões estatísticos e previsões que não são neutras. Esse entendimento permite identificar não apenas o potencial positivo de suas aplicações, mas também consequências nocivas que devem ser consideradas pelas propostas de regulamentação.
Nina da Hora participou do Painel 4, “Discriminação algorítmica”. Nossa pesquisadora fez observações técnicas a respeito das diferentes tecnologias que compõem a Inteligência Artificial, destacando a dificuldade de se alcançar um consenso sobre os reais riscos postos pelas tecnologias de IA passa pela dificuldade de distinguir os diferentes riscos em suas diferentes aplicações. Ela citou o exemplo das tecnologias de reconhecimento facial e o risco que estas representam às vidas de determinadas parcelas da população.
Luca Belli participou do Painel 5 “Arranjo institucional de fiscalização e enforcement“, onde salientou a importância da criação de padrões técnicos, apontando que a existência de uma agência reguladora e de um marco regulatório para a IA não são suficientes para a regulação efetiva. Ele também destacou a importância de se criar mecanismos não apenas para identificar e avaliar potenciais riscos, mas para dar continuidade ao monitoramento e evolução do cenário de riscos postos pela implementação de tais tecnologias conforme avançam. Belli pontuou também que as falhas na capacidade de padronizar métricas para testes e demais processos de fiscalização do funcionamento das Inteligências Artificiais se tornam vulnerabilidades. A delegação da definição de tais métricas a uma agência se mostra pouco eficiente. A intervenção do prof. Luca Belli foi baseada nos resultados do artigo “AI regulation in Brazil: Advancements, flows, and need to learn from the data protection experience“, escrito em co-autoria com Yasmin Curzi e Walter Britto Gaspar.
A gravação completa do evento pode ser conferida abaixo: