🔗Watch the full webinar here: https://www.youtube.com/live/ocMRJQo3J_Y?si=0hXUshoXZZJZ2szW
English
Luca Belli, CTS-FGV coordinator, opened the webinar emphasizing the importance of the Brazilian presidency of the G20 in conveying the voice of the Global South, following India and just before the South African presidency. These are three countries that are also key members of the BRICS group. He argues that risk-based regulation is essential, but not absolutely sufficient to ensure that countries are sovereign in AI matters. Finally, Belli introduced the concept of AI Sovereignty, which is the ability of a specific country to understand, develop, and regulate AI systems, thereby maintaining self-determination, agency, and control over AI systems.
Next, CTS-FGV researcher Filipe Medon presented the Brazilian perspective on AI governance. He highlighted the discussion on moderating online content generated by AI and also highlighted the military use of AI and the role Brazil is playing in discussions within the G20.
Tatjana Evas, European Commission DG Connect International Affairs, argued that legislation alone cannot solve the issue of AI regulation. In this sense, she highlighted the EU’s actions beyond the AI Act. The entity seeks to protect fundamental rights beyond product safety, addressing the issue in a more comprehensive manner. She stated that the EU believes that this technology, left to itself without regulatory mechanisms, can generate misinformation and deepen inequalities.
Aifang Ma, Peking University & CyberBRICS Project, presented the levels of AI regulation in China, highlighting regulatory bodies, their functions, priorities, and resources. The researcher highlighted the change in China since 2019, which led to the adoption of new documents on regulating algorithmic recommendation, generative AI, and deep generative services. For the researcher, the Chinese seek to reconcile a risk-based approach with freedom for developers of this new technology, understood as crucial for the future economy.
Joshua Meltzer, Brookings Institution, focused on the “Executive Order on Safe, Secure, and Trustworthy #AI,” which is a significant milestone in the US for regulating this new technology. He argued that the American conception of AI regulation, reflected in the new executive order, recognizes the need for each agency to have its own specialization in AI, with training and widespread knowledge about AI developments.
Sizwe Snail, Nelson Mandela University, presented the South African context. The lack of specific AI regulation has led the judiciary to take a proactive role in setting usage standards. The author brought four important cases that have been landmarks for the country. Addressing the context of the African continent, the professor explored Resolution 473, adopted by the Commission in February 2021. The resolution calls for regulation focused on the needs of the African people and serves as a reference for national legislation.
Jai Vipra, CyberBRICS Project, discussed the lack of consensus on a national strategy for regulating AI in India. She explored India’s Digital Bill and the efforts of non-governmental actors, such as People+AI. The researcher also brought up some priority agendas for countries within the #G20. She also argued that the military use of AI and the use of AI in law enforcement, as well as the risks to marginalized people, deserve more attention in public debate.
After the presentations, we had a round of questions and answers with the speakers. The first question dealt with how to have a global approach to AI.
Tatjana emphasized the need to find consensus in global AI governance and the role that the newly established European AI Office will play in representing the continent in international relations on the subject.
Sizwe Snail stated that lawmakers should learn from international mispractice and be attentive to the contributions of each continent.
Aifang Ma responded to a question about national security and AI. She spoke about the negative effects of giving too many responsibilities to political regulators, which could lead to securitization and overregulation. There should be a greater distribution of competencies between political and economic regulators to provide more predictability in terms of investment, policy design, and strategic orientation. She continued with China’s experience in this regard, privileging entrepreneurs and a decentralized perspective.
Filipe Medon took the opportunity to bring up the Brazilian context and the debates regarding the creation or not of a central regulatory agency. The professor pointed out the budgetary challenges of the issue and the limits of the national data protection agency’s action. The point about budgetary constraints was also highlighted by Sizwe Snail.
Joshua Meltzer addressed the diversity in approaches to AI regulation and the specificities that arise from this new technology.
Jai Vipra argued that the most efficient regulation strategy would be to build capacity within existing regulators, rather than creating separate agencies, given the horizontal aspect of AI.
Português
Luca Belli, coordenador do CTS-FGV, abriu o webinar enfatizando a importância da presidência brasileira do G20 para transmitir a voz do Sul Global, depois da Índia e logo antes da presidência sul-africana. Estes são três países que são também os principais membros do grupo BRICS. Ele defende que a regulamentação baseada no risco é essencial, mas não é absolutamente suficiente para garantir que os países sejam soberanos em matéria de IA. Por fim, Belli apresentou o conceito de AI Sovereignty, que é a capacidade de um determinado país para compreender, desenvolver e regular os sistemas de IA, mantendo assim a autodeterminação, a agência e o controle sobre os sistemas de IA.
Em seguida, o pesquisador do CTS-FGV e Professor da FGV Direito Rio, Filipe Medon, apresentou a perspetiva brasileira sobre a governança da IA. Ele destacou a discussão sobre a moderação de conteúdos online gerados por IA e também destacou o uso militar da IA e o papel que o Brasil está desempenhando no âmbito do G20.
Tatjana Evas, European Commission DG Connect International Affairs, defendeu que uma legislação sozinha não consegue resolver a questão da regulação da IA. Nesse sentido, destacou as ações da UE para além do AI Act. A entidade busca proteger direitos fundamentais além da segurança de produtos, abordando a questão de uma maneira mais abrangente. Ela afirmou que a UE acredita que essa tecnologia deixada a si mesma, sem mecanismos de regulação, pode gerar desinformação e aprofundar desigualdades.
Aifang Ma, Peking University & CyberBRICS Project, apresentou os níveis de regulamentação da IA na China, destacando os organismos reguladores, as suas funções, prioridades e recursos. A pesquisadora destacou a mudança na China desde 2019, o que levou à adoção de novos documentos sobre a regulamentação da recomendação algorítmica, IA generativa e serviços generativos profundos. Para a pesquisadora, os chineses procuram conciliar uma abordagem baseada no risco com a liberdade aos desenvolvedores dessa nova tecnologia, entendida como crucial para o futuro da economia.
Joshua Meltzer, Brookings Institution, centrou-se no “Executive Order on Safe, Secure, and Trustworthy #AI”, que constitui um marco importante nos EUA para a regulamentação desta nova tecnologia. Ele argumentou que a concepção americana da regulamentação da IA, refletida no novo decreto executivo, reconhece a necessidade de cada agência ter a sua própria especialização em IA, com formação e conhecimentos generalizados sobre os desenvolvimentos da IA.
Sizwe Snail, Nelson Mandela University, apresentou o contexto sul-africano. A falta de regulamentação específica sobre IA levou a que o Poder Judiciário assumisse um papel proativo na definição de normas de utilização. O autor trouxe quatro casos importantes que constituíram marcos para o país. Abordando o contexto do continente africano, o professor explorou a Resolução 473, adotada pela Comissão em fevereiro de 2021. A resolução pede uma regulamentação focada nas necessidades do povo africano e serve como referência para legislações nacionais.
Jai Vipra, CyberBRICS Project, falou sobre a falta de consenso sobre uma estratégia nacional para regulamentar a IA na Índia. Explorou o Projeto de Lei da Índia Digital e os esforços de actores não governamentais, como a People+AI. A pesquisadora trouxe também algumas pautas prioritárias para os países no âmbito do #G20. Defendeu também que a utilização militar da IA e a utilização da IA na aplicação da lei, bem como os riscos para as pessoas marginalizadas, merecem mais atenção no debate público.
Terminadas as apresentações, tivemos uma rodada de perguntas e respostas com os palestrantes. A primeira questão tratou de como ter um global approach para a IA.
Tatjana ressaltou a necessidade de encontrar consensos na governança global de IA e o papel que o recém estabelecido European AI Office terá em representar o continente nas relações internacionais sobre o tema.
Sizwe Snail afirmou que os legisladores devem aprender com as más práticas internacionais e ficar atentos às contribuições de cada um dos continentes.
Aifang Ma respondeu a uma pergunta sobre segurança nacional e IA. Ela falou sobre os efeitos negativos de dar muitas responsabilidades a reguladores políticos, podendo haver securitização e overregulation. Deve haver maior distribuição de competências entre reguladores políticos e econômicos para que haja mais previsibilidade em termos de investimento, policy design e orientação estratégia. Ela continuou com a experiência da China nesse sentido, privilegiando empreendedores e uma perspectiva descentralizada.
Filipe Medon aproveitou para trazer o contexto brasileiro e os debates a respeito da criação ou não de uma agência reguladora central. O professor apontou os desafios orçamentários da questão e os limites da atuação da agência nacional de proteção de dados. O ponto sobre restrições orçamentárias também foi destacado por Sizwe Snail.
Joshua Meltzer tratou da diversidade nos approaches sobre a regulação da IA e as especificidades que surgem dessa nova tecnologia.
Jai Vipra defendeu que a estratégia de regulação mais eficiente seria desenvolver a capacidade dos órgãos reguladores existentes, e não criar agências separadas, dado o aspecto horizontal da IA.