CyberBRICS

AI Governance in the G20 – Webinar Report

ūüĒóWatch the full webinar here: https://www.youtube.com/live/ocMRJQo3J_Y?si=0hXUshoXZZJZ2szW

English

Luca Belli, CTS-FGV coordinator, opened the webinar emphasizing the importance of the Brazilian presidency of the G20 in conveying the voice of the Global South, following India and just before the South African presidency. These are three countries that are also key members of the BRICS group. He argues that risk-based regulation is essential, but not absolutely sufficient to ensure that countries are sovereign in AI matters. Finally, Belli introduced the concept of AI Sovereignty, which is the ability of a specific country to understand, develop, and regulate AI systems, thereby maintaining self-determination, agency, and control over AI systems.

Next, CTS-FGV researcher Filipe Medon presented the Brazilian perspective on AI governance. He highlighted the discussion on moderating online content generated by AI and also highlighted the military use of AI and the role Brazil is playing in discussions within the G20.

Tatjana Evas, European Commission DG Connect International Affairs, argued that legislation alone cannot solve the issue of AI regulation. In this sense, she highlighted the EU’s actions beyond the AI Act. The entity seeks to protect fundamental rights beyond product safety, addressing the issue in a more comprehensive manner. She stated that the EU believes that this technology, left to itself without regulatory mechanisms, can generate misinformation and deepen inequalities.

Aifang Ma, Peking University & CyberBRICS Project, presented the levels of AI regulation in China, highlighting regulatory bodies, their functions, priorities, and resources. The researcher highlighted the change in China since 2019, which led to the adoption of new documents on regulating algorithmic recommendation, generative AI, and deep generative services. For the researcher, the Chinese seek to reconcile a risk-based approach with freedom for developers of this new technology, understood as crucial for the future economy.

Joshua Meltzer, Brookings Institution, focused on the “Executive Order on Safe, Secure, and Trustworthy #AI,” which is a significant milestone in the US for regulating this new technology. He argued that the American conception of AI regulation, reflected in the new executive order, recognizes the need for each agency to have its own specialization in AI, with training and widespread knowledge about AI developments.

Sizwe Snail, Nelson Mandela University, presented the South African context. The lack of specific AI regulation has led the judiciary to take a proactive role in setting usage standards. The author brought four important cases that have been landmarks for the country. Addressing the context of the African continent, the professor explored Resolution 473, adopted by the Commission in February 2021. The resolution calls for regulation focused on the needs of the African people and serves as a reference for national legislation.

Jai Vipra, CyberBRICS Project, discussed the lack of consensus on a national strategy for regulating AI in India. She explored India’s Digital Bill and the efforts of non-governmental actors, such as People+AI. The researcher also brought up some priority agendas for countries within the #G20. She also argued that the military use of AI and the use of AI in law enforcement, as well as the risks to marginalized people, deserve more attention in public debate.

After the presentations, we had a round of questions and answers with the speakers. The first question dealt with how to have a global approach to AI.

Tatjana emphasized the need to find consensus in global AI governance and the role that the newly established European AI Office will play in representing the continent in international relations on the subject.

Sizwe Snail stated that lawmakers should learn from international mispractice and be attentive to the contributions of each continent.

Aifang Ma responded to a question about national security and AI. She spoke about the negative effects of giving too many responsibilities to political regulators, which could lead to securitization and overregulation. There should be a greater distribution of competencies between political and economic regulators to provide more predictability in terms of investment, policy design, and strategic orientation. She continued with China’s experience in this regard, privileging entrepreneurs and a decentralized perspective.

Filipe Medon took the opportunity to bring up the Brazilian context and the debates regarding the creation or not of a central regulatory agency. The professor pointed out the budgetary challenges of the issue and the limits of the national data protection agency’s action. The point about budgetary constraints was also highlighted by Sizwe Snail.

Joshua Meltzer addressed the diversity in approaches to AI regulation and the specificities that arise from this new technology.

Jai Vipra argued that the most efficient regulation strategy would be to build capacity within existing regulators, rather than creating separate agencies, given the horizontal aspect of AI.

Português

Luca Belli, coordenador do CTS-FGV, abriu o webinar enfatizando a import√Ęncia da presid√™ncia brasileira do G20 para transmitir a voz do Sul Global, depois da √ćndia e logo antes da presid√™ncia sul-africana. Estes s√£o tr√™s pa√≠ses que s√£o tamb√©m os principais membros do grupo BRICS. Ele defende que a regulamenta√ß√£o baseada no risco √© essencial, mas n√£o √© absolutamente suficiente para garantir que os pa√≠ses sejam soberanos em mat√©ria de IA. Por fim, Belli apresentou o conceito de AI Sovereignty, que √© a capacidade de um determinado pa√≠s para compreender, desenvolver e regular os sistemas de IA, mantendo assim a autodetermina√ß√£o, a ag√™ncia e o controle sobre os sistemas de IA.

Em seguida, o pesquisador do CTS-FGV e Professor da FGV Direito Rio, Filipe Medon, apresentou a perspetiva brasileira sobre a governan√ßa da IA. Ele destacou a discuss√£o sobre a modera√ß√£o de conte√ļdos online gerados por IA e tamb√©m destacou o uso militar da IA e o papel que o Brasil est√° desempenhando no √Ęmbito do G20.

Tatjana Evas, European Commission DG Connect International Affairs, defendeu que uma legisla√ß√£o sozinha n√£o consegue resolver a quest√£o da regula√ß√£o da IA. Nesse sentido, destacou as a√ß√Ķes da UE para al√©m do AI Act. A entidade busca proteger direitos fundamentais al√©m da seguran√ßa de produtos, abordando a quest√£o de uma maneira mais abrangente. Ela afirmou que a UE acredita que essa tecnologia deixada a si mesma, sem mecanismos de regula√ß√£o, pode gerar desinforma√ß√£o e aprofundar desigualdades.

Aifang Ma, Peking University & CyberBRICS Project, apresentou os n√≠veis de regulamenta√ß√£o da IA na China, destacando os organismos reguladores, as suas fun√ß√Ķes, prioridades e recursos. A pesquisadora destacou a mudan√ßa na China desde 2019, o que levou √† ado√ß√£o de novos documentos sobre a regulamenta√ß√£o da recomenda√ß√£o algor√≠tmica, IA generativa e servi√ßos generativos profundos. Para a pesquisadora, os chineses procuram conciliar uma abordagem baseada no risco com a liberdade aos desenvolvedores dessa nova tecnologia, entendida como crucial para o futuro da economia.

Joshua Meltzer, Brookings Institution, centrou-se no “Executive Order on Safe, Secure, and Trustworthy #AI”, que constitui um marco importante nos EUA para a regulamenta√ß√£o desta nova tecnologia. Ele argumentou que a concep√ß√£o americana da regulamenta√ß√£o da IA, refletida no novo decreto executivo, reconhece a necessidade de cada ag√™ncia ter a sua pr√≥pria especializa√ß√£o em IA, com forma√ß√£o e conhecimentos generalizados sobre os desenvolvimentos da IA.

Sizwe Snail, Nelson Mandela University, apresentou o contexto sul-africano. A falta de regulamenta√ß√£o espec√≠fica sobre IA levou a que o Poder Judici√°rio assumisse um papel proativo na defini√ß√£o de normas de utiliza√ß√£o. O autor trouxe quatro casos importantes que constitu√≠ram marcos para o pa√≠s. Abordando o contexto do continente africano, o professor explorou a Resolu√ß√£o 473, adotada pela Comiss√£o em fevereiro de 2021. A resolu√ß√£o pede uma regulamenta√ß√£o focada nas necessidades do povo africano e serve como refer√™ncia para legisla√ß√Ķes nacionais.

Jai Vipra, CyberBRICS Project, falou sobre a falta de consenso sobre uma estrat√©gia nacional para regulamentar a IA na √ćndia. Explorou o Projeto de Lei da √ćndia Digital e os esfor√ßos de actores n√£o governamentais, como a People+AI. A pesquisadora trouxe tamb√©m algumas pautas priorit√°rias para os pa√≠ses no √Ęmbito do #G20. Defendeu tamb√©m que a utiliza√ß√£o militar da IA e a utiliza√ß√£o da IA na aplica√ß√£o da lei, bem como os riscos para as pessoas marginalizadas, merecem mais aten√ß√£o no debate p√ļblico.

Terminadas as apresenta√ß√Ķes, tivemos uma rodada de perguntas e respostas com os palestrantes. A primeira quest√£o tratou de como ter um global approach para a IA.

Tatjana ressaltou a necessidade de encontrar consensos na governan√ßa global de IA e o papel que o rec√©m estabelecido European AI Office ter√° em representar o continente nas rela√ß√Ķes internacionais sobre o tema. 

Sizwe Snail afirmou que os legisladores devem aprender com as m√°s pr√°ticas internacionais e ficar atentos √†s contribui√ß√Ķes de cada um dos continentes. 

Aifang Ma respondeu a uma pergunta sobre seguran√ßa nacional e IA. Ela falou sobre os efeitos negativos de dar muitas responsabilidades a reguladores pol√≠ticos, podendo haver securitiza√ß√£o e overregulation. Deve haver maior distribui√ß√£o de compet√™ncias entre reguladores pol√≠ticos e econ√īmicos para que haja mais previsibilidade em termos de investimento, policy design e orienta√ß√£o estrat√©gia. Ela continuou com a experi√™ncia da China nesse sentido, privilegiando empreendedores e uma perspectiva descentralizada. 

Filipe Medon aproveitou para trazer o contexto brasileiro e os debates a respeito da cria√ß√£o ou n√£o de uma ag√™ncia reguladora central. O professor apontou os desafios or√ßament√°rios da quest√£o e os limites da atua√ß√£o da ag√™ncia nacional de prote√ß√£o de dados. O ponto sobre restri√ß√Ķes or√ßament√°rias tamb√©m foi destacado por Sizwe Snail.

Joshua Meltzer tratou da diversidade nos approaches sobre a regulação da IA e as especificidades que surgem dessa nova tecnologia.

Jai Vipra defendeu que a estratégia de regulação mais eficiente seria desenvolver a capacidade dos órgãos reguladores existentes, e não criar agências separadas, dado o aspecto horizontal da IA.