1. Introdução

O sistema de Inteligência Artificial (IA) consiste em um sistema baseado em máquina que, a partir das provocações que recebe, é capaz de produzir previsões, conteúdos, recomendações ou decisões aptos a influenciar o mundo físico ou virtual.^¹

A tecnologia tem potencial revolucionário e, embora questionada^², afeta a totalidade da economia mundial em maior ou menor grau.

O presente artigo pretende avaliar os primeiros passos implementados pelo Estado brasileiro na regulação de IA, a partir dos projetos de lei que tramitam no Congresso Nacional, do acompanhamento realizado pelo Tribunal de Contas da União (TCU) e da experiência regulatória internacional.

2. Noções preliminares

Antes de prosseguir para a análise da regulação, é imprescindível apresentar noções sobre a evolução histórica da IA, seu funcionamento e os riscos inerentes às atividades relativas ao seu desenvolvimento.

2.1. Evolução histórica

O desenvolvimento da IA percorreu três fases sucessivas ao longo dos s. XX e XXI: (i) a simbólica (a partir dos anos 1950), mais incipiente, em que as decisões tomadas pelas máquinas eram baseadas em representações de conhecimentos humanos; (ii) a dos sistemas especialistas (a partir dos anos 1980), em que as decisões das máquinas eram baseadas em regras gerais e estáticas, que reproduziam o raciocínio e o comportamento humanos; e (iii) a do aprendizado de máquina (a partir dos anos 2010), momento atual, em que as decisões tomadas pelas máquinas se fundam na sua própria experiência, com base em um conjunto de dados, que serve para o cálculo estatístico de possíveis respostas para a realização de tarefas determinadas, que prescindem da constante intervenção humana.³ 

2.2. Aprendizado de máquina e IA generativa

O modelo de aprendizado de máquina (machine learning) possibilitou o desenvolvimento de IA’s generativas, que ganharam relevância a partir do lançamento do Chat-GPT⁴ e que são capazes de, a partir de provocações, criar textos, conversas, imagens, vídeos, músicas, etc.

Aplicativos à base de IA generativa possibilitam ganhos elevados de eficiência em diversos setores da economia e facilitam a realização de tarefas cotidianas⁵.

2.3. Importância dos bancos de dados 

Atualmente, portanto, o desenvolvimento de IA é condicionado à quantidade e à qualidade dos dados captados pela máquina para o cálculo de estatísticas e o reconhecimento de padrões.

A maior parte dos dados captados são obtidos na rede mundial de computadores (Internet), por meio de robôs denominados web crawlers, que acessam sítios eletrônicos (sites) em busca de conteúdo. 

Os dados obtidos são armazenados em bancos de dados. Um dos mais populares bancos de dados existentes é o Common Crawl⁶, instituição sem fins lucrativos, que se popularizou entre empresas desenvolvedoras de IA por armazenar todos os textos da Internet desde 2007.

Entre os dados captados e armazenados, existem dados pessoais. O tratamento de dados pessoais por web crawlers deve observar a Lei 13.709/2018, a Lei Geral de Proteção de Dados Pessoais (LGPD).

2.4. Riscos dos bancos de dados pessoais

Mas o tratamento de dados pessoais por web crawlers e o uso de IA geram riscos à população, como: violação da privacidade; disseminação de vieses discriminatórios; desinformação e manipulação de informações; falhas de cibersegurança; uso para fins ilícitos; fraudes; etc.⁷.

2.5. Necessidade de regulação

Os riscos inerentes ao desenvolvimento e ao uso de IA justificam a intervenção indireta do Estado, via regulação, para assegurar a observância de direitos fundamentais.

A regulação, no entanto, deve buscar um equilíbrio entre as restrições ao tratamento de dados pessoais e ao uso de IA e a necessidade de bancos de dados suficientemente amplos para o desenvolvimento de IA e para a obtenção dos benefícios dele decorrentes. Uma intervenção desarrazoada pode gerar prejuízos para a totalidade da população.

3. Modelos internacionais de regulação da IA

Os Estados nacionais enfrentam a questão de maneira diversa. Identificam-se, na experiência de Estados Unidos, Reino Unido e União Europeia, três formas de abordar a regulação de IA: (i) baseada em princípios; (ii) baseada em riscos; e (iii) baseada em direitos⁸.

3.1. Regulação baseada em princípios

A regulação baseada em princípios estabelece premissas básicas e diretrizes éticas, como privacidade, justiça e transparência, para orientar o desenvolvimento e o uso de IA, sem definir previamente um rol de direitos e obrigações. O modelo entende que o mercado de IA é incipiente, que seus riscos ainda não são inteiramente conhecidos e que uma regulação incisiva pode prejudicar o progresso tecnológico. Reconhece, no entanto, que à medida que o mercado prosperar, a regulação deverá avançar para proteger determinados direitos individuais.

O modelo baseado em princípios é flexível, favorece a inovação e evita excessos regulatórios. Estados Unidos⁹ e Reino Unido^¹⁰ adotam predominantemente a regulação baseada em princípios.

3.2. Regulação baseada em riscos

A regulação baseada em riscos se dedica a identificar e a gerenciar os riscos relativos ao desenvolvimento e ao uso de IA. Consiste em uma solução mais pragmática, que envolve o reconhecimento de direitos e obrigações de acordo com a existência e com a gravidade do risco em uma atividade determinada.

A União Europeia^¹¹ adota predominantemente a regulação baseada em riscos.

3.3. Regulação baseada em direitos

A regulação baseada em direitos, por fim, define previamente um rol de direitos e obrigações a serem observados no desenvolvimento e no uso de IA. Consiste em solução voltada à proteção de direitos fundamentais dos usuários, que se diferencia das demais pela anterioridade e pela completude das definições apresentadas, o que pode gerar incompatibilidades com a inerente velocidade e flexibilidade do mercado.

4. Propostas de regulação de IA no Brasil

O ordenamento jurídico brasileiro ainda não contém definições precisas para a regulação de IA. 

O Brasil enfrenta debates relacionados à melhor forma de intervenção estatal em IA e as experiências internacionais podem servir como parâmetro.

No momento, existe uma Portaria do Ministério da Ciência, Tecnologia e Inovação (MCTI), de 2021, que estabelece diretrizes para o desenvolvimento de IA, e sete Projetos de Lei (PL) em tramitação no Congresso Nacional.

4.1. Portaria MCTI 4.617/2021

A Portaria MCTI 4.617/2021, alterada pela Portaria MCTI 4.979/2021, instituiu a Estratégia Brasileira de Inteligência Artificial (Ebia) e definiu diretrizes para nortear as ações do Estado brasileiro em temas relativos à IA, no sentido de estimular o desenvolvimento da tecnologia e promover princípios éticos.

No entanto, um levantamento realizado no TCU para avaliar o estágio de implementação da Ebia detectou falhas relativas à vagueza de suas normas e a indefinições da maneira exata de sua atuação^¹².

4.2. Projetos de Lei no Congresso Nacional

Estão em tramitação no Congresso Nacional os PL 5.051/2019, 5.691/2019, 21/2020, 872/2021, 2.338/2023, 3.592/2023 e 4.025/2023. Todos capazes de positivar intervenções do Estado no desenvolvimento e no uso de IA.

Mas, para os fins deste artigo, importa apenas a análise dos seguintes Projetos de Lei: 21/2020, 2.338/2023, 3.592/2023 e 4.025/2023.

4.2.1. PL 21/2020

Aprovado na Câmara dos Deputados, o PL 21/2020 propõe regulação baseada em princípios para o desenvolvimento e o uso de IA no Brasil. 

4.2.2. PL 2.338/2023

No Senado Federal, o PL 21/2020 ganhou proposta de substitutivo no PL 2.338/2023, que propõe regulação que mistura o modelo baseado em riscos com o modelo baseado em direitos, incorporando estruturas da regulação implementada na União Europeia e da Lei 13.709/2018, a Lei Geral de Proteção de Dados Pessoais (LGPD).

A proposta estabelece normas nacionais para o uso de IA no Brasil, com o foco de mitigar riscos e reconhecer uma pluralidade de direitos individuais em face de empresas e de sistemas de IA.

4.2.3. PL 3.592/2023

O PL 3.592/2023, do Senado Federal, propõe normas sobre o uso de imagens e áudios de pessoas falecidas por meio de IA.

4.2.4. PL 4.025/2023

Por fim, o PL 4.025/2023, da Câmara dos Deputados, propõe alterações no Código Civil e na Lei 9.610/1998, Lei de Direitos Autorais, e dispõe sobre a utilização de imagens e os direitos autorais no desenvolvimento de IA.

Com apenas três alterações pontuais, o PL 4.025/2023 pode causar grandes impactos no uso de IA no Brasil, inviabilizando seu desenvolvimento.

Art. 1º A Lei nº 10.406, de 10 de janeiro de 2002, passa a vigorar acrescida do seguinte art. 20-A: “Art. 20-A O uso da imagem de uma pessoa, manipulada pela inteligência artificial, depende de sua autorização expressa”.

Art. 2º O art. 11 da Lei nº 9.610, de 19 de fevereiro de 1998, passa a vigorar com a seguinte redação: “Art. 11. Autor é a pessoa física criadora de obra literária, artística ou científica. […] § 2º Independentemente do grau de autonomia de um sistema de inteligência artificial, suas obras não gozam de proteção autoral, sendo a condição de autor restrita a seres humanos.

Art. 3º O art. 29 da Lei nº 9.610, de 19 de fevereiro de 1998, passa a vigorar com a seguinte redação: “Art. 29. Depende de autorização prévia e expressa do autor a utilização da obra, por quaisquer modalidades, tais como: […] XI – a utilização para treinamento de sistema de inteligência artificial (NR).”

5. Acompanhamento no TCU e riscos de regulação excessiva

Instaurou-se acompanhamento no TCU, por determinação do Acórdão-TCU 1.139/2022, com o objetivo de controlar a implementação da Ebia e de oferecer contribuições ao debate legislativo que envolve a regulação de IA.

Como resultado dos estudos realizados pelas unidades técnicas, no Acórdão-TCU 616/2024¹³, restaram reconhecidos nove riscos ao desenvolvimento de IA no Brasil decorrentes das propostas legislativas: 

(i) dependência de importação de tecnologia em decorrência da estagnação do desenvolvimento de IA no Brasil; 

(ii) criação de barreiras para startups e empresas de menor porte; 

(iii) perda de competitividade dos produtos e serviços brasileiros no comércio exterior;

(iv) monopólio ou oligopólio propiciado por regulação excessiva; 

(v) dificuldades na retenção de profissionais de IA; 

(vi) definições genéricas impactando áreas desconexas e setores de baixa complexidade ou relevância; 

(vii) impedimento ao desenvolvimento de IA por estabelecimento de direitos autorais de forma incompatível à nova realidade; 

(viii) limitação da capacidade de inovação nos setores público e privado;

(ix) barreiras à transformação digital do Estado brasileiro e perda potencial de avanço na disponibilidade de mais e melhores serviços públicos aos cidadãos.

6. Conclusão

O TCU alerta o Congresso Nacional para a possibilidade de uma regulação excessiva em IA, em vista das propostas legislativas existentes, capazes de inviabilizar o desenvolvimento brasileiro da tecnologia e provocar prejuízos à totalidade da população.

Uma regulação adequada deve observar o equilíbrio entre a proteção de direitos fundamentais e o incentivo à inovação. A experiência internacional pode contribuir para um melhor tratamento do tema.

_____________________________
^¹  OCDE. Explanatory Memorandum on the Updated OECD Definition of an AI System. OECD Publishing, 2024.

_____________________________
^² ACEMOGLU, Daron. The Simple Macroeconomics of AI. US: Massachusetts Institute of Technology, 2024.

_____________________________
³  TCU, Acórdão 1.139/2022, Pleno, rel. Min. Aroldo Cedraz, j. 25.05.2022.

_____________________________
⁴ https://openai.com/blog/chatgpt

_____________________________
⁵ STRAUB; HASHEM; BRIGHT; BHAGWANANI; MORGAN; FRANCIS; ESNAASHARI; MARGETS. AI for bureaucratic productivity: Measuring the potential of AI to help automate 143 million UK government transactions.

_____________________________
⁶ https://commoncrawl.org/research-papers

_____________________________
⁷ TCU. Riscos da Regulação da Inteligência Artificial no Brasil: Possíveis Impactos na Estratégia Brasileira de Inteligência Artificial (Ebia). Relatório de Acompanhamento, TC-033.638/2023-3, 2024, pp. 9-10.

_____________________________
⁸ TCU. Riscos da Regulação da Inteligência Artificial no Brasil: Possíveis Impactos na Estratégia Brasileira de Inteligência Artificial (Ebia). Relatório de Acompanhamento, TC-033.638/2023-3, 2024, pp. 12-13.

_____________________________
⁹  USA. Blueprint for IA Bill of Rights, 2022.

_____________________________
¹⁰   UK. A pro-innovation approach to AI regulation, 2023.

_____________________________
^¹¹  EU. EU AI Act, 2023.

_____________________________
¹²  TCU, Acórdão 1.139/2022, Pleno, rel. Min. Aroldo Cedraz, j. 25.05.2022.

_____________________________
^¹³  TCU, Acórdão 616/2024, Pleno, rel. Min. Aroldo Cedraz, j. 03.04.2024.