1. Introdução
A Lei 14.129/2021 estabelece os princípios, regras e instrumentos para o Governo Digital e para o aumento da eficiência dos órgãos da Administração Pública, tanto Federal quanto dos entes federados (art. 2, inciso III e § 2°, da Lei 14.129/21).
A lei tem por objetivo desburocratizar e simplificar a relação entre o poder público e a sociedade, por meio de serviços digitais acessíveis, transparentes e tecnológicos. A Inteligência Artificial (IA), por sua vez, apresenta-se como um dos instrumentos capazes de auxiliar na eficiência da gestão pública através da otimização de procedimentos que originalmente eram morosos e burocráticos.
2. Avanços tecnológicos e as perspectivas para adoção da IA no Estado do Paraná
O Paraná é um dos estados pioneiros em inovação em diversos setores e, nessa mesma linha, já há diversos avanços tecnológicos que contribuem para promover maior celeridade, transparência e acessibilidade nos processos de atendimento à população.
O programa PIÁ (Paraná Inteligência Artificial), cujo acrônimo é inclusive uma referência a uma expressão típica paranaense, apresenta uma perspectiva inovadora para a oferta de serviços públicos, mas ainda sem a aplicação direta da IA. O programa visa o acesso facilitado a 5.133 serviços federais, 697 serviços estaduais e 18 serviços municipais.
A digitalização desses serviços, que anteriormente eram prestados apenas presencialmente, provocou transformação da gestão pública do Estado do Paraná.
Por outro lado, em uma perspectiva de longo prazo e por efeito dos reflexos globais, em 2024, foi publicado o Plano de Diretrizes da IA na Administração Pública do Estado do Paraná. Esse documento objetiva ser um marco estratégico e que irá orientar a implementação de IA de forma responsável e ética, em respeito aos princípios da transparência, da boa-fé, da acessibilidade e entre outras premissas basilares.
Neste prisma, a IA é definida como “gênero”, do qual se desdobram as ferramentas tradicionais de IA, como Machine Learning, Deep Learning e entre outras espécies que, baseadas em algoritmos, utilizam dados existentes, aprendem e fornecem informações, predições e soluções aos seus usuários.
Por sua vez, a IA Generativa é capaz de produzir novos dados (imagens, textos e sons) e expandir o conjunto de informações disponíveis e propiciar soluções e resultados inovadores.
2.1. A utilização da Inteligência Artificial Generativa (IAG) nos serviços públicos
Embora a IA seja altamente eficaz em tarefas que demandam precisão, como o processamento de grandes volumes de dados, esse modelo de inteligência possui limitações em sua capacidade de criação de soluções inovadoras para o gestor público.
A Inteligência Artificial Generativa é frequentemente relacionada como algo de extrema complexidade, especialmente em razão do que se denomina “black box”. Na maioria dos modelos de grandes modelos de linguagem (LLM’s), a determinação de como se chegou a determinado resultado é praticamente inviável, dada a estrutura desses modelos. No entanto, a combinação da IAG com outras ferramentas de IA de cunho mais analítico e preditivo em tarefas que demandam precisão, como o processamento de dados, é eficaz e ideal para propor soluções inovadoras ao gestor público.
Desse modo, a tomada de decisão continua na mão do administrador, todavia a IAG, com base em fatos e em soluções anteriores eficientes ou deficientes, pode sugerir uma ou mais alternativas diversas. Ela poderia propiciar uma forma de atuação baseada em evidências (evidence-based decision making), o que pode contribuir para o aperfeiçoamento da atuação da administração pública.
Ainda, especificamente, no cenário paranaense, cita-se que a Secretaria de Estado do Planejamento (SEPL), que otimizou a criação de documentos padronizados com o auxílio de IA, como despachos e memorandos, para que a partir da definição de um escopo preliminar, a IAG pudesse adaptar as informações de cada caso em concreto.
Portanto, buscando a constante evolução da administração o caminho a ser trilhado é o de sinergia e coexistência entre várias modalidades e ferramentas de IA, haja vista que a sua combinação pode gerar soluções mais robustas e eficazes.
A IAG pode gerar ideias e soluções inovadoras, enquanto as demais ferramentas de IA podem fornecer dados, predições e informações necessárias, bem como validá-las e refiná-las através da análise desses dados para a implementação em serviços públicos.
2.2. O uso ético da IA na Administração Pública Estadual
Na formulação das diretrizes para o uso da IA e IAG no Paraná, o Estado se preocupou, acertadamente, com a utilização indevida dessas tecnologias na administração pública, conforme consta no item 7 do Plano de Diretrizes.
Reconhece-se que a IA traz desafios éticos, devido ao seu potencial impacto no cotidiano estatal e da coletividade, principalmente no que se refere à manipulação de dados em posse da administração pública. No entanto, é imprescindível se observar rigorosamente os padrões éticos exigidos, especialmente aqueles relacionados à transparência e à proteção de dados.
A iniciativa do Estado do Paraná é coerente com o que vem sendo desenvolvido em outros países e estados. A título exemplificativo, verifica-se a criação e a implementação do plano de digitalização do setor público em vários países, como a Alemanha, o Canadá, a França, a Itália, os EUA, o Japão, o Reino Unido e o bloco econômico da União Europeia, denominado “G7 Toolkit for Artificial Intelligence in the Public Sector”. ¹
Especialmente na Itália, destaca-se que o plano já está no início da implementação com um prazo de três anos (2024-2026) para progressão e aperfeiçoamentos, a partir do que foi elencado no toolkit. No “Box 2.2.” do toolkit, foram abordados os princípios gerais para a transformação digital do setor público daquele país. Reputa-se que é imprescindível a observância de tais princípios para o uso da IA na administração pública italiana, principalmente relacionada à análise de matriz de riscos sobre o funcionamento da IA, às exigências de transparência e de accountability.
A evolução do uso da IA no Estado do Paraná não se restringe à definição do Plano de Diretrizes. Já estão em curso iniciativas concretas para o uso de tal tecnologia, como o Edital de Chamamento Público nº 021/2023, promovido pela CELEPAR – Companhia de Tecnologia da Informação e Comunicação do Paraná. O chamamento objetiva selecionar empresas qualificadas para firmar parceria com a CELEPAR para agregar às suas soluções um assistente para análise da aprendizagem escolar baseado em IAG.
4. Os riscos no uso de tecnologias de IA
No entanto, a implementação da IA, sem a devida observância da ética, dos princípios da administração pública e dos direitos fundamentais (CF/88, arts. 5 e 37), apresenta riscos significativos. Estes estão diretamente relacionados a falhas dos sistemas de IA, derivados da manipulação inadequada de dados no desenvolvimento e treinamento dos referidos sistemas, que podem resultar em violações de direitos e em práticas ilegais, como a discriminação algorítmica.
Por fim, aponta-se também que a implementação do uso da IA no setor público deve ser realizada cautelosamente e acompanhada de um amplo programa de capacitação e conscientização dos servidores públicos, enfatizando a importância de se manter um compromisso ético, baseado nas premissas impostas à administração pública e nos princípios da transparência e da proteção de dados.
5. Há necessidade de regulação específica para a utilização da IA no Estado do Paraná?
O Plano de Diretrizes elenca alguns exemplos de regulamentações bem-sucedidas em outros países e em outros Estados brasileiros (sobre a regulação da IA no Brasil – leia mais). Nos Estados Unidos, a regulação é mais flexível e baseada em princípios, incentivando o desenvolvimento de novas tecnologias por meio de financiamentos e parcerias entre a iniciativa privada e o poder público.
Menciona, também, a União Europeia, onde a regulação é mais rígida e baseada em riscos, com o AI Act, enfatizando a importância da proteção de dados dos usuários e do uso ético da IA. Além disso, cita-se a Política Nacional de Informática (PNI), disciplinada pela Lei 7.232/84, que restringiu o desenvolvimento nacional de tecnologias estrangeiras, resultando em um atraso tecnológico ao isolar o mercado brasileiro.
Quando comparado ao cenário global de evolução da IA, o contexto paranaense ainda é incipiente, o que torna inviável a criação de uma regulamentação específica para IA em 2024.
Na ausência de normas específicas para a utilização de sistemas de IA no poder público, tem-se adotado uma postura mais flexível quanto à regulação do uso de IA, de forma semelhante à abordagem dos Estados Unidos, que prioriza a inovação por meio de uma abordagem mais flexível e orientada pelo mercado. Esse modelo incentiva tanto a entrada de tecnologias estrangeiras, o desenvolvimento de tecnologias locais quanto a pesquisa e o desenvolvimento estatal.
Portanto, a médio prazo, a sociedade poderá enfrentar as consequências da adoção dessas ferramentas pelos servidores públicos, caso o seu uso não seja adequado e compatível com as normas já existentes. No setor público, será necessária uma maior cautela, possivelmente por meio de alterações no Estatuto do Servidor Público Estadual, incluindo sanções para o uso indevido de sistemas de IA.
6. A responsabilização do uso indevido de IA pelos servidores públicos
O Plano de Diretrizes de IA na Administração Pública do Estado do Paraná² também estipula de maneira genérica (i) a responsabilidade individual de cada servidor e (ii) a importância da accountability na gestão pública, garantindo a transparência na tomada das decisões estatais.
Como mencionado anteriormente, a responsabilidade do servidor público é apenas genericamente tratada no Plano de Diretrizes, sem a devida atenção a esse tema crucial para o bom funcionamento da Administração Pública. É necessário, portanto, estabelecer parâmetros mínimos que possam orientar adequadamente as condutas dos servidores.
Isso é necessário até para que haja o estímulo para o servidor adotar as ferramentas e fazer seu uso. Ademais, é essencial capacitar os membros da Administração para garantir o uso eficiente da IA nos serviços públicos, minimizando eventuais abusos ou usos indevidos por parte dos servidores.
Além disso, é fundamental manter um canal de diálogo aberto entre os servidores públicos e o público em geral, proporcionando oportunidades de discussão e revisão de decisões adotadas com o uso de sistemas de IA. Isso evita prejuízos tanto para a Administração quanto para a coletividade, fortalecendo a confiança pública na implementação de mecanismos tecnológicos. Instâncias de governança da IA no âmbito da administração estadual que assegurem a participação do setor público e também da sociedade são essenciais para essa finalidade.
Por fim, o diálogo contínuo com a população permite que a Administração Pública se adapte de forma constante, buscando aprimorar os serviços oferecidos, mitigar riscos e prejuízos potenciais, e maximizar os benefícios na prestação de serviços públicos estaduais.
7. Alguns parâmetros para implementação das soluções da IA na Administração Pública do Estado do Paraná
O Plano de Diretrizes também prevê a possibilidade de criação de um sandbox regulatório para a utilização da IA na Administração Pública, disciplinada pela Lei Estadual 20.744/21. Notadamente, a implementação desse sandbox auxiliaria na identificação e mitigação de possíveis riscos ao Estado do Paraná e aos cidadãos, permitindo que, por meio de projetos-piloto, sejam detectados eventuais problemas antes da adoção efetiva da IA pelos servidores.
Aliás, o Plano elenca, também, a necessidade de conciliação da regulação da IA junto às leis estaduais vigentes³, visando a orientar as políticas públicas e estimular a cooperação entre os setores privado e público.
Assegura também a responsabilização dos usuários pelo uso indiscriminado de ferramentas de IA mantendo-os responsáveis pelas consequências de aplicações indevidas. Incluindo inclusive a observância dos parâmetros éticos e legais específicos em relação às ações do usuário final, que pode ser qualquer membro da Administração Pública, como servidores, gestores, administradores ou mesmo entidades privadas.
Para que haja uma integração efetiva das soluções de IA na Administração Pública do Estado do Paraná, destaca-se (i) a necessidade de modernizar os serviços governamentais; e (ii) a importância de estabelecer parcerias com o setor privado, principalmente com empresas de tecnologia e instituições de pesquisa, o que pode incentivar a inovação no uso de tais sistemas e ferramentas no Estado do Paraná.
Em relação às soluções trazidas pela IA no setor público, ressalta-se a importância de integrar esses sistemas nas ferramentas e sistemas já utilizados pelos membros da Administração, como sistemas de gestão de projetos, plataformas de apresentação e bancos de dados, propiciando a aceitação dos usuários do setor público.
Contudo, é imprescindível o monitoramento e revisão constante da implementação das soluções de IA no setor público, a fim de assegurar a promoção contínua da inovação e do desenvolvimento tecnológico no Estado do Paraná. Do mesmo modo, é essencial identificar e gerenciar possíveis riscos à Administração Pública Estadual, em conformidade com a Lei Geral de Proteção de Dados (LGPD).
8. Considerações finais
Em síntese, o Estado do Paraná, de forma pioneira, tem promovido a implementação de sistemas de IA nos ambientes da Administração Pública Estadual, concretizando as perspectivas e objetivos de um governo digital. A edição do Plano de Diretrizes é um passo importante nesse sentido e uma etapa essencial para a implementação de soluções e ferramentas de IA.
Enquanto não houver uma norma específica que regule o uso da IA pelos governos, a utilização correta da IA pressupõe que o Estado e seus servidores deverão observar, principalmente, os direitos e garantias fundamentais dos cidadãos, os princípios e regras aplicáveis à Administração Pública e os princípios da transparência e da proteção de dados.
_____________________________
¹ G7 ITALIA 2024. Kit de Ferramentas do G7 para Inteligência Artificial no Setor Público (tradução livre). Disponível em: https://www.oecd.org/en/publications/g7-toolkit-for-artificial-intelligence-in-the-public-sector_421c1244-en.html. Acesso em: 15 out. 2024.
_____________________________
² GOVERNO DO ESTADO DO PARANÁ. Secretaria de Planejamento e Projetos Estruturantes; Secretaria de Inovação, Modernização e Transformação Digital. Plano de Diretrizes de Inteligência Artificial na Administração Pública Estadual. Curitiba, 2024.
_____________________________
³ Sobre isso, no Paraná se verifica (i) a Lei de Inovação do Paraná 20.541/2021; e (ii) o Decreto 1.350/2022 – Regulamentação da Lei de Inovação. Em outros estados, nota-se (i) o Decreto 67.799/2023 de São Paulo – Estratégia de Governo Digital (2023-2026) e (ii) o Decreto 49.326/2024 do Rio de Janeiro – Estratégia Estadual de Governo Digital (2024-2027). Em âmbito federal, observa-se diversos projetos de lei acerca do tema, como (i) a Portaria MCTI 4.617/2021; (ii) Projeto de Lei 2.338/2023 – Uso da Inteligência Artificial no Brasil.