A incorporação da Inteligência Artificial (IA) na administração pública tem se intensificado nos últimos anos, impulsionada pela necessidade de aumentar a eficiência, melhorar a prestação de serviços e apoiar processos de tomada de decisão. Sistemas baseados em IA já são utilizados para análise de dados, previsão de demandas sociais, detecção de fraudes e automação de processos administrativos.
Nesse contexto, a utilização de tecnologias baseadas em IA surge como instrumento potencialmente capaz de promover agilidade na tomada de decisões administrativas, assegurar uniformidade técnica na análise de processos, padronizar critérios decisórios e fortalecer mecanismos de controle documental e de gestão de riscos. Assim, a prática dessas ferramentas tecnológicas aponta para a construção de uma Administração Pública mais dinâmica, orientada por dados e melhor preparada para enfrentar os desafios inerentes à governança pública contemporânea.
Entretanto, o uso dessas tecnologias pelo setor público levanta importantes desafios relacionados à transparência, responsabilidade e controle democrático. Nesse cenário, surge a necessidade de estabelecer estruturas robustas de governança que garantam o uso ético, seguro e responsável da Inteligência Artificial.
Governança de IA no Setor Público
Governança de Inteligência Artificial refere-se ao conjunto de políticas, normas, processos e mecanismos institucionais que orientam o desenvolvimento, implementação e supervisão de sistemas de IA. No âmbito da administração pública, essa governança busca assegurar que tais sistemas estejam alinhados com princípios fundamentais do direito público, como legalidade, eficiência, impessoalidade e publicidade.
A governança de IA envolve diferentes dimensões, entre elas:
- Regulação e conformidade jurídica: criação de normas que disciplinem o uso da tecnologia pelo Estado;
- Gestão de riscos algorítmicos: identificação e mitigação de riscos relacionados a vieses, discriminação e decisões automatizadas;
- Supervisão institucional: estabelecimento de órgãos ou comitês responsáveis por avaliar e monitorar sistemas de IA;
- Prestação de contas (accountability): garantia de mecanismos que permitam atribuir responsabilidade por decisões automatizadas.
No setor público, a governança precisa ser especialmente rigorosa, uma vez que decisões automatizadas podem impactar diretamente direitos fundamentais dos cidadãos.
A transparência é um dos pilares da administração pública democrática. Quando decisões administrativas passam a ser mediadas por algoritmos, surge a necessidade de garantir a chamada transparência algorítmica.
Esse conceito envolve a possibilidade de compreender como sistemas de IA são utilizados pelo governo, quais dados alimentam os modelos e de que forma os resultados influenciam decisões administrativas.
Essas medidas são essenciais para preservar a confiança da sociedade nas instituições públicas e permitir o controle social sobre o uso da tecnologia pelo Estado.
Embora pareça um novo mundo cheio de oportunidades, temos também inúmeros desafios na implementação da governança de IA. Apesar de sua importância, a implementação de estruturas efetivas de governança de IA enfrenta diversos desafios. Entre os principais tem a complexidade técnica dos sistemas algorítmicos, que dificulta sua compreensão por gestores e cidadãos; o risco de vieses algorítmicos, decorrentes de dados incompletos ou historicamente discriminatórios; a falta de capacitação institucional, especialmente em órgãos públicos que ainda não possuem equipes especializadas em ciência de dados e ética em IA e o equilíbrio entre transparência e proteção de dados, principalmente quando os sistemas utilizam informações sensíveis da população.
Além disso, existe o desafio de adaptar estruturas jurídicas tradicionais para lidar com decisões automatizadas e sistemas autônomos. Para enfrentar esses desafios, diversas iniciativas internacionais têm proposto princípios e diretrizes para o uso responsável da IA no setor público. No fim, a governança de sistemas de Inteligência Artificial na administração pública é o caminho para maior transparência e o controle democrático do país.
*Alessandra Montini é Diretora da FIA Business School – Labdata