Escrito por Alesssandra Montini, Diretora da FIA Business School – Labdata, Professora na FEA-USP, Palestrante e Consultora em Dados e Inteligência Artificial.
A inteligência artificial já deixou de ser uma aposta para se tornar parte das decisões que moldam o futuro das organizações. Hoje, algoritmos apoiam análises de crédito, selecionam candidatos a vagas, identificam fraudes, auxiliam diagnósticos médicos, projetam demandas, negociam ativos financeiros e influenciam decisões estratégicas em praticamente todos os setores da economia.
Mas, à medida que a IA assume um papel cada vez mais relevante, surge uma pergunta que ainda permanece sem resposta clara em muitas empresas: quem responde quando a inteligência artificial erra?
A questão vai muito além da tecnologia. Ela envolve responsabilidade, governança, ética e prestação de contas. E é justamente nesse ponto que muitas organizações ainda apresentam um vazio preocupante. A decisão pode ser automatizada. A responsabilidade, não.
Existe uma percepção equivocada de que, quando uma decisão é apoiada por inteligência artificial, a responsabilidade também passa a ser da tecnologia. Isso não acontece.
Modelos de IA não possuem personalidade jurídica, não respondem perante órgãos reguladores e não podem ser responsabilizados por danos causados a clientes, investidores ou à sociedade. Quem responde continua sendo a organização e, em última instância, sua liderança. Essa realidade torna a governança da IA um tema estratégico para conselhos de administração.
Não basta discutir quais ferramentas serão adotadas. É necessário definir quem supervisiona os modelos, quem valida seus resultados, quais riscos são aceitáveis e como decisões automatizadas serão monitoradas ao longo do tempo. O maior risco talvez não seja a IA. É a ausência de governança.
Boa parte das empresas iniciou sua jornada com inteligência artificial de forma descentralizada. Áreas de marketing utilizam IA para criação de conteúdo. Recursos Humanos recorrem a algoritmos para triagem de currículos. Jurídico testa ferramentas para análise contratual. Financeiro automatiza previsões e operações. Em muitos casos, cada departamento adota soluções diferentes, com critérios distintos e pouca coordenação institucional.
O resultado é um ambiente onde a tecnologia avança mais rapidamente do que os mecanismos de controle. Sem diretrizes corporativas, cresce a dificuldade para responder perguntas fundamentais:
- Quem aprova o uso de um novo modelo de IA?
- Como verificar se os dados utilizados são confiáveis?
- Como monitorar vieses e impactos discriminatórios?
- O que fazer quando um algoritmo produz uma decisão incorreta?
- Quem comunica incidentes e como eles são tratados?
Se essas respostas não existem, o problema não é tecnológico. É de governança.
Os conselhos precisam ampliar sua agenda
Tradicionalmente, os conselhos concentram sua atuação em estratégia, desempenho financeiro, compliance, riscos e sustentabilidade. A inteligência artificial passa a atravessar todos esses temas.
Uma decisão automatizada pode afetar a reputação da empresa, gerar sanções regulatórias, comprometer a confiança de investidores ou provocar impactos financeiros significativos. Por isso, IA não pode permanecer restrita aos departamentos de tecnologia. Ela precisa fazer parte da agenda permanente dos conselhos.
Assim como organizações desenvolveram estruturas para governança financeira, segurança da informação e proteção de dados, será necessário construir modelos específicos para governança da inteligência artificial.
Governança começa antes da tecnologia
Criar governança para IA não significa apenas elaborar políticas internas. Significa estabelecer responsabilidades claras ao longo de todo o ciclo de vida dos sistemas inteligentes. Isso inclui definir critérios para seleção de fornecedores, qualidade dos dados utilizados no treinamento, validação dos modelos antes da implementação, monitoramento contínuo dos resultados, auditorias periódicas e planos de resposta para incidentes.
Também significa criar mecanismos para garantir transparência nas decisões automatizadas e assegurar que exista supervisão humana quando necessário. A tecnologia evolui rapidamente. A governança precisa evoluir no mesmo ritmo.
Letramento em IA é responsabilidade da alta liderança
Outro desafio frequentemente subestimado é o conhecimento dos próprios conselheiros. Não é necessário que membros do conselho saibam desenvolver algoritmos ou programar modelos de linguagem. O que se espera deles é capacidade para formular as perguntas certas.
Sem esse letramento, o conselho corre o risco de aprovar investimentos sem compreender plenamente suas implicações ou, no extremo oposto, deixar de capturar oportunidades estratégicas por desconhecimento.
A confiança será construída pela governança
Nos próximos anos, a competitividade das empresas não será determinada apenas pela adoção da inteligência artificial, mas pela forma como ela será governada.
Clientes, investidores e reguladores tendem a exigir cada vez mais transparência sobre o uso dessas tecnologias, especialmente em decisões que afetam pessoas. Nesse contexto, governança deixa de ser um mecanismo de controle para se tornar um fator de confiança.
Empresas que conseguirem demonstrar responsabilidade, supervisão e clareza sobre o funcionamento de seus sistemas inteligentes estarão mais preparadas para inovar com segurança e preservar sua reputação.
O conselho do futuro começa agora
A discussão sobre inteligência artificial não pode ser limitada à eficiência operacional ou ao potencial de redução de custos. Ela envolve reputação, responsabilidade corporativa e sustentabilidade dos negócios.
Os conselhos de administração têm um papel decisivo nessa transformação. Cabe a eles garantir que a inovação avance acompanhada por princípios de governança capazes de proteger a organização, seus stakeholders e a sociedade.
A pergunta que toda empresa deveria fazer não é apenas “como podemos usar inteligência artificial?”, mas “quem responderá pelas decisões tomadas com o apoio dela?”
Enquanto essa resposta permanecer indefinida, existirá um vazio de governança que nenhuma tecnologia será capaz de preencher.