Conhecer, questionar e responder pelo uso da inteligência artificial nas empresas
Em fevereiro de 2024, no caso Moffatt versus Air Canada, um tribunal administrativo da Colúmbia Britânica, no Canadá, condenou a companhia aérea a indenizar um passageiro que havia confiado em informações incorretas de seu chatbot, um sistema automatizado de atendimento por mensagens. A orientação dizia respeito à possibilidade de solicitar uma tarifa especial por luto depois da viagem.
O valor em disputa era pequeno; a lição, não. O julgamento não examinou a responsabilidade de conselheiros, mas suscita uma questão de governança corporativa: como a organização supervisiona os sistemas que coloca em operação? Nas companhias com conselho de administração, essa pergunta envolve a diretoria e alcança o conselho em suas funções de orientação e fiscalização. Como demonstrar, na prática, que essa supervisão é adequada?
Neste artigo, utilizamos a expressão diligência algorítmica para organizar essa supervisão em três frentes de atuação complementares:
1) conhecer os usos e riscos dos sistemas;
2) questionar seus critérios e controles; e
3) responder pelas escolhas de governança que orientam sua utilização.
A tese é simples: a inteligência artificial pode ampliar a capacidade de decisão de uma empresa, mas não substitui o juízo que cabe aos seus administradores.
A IA amplia a decisão, mas não transfere o juízo
Para os fins destas considerações, é útil distinguir decisão de juízo. Aprovar um crédito, selecionar um candidato ou precificar um produto são decisões que podem ser preparadas ou executadas por sistemas automatizados. O juízo, no sentido aqui empregado, consiste em avaliar se aquela forma de decidir é adequada, proporcional, juridicamente admissível e compatível com os objetivos da companhia e com os direitos das pessoas afetadas. A automação operacional pode integrar o negócio sob limites e controles; nas deliberações estratégicas que competem ao conselho, a IA pode apoiar análises e cenários, preservando-se a formação do juízo e a deliberação pelos conselheiros.
A Lei nº 6.404/1976, a Lei das Sociedades por Ações, oferece fundamento para essa supervisão nas competências de orientação e fiscalização do conselho de administração, previstas no artigo 142, e nos deveres dos administradores. O assessoramento técnico apoia seu exercício, mas não substitui a avaliação do conselheiro. Preservar a responsabilidade humana significa manter identificáveis as atribuições, as escolhas e os deveres de supervisão. A eventual responsabilização pessoal depende da conduta de cada administrador e dos pressupostos legais, conforme o artigo 158; não decorre automaticamente de um erro do sistema.
Disso emerge um paradoxo da delegação: quanto mais a empresa automatiza decisões relevantes, mais precisa estruturar o juízo humano sobre seus objetivos, limites e controles. A automação não dilui a responsabilidade de supervisão; exige atenção aos pontos em que os riscos se concentram. Uma escolha feita uma única vez, na configuração ou na atualização de um modelo, passa a se reproduzir em milhares de operações, e um erro pode se repetir em escala antes de ser percebido.
Assim, o momento crítico da governança deixa de ser apenas a decisão individual e passa a ser a decisão sobre como decidir. O conselho não precisa acompanhar cada operação, mas compreender os riscos relevantes e as situações que exigem intervenção. À diretoria executiva, cabe conduzir a operação e executar os controles; ao conselho, supervisionar a adequação dessa estrutura e cobrar sua efetividade.
Conhecer: compreender os usos e os riscos
Ninguém supervisiona adequadamente aquilo cuja existência desconhece. O ponto de partida é exigir da diretoria um inventário atualizado dos sistemas de IA utilizados ou em desenvolvimento, incluindo ferramentas contratadas e funcionalidades incorporadas a outros serviços. Esse levantamento deve identificar finalidade, responsáveis, dados utilizados, grau de autonomia e possíveis impactos, permitindo reconhecer os sistemas críticos e as informações que ainda precisam chegar ao conselho.
O inventário precisa ajudar a estabelecer prioridades. Uma ferramenta de apoio à redação de comunicações internas e um sistema que interfere no acesso ao crédito, na contratação de empregados ou na segurança de uma operação podem exigir cuidados diferentes. A profundidade da supervisão deve acompanhar a relevância do uso, a extensão de seus efeitos e a dificuldade de corrigir eventuais danos.
No direito brasileiro, o art. 153 da Lei das S.A. fornece a referência do dever de diligência. O art. 159, § 6º, da mesma lei permite ao juiz reconhecer a exclusão da responsabilidade diante da boa-fé e da atuação voltada ao interesse da companhia. Um inventário atualizado, acompanhado de análise e providências efetivas, pode contribuir para demonstrar a supervisão exercida, sem assegurar proteção automática.
Questionar: examinar critérios, limites e controles
Conhecer não basta; é preciso questionar com ceticismo qualificado. O conselheiro não precisa dominar a programação dos modelos, mas deve obter explicações suficientes para avaliar suas aplicações. Como o sistema foi validado? Em quais situações perde confiabilidade? Como são identificados vieses, falhas e mudanças de desempenho? Quem tem autoridade para suspender sua utilização? Resultados de testes e análises críticas devem sustentar a confiança depositada na ferramenta.
O art. 20 da Lei Geral de Proteção de Dados Pessoais, a LGPD, assegura ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. Seu § 1º prevê o fornecimento, mediante solicitação, de informações claras e adequadas sobre critérios e procedimentos, observados os segredos comercial e industrial. O conselho deve verificar se a organização está preparada para atender a essas exigências nas hipóteses aplicáveis.
O questionamento deve alcançar os fornecedores. Contratar uma solução exige avaliar limitações, condições de uso, acesso a dados e procedimentos de resposta a incidentes. A transparência técnica insuficiente precisa pesar na contratação e na definição das atividades permitidas. Também importa compreender se serviços aparentemente distintos compartilham uma mesma infraestrutura e concentram riscos de continuidade. A pergunta decisiva é: temos razões suficientes para utilizar esta ferramenta, nesta atividade e sob estas condições?
O ceticismo vale para o próprio conselho. Conselheiros que recorrem à IA para resumir documentos ou explorar cenários precisam observar regras sobre informações confidenciais e privilegiadas. Também devem reconhecer que uma resposta fluente pode conter omissões, referências inexistentes ou conclusões sem sustentação. A aparência de segurança não dispensa a verificação.
Responder: prestar contas e acompanhar as consequências
Responder envolve prestar contas e agir diante das informações recebidas. O conselho deve estabelecer expectativas claras sobre quem apresenta os riscos associados à IA, com que periodicidade e em quais situações a comunicação precisa ser imediata. Comitês podem apoiar esse trabalho, mantendo claro o percurso das informações até o colegiado. Ganhos de produtividade, criação de valor e redução de custos precisam ser examinados junto de erros relevantes, reclamações, incidentes e medidas corretivas.
A documentação integra esse processo. Atas e materiais de apoio devem registrar os pontos relevantes da discussão, as razões das deliberações e os encaminhamentos adotados. Seu valor depende da correspondência com a atuação efetiva: perguntas precisam encontrar respostas, medidas precisam ter responsáveis e sua execução precisa ser acompanhada. Relatórios e planos de ação devem permitir verificar se a reação aos alertas foi proporcional e se as correções funcionaram.
Uma política de uso de IA pode reunir responsabilidades, limites, critérios de aprovação e procedimentos de resposta a incidentes, inclusive para os próprios conselheiros. Para orientar a conduta cotidiana, ela precisa ser compreendida por quem utiliza os sistemas e revista quando mudanças relevantes alterarem seus riscos. Regras viáveis e orientação acessível também ajudam a incorporar à supervisão os usos informais da tecnologia.
Responder inclui, ainda, acompanhar o ambiente regulatório. O PL 2.338/2023 permanece em tramitação na Câmara dos Deputados, conforme consulta realizada em 15 de outubro de 2026. Trata-se de uma proposta legislativa, cujas disposições não devem ser apresentadas como obrigações já vigentes. A discussão de novas regras convive com obrigações já aplicáveis à atividade empresarial.
Cabe avaliar, ainda, se o conselho reúne competências para exercer essa supervisão. Conforme a importância da tecnologia para o negócio, podem ser necessárias mudanças na composição, formação continuada e assessoria especializada. O conhecimento de um especialista deve ampliar o questionamento do colegiado e estimular a participação dos demais membros. Essa adaptação ao contexto é coerente com a orientação principiológica do Código das Melhores Práticas de Governança Corporativa do IBGC, cuja sexta edição, publicada em 2023, reúne práticas que, conforme a apresentação institucional da publicação, devem ser adaptadas às características e à maturidade de cada organização.
Da supervisão à prática: um exemplo hipotético brasileiro
Imaginemos uma companhia varejista brasileira, com conselho de administração, que utiliza inteligência artificial para analisar pedidos de crediário. O sistema aprova ou recusa solicitações dentro de parâmetros previamente estabelecidos. Depois de uma atualização, aumentam as reclamações de clientes que tiveram crédito recusado, embora apresentem histórico de pagamentos semelhante ao de consumidores aprovados. A situação não comprova, por si só, discriminação ou irregularidade, mas constitui um sinal que exige investigação.
Conhecer, nesse caso, significa o conselho exigir da diretoria informações sobre a finalidade do sistema, os dados utilizados, o fornecedor, os responsáveis e a extensão das decisões automatizadas. Importa compreender o que mudou na atualização, quantos clientes podem ter sido afetados e quais mecanismos de revisão existem. A diretoria conduz a apuração operacional; o conselho supervisiona sua abrangência e a qualidade das informações recebidas.
Questionar exige examinar como a atualização foi validada, quais fatores contribuíram para as recusas e se existem diferenças de tratamento sem justificativa adequada. Também cabe verificar os procedimentos para atender aos pedidos de revisão nas hipóteses do art. 20 da LGPD. A afirmação do fornecedor de que “o modelo funciona assim” não esclarece se seu uso permanece aceitável. A confiança precisa apoiar-se em evidências verificáveis.
Responder envolve acompanhar as providências da diretoria executiva, como investigar a falha, reexaminar solicitações afetadas e, conforme a gravidade, suspender a funcionalidade ou ampliar a revisão humana. O conselho deve cobrar responsáveis, prazos e evidências de que as correções funcionaram, registrando as razões de suas deliberações. A diligência se revela na reação fundamentada e proporcional, sem presumir culpa antes da apuração nem ignorar os sinais recebidos.
O juízo como última fronteira
Os deveres dos administradores já oferecem fundamento para a supervisão dos riscos da inteligência artificial, sem prejuízo de exigências específicas aplicáveis a cada atividade. Conhecer, questionar e responder são frentes complementares propostas neste artigo para traduzir esses deveres em práticas proporcionais à relevância dos sistemas e aos seus impactos.
As três frentes de atuação se completam e precisam ser revisitadas à medida que ferramentas, fornecedores e aplicações mudam. O conselho de administração precisa conservar a liberdade de discordar de uma recomendação automatizada e exigir razões para aceitá-la.
A lição que advém do caso Moffatt versus Air Canada é que a tecnologia não constitui uma esfera autônoma à qual a organização possa atribuir seus próprios deveres. Para os conselhos, permanece a tarefa de supervisionar as escolhas que tornam essa tecnologia parte do negócio. Automatizar uma atividade também exige decidir quais limites, controles e responsabilidades devem acompanhá-la. As máquinas podem ajudar a decidir cada vez mais, mas supervisionar como elas decidem, com seus critérios e seus limites, continua sendo tarefa do conselho. E, no conselho, quem julga ainda tem nome, assinatura e responsabilidade.
Mônica Mansur Brandão
Sugestões de leitura
Referência do caso de abertura:
Referências jurídicas brasileiras:
Referência brasileira de boas práticas:
Referências neste Espaço Governança:
