Neste Espaço Governança, temos explorado a palavra governança com o sentido mais amplo de coordenação, em mais de um artigo. Neste breve texto, tratamos de duas aplicações desse termo: governança de tecnologia da informação (TI) e governança de inteligência artificial (IA), ambas subordinadas à governança corporativa.
----------------------------------
Caso hipotético
----------------------------------
É Black Friday. A empresa é uma grande rede de varejo, com infraestrutura de TI para processar cadastros e vendas (entre outras necessidades) e com um sistema de IA para análise preditiva de crédito (entre outras aplicações). Dois incidentes simultâneos ocorrem:
Problema de TI – o servidor trava por excesso de requisições. Não há plano de contingência, não há suporte escalado. Resultado: dano reputacional, vendas perdidas, prejuízo financeiro.
Problema de IA – o sistema de crédito nega financiamento de forma discriminatória, com base em padrões enviesados. Resultado: dano reputacional, vendas perdidas, prejuízo financeiro.
Para fins de simplificação, não se adentra, neste exemplo, em possíveis ações judiciais decorrentes dos fatos ocorridos.
Em ambos os eventos, aqui propositalmente simultâneos para apoiar o nosso raciocínio, os efeitos são similares, ou seja, dano reputacional, vendas perdidas e prejuízos incorridos. Com origens distintas: TI e IA.
Governança de TI e Governança de IA: irmãs complementares
Governança de TI e Governança de IA são irmãs complementares. Enquanto a primeira busca manter a base tecnológica segura, a segunda busca assegurar que as decisões tomadas por sistemas inteligentes estejam alinhadas com os valores e diretrizes da organização. De forma muito resumida, podemos dizer que a TI garante o “como” e a IA impacta o “o que” e o “quem”.
Governança de TI
Governança de TI refere-se à coordenação do conjunto de práticas, estruturas e processos que garantem que os recursos tecnológicos da empresa (sistemas, redes, dados, segurança, suporte) estejam alinhados à estratégia corporativa, com eficiência operacional, segurança e compliance.
Tal governança, temática, é servidora da governança corporativa, devendo assegurar que a infraestrutura digital esteja segura, confiável, disponível e a serviço dos objetivos de negócio. Governança de TI também serve diretamente à gestão das operações, permitindo que os times operem com fluidez, que os dados circulem com integridade e que os riscos tecnológicos a ela inerentes estejam sob controle.
Governança de IA
Governança de IA refere-se, por sua vez, à coordenação de algoritmos e sistemas que tomam decisões – e ajudam os administradores a tomar decisões –, aprendem com dados e impactam pessoas, clientes, contratos e reputações. Deve assegurar que o uso de IA siga princípios éticos e legais, seja auditável, explicável e seguro, sob supervisão humana, não perpetuando vieses ou decisões injustas.
Essa modalidade de governança temática também é servidora da governança corporativa, ao assegurar que a empresa não seja exposta a riscos invisíveis causados por decisões automatizadas, sem controle. Na gestão das operações, por seu turno, a governança de IA deve assegurar que a automação inteligente não ultrapasse os limites éticos, legais ou reputacionais, especialmente em áreas sensíveis como saúde, contratação, marketing, crédito e jurídica.
Desafios dos conselhos de administração
Em um mundo corporativo cada vez mais digital e veloz, o papel dos conselhos administrativos tem se expandido para além das decisões financeiras e da supervisão institucional. Atualmente, os conselhos precisam ser guardiões de políticas estratégicas que regem o uso da tecnologia, nos planos decisório e operacional.
Nesse contexto, estabelecer diretrizes para a governança de TI e a governança de IA, respeitando a legislação e mesmo indo além de suas disposições, no sentido de um maior rigor, é imprescindível. Ambas são essenciais, têm forte base tecnológica, mas, como dito, não são sinônimas. Seus objetivos, riscos e impactos são diferentes e suas políticas devem refletir as diferenças.
De modo não exaustivo, quais tópicos uma Política de Governança de TI deve contemplar? Abaixo relacionamos alguns itens que requerem diretrizes da Alta Administração:
- Inventário de ativos tecnológicos;
- Segurança da informação e proteção de dados;
- Continuidade e recuperação de desastres;
- Regras de aquisição e descarte de tecnologia;
- Gestão de acessos e permissões;
- Responsabilidades da equipe de TI e dos usuários;
- Conformidade com LGPD e outras normas;
- Ciclos de atualização, manutenção e auditoria; e,
- Capacitação de conselheiros e gestores.
E quanto a Política de Governança de IA? Esta deve conter diretrizes relacionadas a questões como (genericamente considerando):
- Finalidade clara de uso da IA e seus limites;
- Ética e vedação a vieses;
- Transparência, justiça, explicabilidade e segurança;
- Riscos antes da implantação;
- Responsabilidades de equipe de IA;
- Intervenção humana obrigatória em decisões críticas;
- Conformidade com LGPD e outras normas;
- Ciclos de atualização, manutenção e auditoria; e,
- Capacitação de conselheiros e gestores.
Não nos detemos aqui nas intersecções entre ambas as Políticas de Governança, destacando que elas não são estanques entre si, exigindo atenção a requisitos legais, manutenção, auditoria e capacitação de conselheiros e outros públicos organizacionais. E não nos admiremos se algumas organizações tratarem TI e IA em uma única Política de Governança de TI e IA, respeitando as diferenças. Tudo é possível.
Retornando ao início e refletindo sobre as Políticas de Governança de TI e IA
O exemplo hipotético visto inicialmente ilustra como TI e IA, ambas com forte conteúdo tecnológico, têm papeis distintos, requerendo políticas com diretrizes específicas. Uma boa política de TI teria previsto a diretriz de continuidade, viabilizada por testes de estresse, backup ativo e plano de resposta emergencial. Já uma boa política de IA teria exigido diretrizes éticas claras e a intervenção humana em decisões sensíveis. Em ambos os causos, auditorias são muito importantes.
Por fim, governança de TI e governança de IA, como dito, são complementares, não concorrentes. Irmãs, ambas devem existir – coexistir, na verdade –, ter diretrizes estratégias coerentes entre si, estar documentadas e ser monitoradas pelos conselhos de administração. Aliás, esses conselhos agregarão substancial velocidade em suas atividades com o emprego inteligente de IA. Conselheiros que lideram o futuro com responsabilidade têm consciência de que a tecnologia não é neutra e de que governá-la é um dever, não uma escolha.
Mônica Mansur Brandão
Leia também:
