Entre direitos fundamentais, transparência algorítmica e
a preservação da dignidade humana na nova praça pública digital
A escolha da palavra ágora em nosso título não é fortuita: ela evoca o coração pulsante da Grécia Antiga, o espaço público onde cidadãos se reuniam não apenas para trocar mercadorias, mas para exercitar a política, a justiça e o debate coletivo. Ao trazer esse termo para o contexto digital, sublinhamos que as redes sociais e as plataformas de inteligência artificial tornaram-se a ágora digital contemporânea, espaço no qual a democracia também se realiza, se tensiona e se reinventa. No entanto, a pergunta sem resposta definitiva é: o ambiente está sendo moldado para o debate humano ou para o controle algorítmico?
A Constituição Federal de 1988, embora concebida em um mundo analógico, revela-se surpreendentemente resiliente ao enfrentar os desafios dessa nova praça pública. A Carta Magna permanece contemporânea, pois abriga direitos, princípios e garantias capazes de proteger o cidadão também na era da IA. Em seguida, mencionamos, de forma não exauriente, alguns de seus fundamentos.
O princípio da dignidade da pessoa humana, um dos mais caros fundamentos da República, estabelecido no artigo 1º, inciso III, existe para assegurar que nenhuma pessoa seja reduzida a dado, perfil, padrão de consumo, estatística comportamental ou objeto de manipulação automatizada. Na era da inteligência artificial, a dignidade humana exige que a tecnologia reconheça o ser humano como fim, jamais como simples meio de extração de informação, lucro, vigilância ou controle social.
Esse princípio também impõe uma advertência civilizatória: eficiência técnica não pode ser confundida com legitimidade ética. Um sistema algorítmico pode ser rápido, preciso e economicamente vantajoso, mas ainda assim será incompatível com a Constituição do nosso País se produzir discriminação, invisibilizar vulneráveis, manipular escolhas, suprimir liberdades ou substituir a responsabilidade humana por decisões opacas. A dignidade da pessoa humana é, portanto, o primeiro limite constitucional à eventual tirania silenciosa da máquina.
Mais reflexões sobre pilares constitucionais
De forma não exauriente, o artigo 5º, inciso IV, da Constituição Federal, ao assegurar a livre manifestação do pensamento e vedar o anonimato, dialoga diretamente com a ágora digital. A liberdade de expressão permanece indispensável para a democracia, mas a vedação ao anonimato ganha nova complexidade, em um ambiente no qual robôs, perfis falsos, deepfakes e conteúdos sintéticos podem simular vozes humanas. A Constituição protege o direito de falar, mas também exige responsabilidade sobre o que se lança no espaço público.
O artigo 5º, inciso IX, ao proteger a liberdade de expressão da atividade intelectual, artística, científica e de comunicação, também se projeta sobre a inteligência artificial. A inovação tecnológica depende de liberdade criativa e científica, mas essa liberdade não autoriza a supressão de direitos fundamentais. O desafio constitucional está em permitir que a IA floresça como mecanismo de conhecimento, pesquisa, comunicação e criação, sem que se transforme em instrumento de desinformação ou manipulação coletiva.
O artigo 5º, inciso X, ao assegurar a inviolabilidade da intimidade, da vida privada, da honra e da imagem das pessoas, é um dos dispositivos mais sensíveis na era algorítmica. Sistemas de IA alimentam-se de dados, padrões e rastros digitais, muitas vezes invisíveis ao próprio titular. A proteção constitucional da privacidade impede que a vida humana seja inteiramente convertida em matéria-prima de bancos de dados, especialmente quando tais informações podem ser usadas para prever, influenciar ou condicionar comportamentos.
Também o artigo 5º, inciso XII, ao proteger o sigilo da correspondência e das comunicações, merece leitura renovada. Em uma sociedade mediada por plataformas digitais, aplicativos, nuvens e assistentes inteligentes, a comunicação humana deixou de circular apenas por cartas e telefones. A Constituição, nesse ponto, exige que a infraestrutura tecnológica respeite zonas mínimas de confidencialidade, sem as quais a liberdade de pensamento, a intimidade e o próprio exercício da cidadania ficam ameaçados.
Por fim, o artigo 5º, inciso LXXIX, assegura o direito fundamental à proteção dos dados pessoais, inclusive nos meios digitais. Trata-se de um dos pontos de contato mais evidentes entre a Carta Maior e a IA. Sem proteção de dados, não há autonomia informacional; sem autonomia informacional, o cidadão passa a ser lido, classificado, influenciado e eventualmente excluído por sistemas que ele não compreende e contra os quais muitas vezes não consegue reagir.
A proposta do PL 2.338/2023
No centro do debate legal atual, encontra-se o Projeto de Lei 2.338/2023, em tramitação no Congresso Nacional, que busca estabelecer o marco legal da inteligência artificial no Brasil. A proposta procura traduzir os princípios da Constituição de 1988 para a linguagem da tecnologia, impondo diretrizes para o desenvolvimento, a implementação e o uso responsável de sistemas de IA em território nacional.
O PL 2.338/2023 propõe uma abordagem baseada em riscos, classificando os sistemas de IA conforme o potencial de dano aos direitos fundamentais. A ideia é que, quanto maior o impacto na vida do cidadão, maior o nível de supervisão, transparência e cautela. Essa lógica protege a sociedade sem asfixiar a inovação que o país tanto necessita para o seu desenvolvimento.
Além disso, a proposta enfatiza o dever de transparência, exigindo que determinados sistemas sejam compreensíveis, auditáveis e sujeitos a mecanismos de controle. A caixa-preta dos algoritmos, que muitas vezes oculta vieses discriminatórios ou decisões arbitrárias, passa a ser um problema de interesse público, passível de regulação e fiscalização pelos órgãos competentes.
O PL também busca garantir a supervisão humana em situações sensíveis, reafirmando que, em última instância, a máquina não deve ser a autoridade final sobre o destino humano. A tecnologia deve ser ferramenta de suporte à decisão, nunca substituto absoluto da responsabilidade ética, jurídica e institucional que apenas seres humanos podem assumir perante a lei.
Por fim, o texto do PL 2.338/2023 tenta estabelecer regras sobre a responsabilização dos agentes de IA. A ideia central é que a inovação não pode ser uma terra sem lei, e que desenvolvedores, fornecedores e operadores de sistemas complexos devem responder por danos causados, garantindo que o cidadão lesado não fique desamparado diante da complexidade técnica.
Rumo ao futuro: a resiliência democrática
A construção do futuro exige um diálogo constante entre a sociedade civil, os setores produtivos e os Poderes da República. A interpretação constitucional não pode ser estática diante de uma realidade tecnológica em permanente mutação. Deve, ao contrário, preservar os direitos fundamentais, enquanto acompanha as transformações sociais, econômicas e culturais produzidas pela inteligência artificial. A ágora digital precisa ser revitalizada pela participação consciente, não capturada pelo consumo passivo de sugestões algorítmicas.
Estamos diante de uma oportunidade histórica de reafirmar os valores democráticos da Constituição Federal de 1988 em uma tecnologia sui generis, que tanto pode ampliar o acesso ao conhecimento, à justiça, à educação e à participação cidadã, quanto aprofundar desigualdades, automatizar preconceitos e deslocar o centro da decisão pública para estruturas invisíveis de poder privado.
Destacamos que a IA não é uma força da natureza que devemos apenas observar, como integrantes da sociedade, mas é uma ferramenta em construção, ainda que a pleno vapor. Temos o poder de moldar sua arquitetura para que ela reflita nossos valores constitucionais, ao invés de miná-los. O desafio não está em escolher entre inovação e proteção, mas em compreender que a verdadeira inovação democrática é aquela capaz de avançar sem sacrificar a centralidade da pessoa humana, a liberdade, a igualdade, a privacidade e a responsabilidade.
A sociedade civil necessita ser uma das guardiãs dessa transição. A tecnologia avança na velocidade do processamento de dados, mas a democracia avança no tempo do debate, da reflexão e do consenso. Se o algoritmo deseja velocidade, a Constituição exige direção; se a máquina promete eficiência, a democracia exige legitimidade; se a inovação abre caminhos, os direitos fundamentais indicam os limites que não podem ser ultrapassados.
Em uma democracia constitucional, nenhuma arquitetura tecnológica pode substituir a deliberação pública, pois a legitimidade do poder não nasce da eficiência do cálculo, mas da soberania popular. A nosso ver, é preciso caminhar para uma sociedade na qual o algoritmo se curve à dignidade humana e aos demais preceitos constitucionais. Em que a ágora digital continue sendo, acima o terreno sagrado onde o ser humano – com seus erros, suas virtudes e sua liberdade – permanece como a medida de todas as coisas. O brilho do progresso tecnológico não pode ofuscar a dignidade de quem, afinal, é o único e legítimo titular do poder em nosso País: o povo.
Mônica Mansur Brandão
-------------------------------------------
Perguntas para reflexão
-------------------------------------------
-------------------------------------------
A ágora digital é um espaço de deliberação cidadã ou tornou-se uma vitrine de estímulos algorítmicos?
Como a velocidade do algoritmo pode impactar a democracia?
Eficiência técnica justifica o sacrifício da dignidade e da isonomia de tratamento aos cidadãos?
Se a IA decide, e você não entende o porquê, pode estar havendo violação a direitos fundamentais (constitucionais)?
O servidor público tende a ser o responsável final, ou apenas o carimbo humano da vontade da máquina?
Sugestões de leitura:
