Nenhuma geração foi tão observada quanto a nossa. Pela primeira vez na história, tecnologias capazes de identificar rostos, cruzar informações financeiras, interpretar padrões de comportamento e processar bilhões de dados em segundos passaram a integrar a rotina das instituições públicas. Em nome da segurança, da eficiência e da proteção do interesse coletivo, o Estado tornou-se mais inteligente. A pergunta que ainda buscamos responder é se, na mesma proporção, permaneceu suficientemente limitado.
Quase quatro séculos antes da inteligência artificial, Thomas Hobbes já havia percebido que nenhuma sociedade sobrevive sem um poder capaz de assegurar a ordem. Em Leviatã, descreveu o Estado como um gigante criado pelos próprios indivíduos para conter a violência e garantir a paz civil. Seu propósito não era suprimir a liberdade, mas protegê-la. O paradoxo contemporâneo reside justamente no fato de que as mesmas tecnologias que ampliam a capacidade estatal de proteger direitos também expandem, em intensidade inédita, sua capacidade de monitorar, conhecer e influenciar a vida dos cidadãos.
Os sinais dessa transformação estão presentes em diversas democracias. Sistemas de reconhecimento facial auxiliam políticas públicas de segurança; bases fiscais, bancárias e patrimoniais são integradas para fortalecer mecanismos de controle; ferramentas de inteligência artificial apoiam atividades investigativas, administrativas e jurisdicionais. Casos recentes demonstram, inclusive, que sistemas conversacionais podem produzir elementos relevantes para a atuação das autoridades diante de situações concretas de risco. Individualmente, essas iniciativas encontram justificativas legítimas no interesse público. Coletivamente, porém, revelam uma questão constitucional de primeira grandeza: a capacidade tecnológica do Estado evolui em velocidade muito superior ao amadurecimento das salvaguardas jurídicas destinadas a limitar o seu exercício.
Essa percepção ganhou especial relevância durante as atividades acadêmicas das quais participei recentemente nas Universidades de Valência, na Espanha, e de Milão, na Itália, promovidas pelo Grupo de Pesquisa SmartCitiesBR, da Universidade de São Paulo, em cooperação com aquelas instituições. O uso crescente da inteligência artificial pelo Poder Judiciário ocupou posição central nos debates. Não havia resistência ao avanço tecnológico. Ao contrário, havia consenso quanto ao potencial da IA para ampliar a eficiência, a uniformidade e a qualidade da prestação jurisdicional. A preocupação estava em outro ponto: como preservar direitos fundamentais quando algoritmos ampliam exponencialmente a capacidade de vigilância, tratamento de dados e apoio à tomada de decisões? Liberdade de expressão, privacidade, consentimento, autonomia da vontade e soberania dos dados deixaram de ser apenas categorias teóricas para se tornarem desafios concretos do constitucionalismo contemporâneo.
Esse debate torna-se ainda mais sensível quando a expansão tecnológica se combina com práticas institucionais que, em diferentes países, tensionam garantias fundamentais como a presunção de inocência, a dignidade da pessoa humana e o devido processo legal. Em sociedades hiperconectadas, investigações frequentemente produzem intensa exposição pública, enquanto eventuais absolvições posteriores nem sempre conseguem reparar integralmente o dano reputacional causado pela antecipação do juízo social. O desafio democrático, portanto, não consiste apenas em aperfeiçoar instrumentos tecnológicos, mas em assegurar que sua utilização permaneça compatível com os valores constitucionais que legitimam o próprio exercício do poder.
Não se trata de defender um Estado fraco nem de negar a importância da tecnologia no enfrentamento da criminalidade, da corrupção, das fraudes ou da ineficiência administrativa. A sociedade contemporânea exige instituições fortes e capazes de responder a problemas igualmente complexos. O ponto central é outro: o poder tecnológico deve crescer na mesma medida em que se fortalecem os mecanismos de transparência, controle, proporcionalidade e responsabilidade. Sistemas públicos baseados em inteligência artificial precisam ser auditáveis, explicáveis e permanentemente submetidos ao escrutínio democrático.
Se Hobbes nos ensinou que a ordem é condição da liberdade, Montesquieu advertiu que todo poder precisa encontrar limites em outro poder. Mais tarde, Lord Acton eternizou a advertência de que o poder tende a corromper, e o poder absoluto corrompe absolutamente. No século XXI, essa máxima ganha um novo significado. A inteligência artificial não cria o Leviatã; apenas lhe concede novos sentidos, novos olhos e uma memória praticamente infinita. O maior desafio de nossa geração não consiste em impedir que o Estado utilize essas ferramentas, mas em garantir que elas permaneçam subordinadas à Constituição, ao Estado de Direito e à centralidade da pessoa humana. Afinal, uma democracia não se mede apenas pela eficiência de suas instituições, mas, sobretudo, pela capacidade de preservar a liberdade precisamente quando dispõe dos meios tecnológicos para restringi-la.
WELLINGTON MAGALHÃES
É juiz de direito, diretor adjunto da Escola Superior da Magistratura Tocantinense, coordenador do Centro Judiciário de Solução de Conflitos Ambientais e Fundiários, mestre em Direito Constitucional (Portugal), doutor em Desenvolvimento Regional, Políticas Públicas e Efetividade da Prestação Jurisdicional (UFT) e pós-doutorando em Inteligência Artificial e Justiça Ambiental (USP).
