Apoio que a decisão do Conselho Superior do Ministério Público de impedir o recurso à Inteligência Artificial (IA) para prever a probabilidade de condenação, estimar o risco de reincidência através de perfis automáticos ou sugerir medidas de coação afirma, com nitidez, os princípios essenciais do Estado de direito democrático. Porquê? Porque a justiça não pode ser convertida num exercício estatístico nem delegada em algoritmos que, por mais avançados que sejam, operam sobre padrões do passado e não sobre a apreciação individual de cada caso.
Quando as probabilidades substituem os factos e as previsões antecipam o julgamento, a tecnologia deixa de servir a justiça para começar a redefini-la. Nesse âmbito, a liberdade é progressivamente erodida, na medida em que o sujeito deixa de ser reconhecido como agente capaz de deliberar e agir para passar a ser tratado como portador de uma trajetória previsível. A contingência própria da ação humana – expressão mesma do livre‑arbítrio e da sua imponderabilidade constitutiva – é comprimida por uma lógica de antecipação que tende a converter o possível em necessário. Ao fazê‑lo, não só se desfigura a responsabilidade moral, fundada na imputação de atos efetivos, como se institui um determinismo operativo em que o futuro é administrado como se já estivesse inscrito no presente.
A ficção científica, concretamente o Minority Report, de Philip K. Dick, oferece uma metáfora particularmente iluminadora. O sistema “PreCrime” permite deter pessoas antes de cometerem um crime, com base na previsão de acontecimentos futuros. Embora apresentado como quase infalível, o enredo demonstra que a confiança cega em mecanismos preditivos conduz à erosão das garantias fundamentais, substituindo a presunção de inocência por uma presunção de culpa. O protagonista, interpretado por Tom Cruise, torna‑se vítima do próprio sistema ao ser acusado de um homicídio ainda não ocorrido, revelando que a possibilidade de erro e a liberdade humana nunca podem ser eliminadas.
Claro que a realidade da IA contemporânea é distinta da ficção. Não obstante, o paralelismo é evidente. Um algoritmo que estime a probabilidade de condenação ou a propensão para reincidência não arrisca transformar correlações estatísticas em juízos sobre pessoas concretas? E em vez de avaliar factos, provas e comportamentos efetivos, não passaria a influenciar decisões com base naquilo que alguém poderá vir a fazer ou na forma como indivíduos semelhantes se comportaram no passado? Podem perguntar quais são os perigos? A substituição de factos por previsões tende a cristalizar enviesamentos e a corroer a igualdade de tratamento; ao mesmo tempo, fragiliza a imparcialidade judicial ao ancorar decisões em probabilidades em vez de atos concretos.
A proibição de recorrer à IA para sugerir medidas de coação é igualmente sensata. Estas medidas implicam restrições relevantes de direitos fundamentais, sobretudo da liberdade, e devem resultar de uma ponderação humana, fundamentada e contextualizada. A responsabilidade por essa decisão não pode ser transferida para sistemas automatizados cuja lógica interna é opaca e dificilmente escrutinável. A IA pode e deve modernizar a justiça, apoiando tarefas administrativas, pesquisa jurisprudencial, organização documental ou análise de grandes volumes de informação. Mas quando estão em causa decisões que afetam direitos, liberdades e garantias, a última palavra deve caber ao magistrado, que decide segundo a lei, a prova e a sua convicção fundamentada.
A Carta para a utilização ética da IA pelo Ministério Público traduz, assim, uma opção prudente e coerente com os valores constitucionais. Tal como Minority Report alerta para os perigos de sacrificar a justiça em nome da previsão, também esta Carta reconhece que a tecnologia deve apoiar a decisão humana, nunca substituí‑la quando está em causa a dignidade da pessoa, a presunção de inocência e o direito a um julgamento justo.
Importa recordar que nenhum sistema de IA produz previsões infalíveis. Os modelos trabalham com probabilidades derivadas de dados históricos, não com certezas sobre o futuro. Mesmo com elevada precisão, existe sempre margem de erro, gerando falsos positivos e falsos negativos. No contexto penal, onde se protegem liberdade, honra e presunção de inocência, essa margem não é um detalhe técnico: uma decisão baseada em probabilidade continua a ser uma decisão assente na incerteza, e não deve limitar direitos nem antecipar juízos sobre culpabilidade ou perigosidade.
Além disso, como já referido, o comportamento humano possui uma dimensão de liberdade e imprevisibilidade que escapa a qualquer modelo. As pessoas mudam, aprendem, alteram circunstâncias e tomam decisões que contrariam expectativas. A história está repleta de exemplos de indivíduos que desafiaram previsões, para melhor ou para pior. É essa capacidade de escolha que sustenta a responsabilidade individual e exige que cada caso seja julgado pelos factos, não por perfis estatísticos. Tratar probabilidades como certezas seria julgar pessoas por aquilo que poderão fazer, aproximando‑se perigosamente da lógica descrita no Minority Report.
Embora seja comum associar intenções moralmente condenáveis à probabilidade da sua concretização, essa relação não é necessária nem inevitável. Imaginar um ato mau não implica realizá‑lo. A esfera do pensamento é distinta da ação, mediada por normas sociais, autocontrolo, juízo ético e circunstâncias.
É precisamente este problema que Minority Report explora: o sistema “PreCrime” assenta na equivalência entre intenção futura e ação inevitável, uma premissa profundamente discutível. Ao punir indivíduos por crimes não cometidos, elimina a escolha moral e nega a contingência da ação humana. Embora o “PreCrime” não seja um sistema de inteligência artificial, a crítica tecnológica, filosófica e jurídica que levanta – até que ponto é legítimo sancionar alguém por aquilo que ainda não aconteceu e que pode nunca vir a acontecer? – é igualmente válida para a IA quando aplicada à justiça penal.
Também aqui, a distinção entre pensar e agir torna‑se essencial para qualquer conceção robusta de responsabilidade moral e justiça, tanto mais que o comportamento humano permanece irredutivelmente livre, contingente e não inteiramente capturável por modelos estatísticos.