“A IA está a tratar a História como Fast Food”

Imagina uma sala com 20 alunos. Todos usam o ChatGPT para pesquisar o mesmo evento histórico. O resultado? “Vamos ter seis, sete, oito histórias diferentes”, diz Nuno Moniz, investigador da Universidade de Notre Dame e um dos autores de um estudo que, pela primeira vez, analisa de forma sistemática como os sistemas de inteligência artificial apresentam informação histórica.

Entramos num processo de confusão histórica que é perigoso, alerta Nuno Moniz

Este “Policy brief” é fruto de um consórcio internacional que envolve investigadores dos Estados Unidos, Portugal, Bélgica e Croácia, de áreas tão distintas como ciência de computadores, filosofia e história. E aquilo que encontraram vai além das chamadas alucinações – a tendência dos modelos de linguagem para inventarem factos com uma confiança que convence.

• Onde é que os modelos erram? Inventam batalhas que nunca aconteceram, referências a obras bibliográficas que não existem. Além disso fazem deslocações cronológicas de momentos importantes e omissões significativas, “como nem sequer mencionar a independência da Guiné-Bissau em 1973″.

Depois há um problema que Nuno Moniz considera particularmente difícil de resolver: o peso da língua inglesa nos dados de treino. Um utilizador que pergunta sobre a história portuguesa em inglês pode obter uma resposta substancialmente diferente, e menos precisa, do que alguém que pergunta em português.

A falta de informação sobre determinados conflitos faz com que as narrativas sejam mais concisas e que muitos eventos bastante importantes nem apareçam. (…). As línguas com menor representação tendem a ter uma prevalência muito maior de incorreções e de omissão de eventos importante, alerta.

A história tratada como “fast food”

Para além dos erros factuais, o investigador português identifica um problema mais estrutural na forma como estes sistemas apresentam a informação histórica.

“A história tem um começo, tem uma iteração qualquer de eventos e chega até ao fim, sendo apresentada como uma linha estreita de sequência de eventos. E isso é simplesmente errado. Vai fazer com que todo o historiador e historiadora numa sala metam as mãos na cabeça.”

A história é interpretação, debate, perspetiva. Os modelos de linguagem tendem a achatar essa complexidade numa narrativa linear e definitiva, entregue com uma autoridade que leva muitos utilizadores a acreditar sem questionar. O problema agrava-se num momento em que a velocidade domina o consumo de informação.

Quando esta informação nos é apresentada de uma forma tão ‘fast food’, principalmente num momento da sociedade em que nos é dito que quanto mais rápido melhor, temos imensas pessoas a consumir informação sobre eventos que muitas vezes definem a identidade cultural, sobretudo em idades mais jovens. E estão a consumir isso de uma forma muito acrítica.

O alerta enviado à Assembleia da República

Em Portugal, cerca de 80% dos estudantes universitários já usam estas ferramentas para o seu trabalho académico, segundo dados da Universidade de Coimbra citados no estudo.

“Não estamos a falar de uma tendência marginal. Estamos a falar daquilo que nós sabemos que é uma utilização massiva”, sublinha Nuno Moniz.

E o problema, acrescenta, é que os efeitos não se sentem imediatamente. O perigo muitas vezes demonstra-se a médio e longo prazo e aí vai ser difícil dar a volta. 

É por esta razão que o estudo foi enviado à Assembleia da República, mais concretamente à 8.ª Comissão de Educação e Ciência, com três recomendações concretas: formação específica para professores sobre como integrar (ou não) estas ferramentas em sala de aula; aceleração da regulamentação nas instituições de ensino superior; e investimento nacional em investigação sobre os casos de uso onde a IA é genuinamente útil e aqueles onde é perigosa.

• A proibição pode ser a solução? Nuno Moniz defende que a proibição desta tecnologia “não levaria a nenhum efeito prático”. A solução está na forma como estas ferramentas são usadas e ensinadas. Mais do que nunca, os professores devem estimular o “mindset de jornalista”: ensinar a capacidade de verificar, questionar e não aceitar uma resposta apenas porque soa bem e parece confiante.
• O que muda, afinal? Pouco ou não assim tanto. Nuno Moniz lembra que quando apareceu a internet aprendemos a não confiar em qualquer fonte, com a IA generativa, o desafio é o mesmo mas com uma “aparência de autoridade” muito mais convincente. “Temos de criar a consciencialização de que, com estas ferramentas, é exatamente a mesma coisa. Nada muda.”

A questão não é se a IA deve ter lugar na educação. É perceber, com rigor, onde esse lugar é e onde não é.