Travar a inteligência artificial? “Se abrandam uns, não abrandam outros” avisa engenheiro de IA

Têm sido semanas agitadas para a inteligência artificial. O CEO da Anthropic, Dario Amodei, pediu um abrandamento imediato do setor, avisando que as consequências podiam ser devastadoras dentro de meses. Sam Altman, da OpenAI, concordou pouco depois. 

Afonso Oliveira, engenheiro de IA da OliveGradient especializado em sistemas multiagente, ouve os alarmes, mas não tem pressa em puxar o travão. “O meu instinto, neste momento, é: ainda não. Acho que faz sentido falar-se muito mais sobre a maneira como se aplica a inteligência artificial e sobre as barreiras que temos de pôr à volta dela”, disse, à margem da Lisbon AI, um evento em Lisboa dedicado à IA. 

Até porque “se abrandam uns, não abrandam outros”. Daí que as empresas peçam calma enquanto gastam milhares de milhões em computação. Como numa prova de ciclismo: “Há o pelotão e, se alguém está a puxar, os outros têm de ir atrás. Quando abrandam, têm de abrandar todos, senão alguém fica para trás. Ninguém quer ficar fora do pelotão, até porque, neste caso, é o pelotão da frente.” E, perante laboratórios menos preocupados com segurança: “Se há pessoas que mostram, pelo menos, essa preocupação, prefiro que sejam essas a estar à frente do desenvolvimento.”

Quando o teste sai da caixa

Em julho, modelos da OpenAI escaparam de um ambiente de testes, chegaram à internet e entraram nos sistemas da Hugging Face, à procura de informação para fazer batota numa avaliação.

Para Afonso Oliveira, é a prova de que “a perda de controlo, de facto, acontece”. Ainda assim: “Os agentes encontraram falhas e foi graças a essas falhas que se fizeram patches para reforçar a segurança. É preciso ter muito cuidado com as barreiras onde pomos os nossos agentes. E é preciso muita cabeça para saber onde é que pomos um agente e o que é que pomos à volta dele.”

Sobre quem deve responder pelos danos causados por um sistema de inteligência artificial, o responsável ressalva não ser jurista, mas considera que “quem pôs o agente a correr tem a responsabilidade de garantir que o agente não sai do âmbito onde está. Foi um software por eles executado e eles tinham noção dessa parte probabilística.” E acrescenta: “É uma ferramenta que tira muita coisa do nosso controlo, mas temos de ser nós a validar.”

Alarme ou marketing?

Uma das receitas de Dario Amodei para abrandar o desenvolvimento da IA passa pela colocação de avaliadores independentes nas próprias empresas. Na Europa, parte deste caminho já está no AI Act, o regulamento europeu para a inteligência artificial em vigor desde 2024, que arruma os sistemas por níveis de risco, proíbe alguns usos e impõe mais exigências de documentação, transparência e supervisão humana quanto maior for o risco. Afonso Oliveira lembra que o regulamento já começou a clarificar estas responsabilidades, mas deixa um reparo: “Numa empresa, quando começa, é muito difícil estar em cima de toda esta legislação. É preciso regular estas responsabilidades e facilitar quem tem de as implementar.”

Quanto às intenções, é cético. Em abril, a Anthropic abriu um teste limitado do Mythos, modelo que considerou demasiado poderoso para chegar ao público. “Neste momento, ainda estou naquela fase em que, para mim, tudo o que eles dizem é marketing”, admite. “Estamos a entrar numa nova era em que estamos a ficar dependentes deste tipo de software, que é muito probabilístico, e temos de aprender a andar à volta dele.”

E a Europa? Para Afonso Oliveira, tem voz nesta discussão, ainda que com um poder mais reduzido. “Acho que também tem [uma palavra a dizer], porque tem muita base de utilizadores”, responde. A isso junta o peso da investigação e o poder de regular: é a União Europeia que define as regras do mercado onde vivem os seus cidadãos e que serviços lá podem ser usados. “Portanto, tem algum peso, mas claramente não tanto como as empresas que estão a avançar com isto”, admite. E esse trunfo tem limites: as empresas “podem simplesmente esquecer a Europa e não ter cá os serviços”.

A conversa decorreu no âmbito da Lisbon AI, uma conferência para quem constrói com IA. Houve sessões sobre modelos em português europeu, agentes, avaliação e descoberta de fármacos. O fecho coube à segurança: Diogo Mónica perguntou se as fugas de IA revelam superinteligência ou super-incompetência e Afonso Oliveira falou de como construir IA em que as pessoas confiem.