Do Amália ao Caravela. Este projeto quer ser o ChatGPT português

Quando o Governo apresentou o Amália como o modelo de inteligência artificial feito para Portugal, Tiago Ferreira, João Amaro e Bartolomeu Rodrigues decidiram experimentá-lo a sério e perceber se o modelo aguentava a carga de trabalho do dia a dia.

“Eu fiquei muito interessado e achei que era uma boa altura para pegar no Amália, testar e ver o que é que realmente consegue fazer”, começa por contar Tiago Ferreira. A dupla, habituada a trabalhar com modelos internacionais, queria perceber que diferença fazia um modelo treinado especificamente para a cultura portuguesa.

A resposta não foi famosa. “O grande desafio depois de trabalhar com o Amália foi realmente verificar que não está pronto para produção, não consegue fazer praticamente nenhum trabalho que seja relevante profissionalmente”, resume João Amaro. Os dois queriam ligá-lo à Bolsa de Emprego Público, ao Portal BASE e à legislação nacional, mas esbarraram num problema técnico: o Amália não sabia usar ferramentas externas, só o seu próprio conhecimento, que, por sua vez, tinha data de validade.

Um “cérebro” que não aguentava a informação

A equipa tentou um atalho: usar um segundo modelo, mais capaz, para ir buscar a informação, entregando-a depois ao Amália apenas para escrever a resposta final. “O que nós vimos muito rapidamente é que mesmo com essa informação que o modelo mais inteligente extraía, o Amália depois alucinava e estragava praticamente o input todo que era recebido”, explica João Amaro.

Ainda assim, a infraestrutura construída à volta do modelo, ligações ao Estado, sistemas de pesquisa em documentos, integrações várias, continuava válida. Faltava era um “cérebro” à altura. Assim nasceu o Caravela: a mesma base, com modelos open source mais capazes, alojados em servidores europeus.

Tiago Ferreira resume a diferença com uma imagem: “Vamos supor que temos um corpo com cérebros diferentes. Entre o Amália e o Caravela, o corpo é o mesmo, a única coisa que nós alteramos é o cérebro.” Na página do Caravela, o utilizador pode, aliás, escolher entre os dois.

Na prática, o Caravela não é um único modelo de inteligência artificial, mas um sistema que escolhe, consoante a pergunta, qual o modelo mais indicado para responder, um pouco como um despachante que sabe a quem entregar cada tarefa. Essa escolha acontece nos bastidores: para quem está a escrever no chat, a experiência é sempre a mesma, seja qual for o modelo que está, de facto, a “pensar” a resposta.

A outra peça essencial é a capacidade de ir consultar fontes em vez de responder apenas com aquilo que aprendeu durante o treino. Quando alguém pergunta pela legislação em vigor ou por um número do INE, o Caravela consegue procurar diretamente esses documentos e bases de dados, encontrar o excerto relevante e usá-lo para construir a resposta, como se tivesse à distância de um clique um arquivo gigantesco, mas soubesse exatamente onde procurar.

Uma espécie de ChatGPT com sotaque português

João Amaro descreve o Caravela como “uma espécie de ChatGPT”, mas com uma diferença central: “enquanto o ChatGPT está otimizado para fazer trabalho generalista, o Caravela está otimizado para navegar o Estado português.” Isso inclui consultar a Bolsa de Emprego Público, o portal Mais Transparência, citar artigos da legislação, ou ir buscar indicadores diretamente ao INE.

A privacidade é outro argumento apresentado pelos fundadores do projeto. “As empresas queriam muito manter os dados na Europa. Queriam ter controlo sobre os dados e garantir que nada era utilizado depois para treino [de outros modelos de IA]”, nota Tiago Ferreira. Por trás do Caravela estão apenas modelos open source cuja localização e tratamento de dados a equipa controla.

Por agora, os casos de uso vão surgindo por encomenda: empresas que gastavam horas a montar relatórios com dados do INE, ou negócios que simplesmente querem um modelo para lidar com dados sensíveis. “Gostava que o Caravela fosse o go-to para qualquer empresa”, resume Tiago Ferreira, admitindo que o objetivo é ir cobrindo, uma a uma, as integrações que fazem falta no dia a dia do mercado de trabalho em Portugal.