O progresso tecnológico não se mede apenas pela velocidade de processamento, pela quantidade de dados ou pela potência dos modelos.
A inteligência artificial está a transformar a forma como as pessoas comunicam, trabalham, aprendem e colaboram. Todos os dias surgem novos modelos e novas capacidades que ampliam o que os sistemas conseguem compreender, analisar e executar.
Na minha perspectiva, esta evolução levanta uma questão que merece mais atenção: como construir sistemas cada vez mais inteligentes sem comprometer a privacidade, a autonomia e a confiança das pessoas?
O verdadeiro desafio não é recolher mais informação
Durante anos, a transformação digital assentou na capacidade de recolher, armazenar e partilhar dados. Acreditava-se que acumular informação permitiria conhecer melhor os utilizadores e melhorar os serviços. Mas a quantidade de dados não garante, por si só, uma melhor compreensão das pessoas. O valor está na qualidade da informação, no contexto em que é produzida e na forma responsável como é utilizada.
A inteligência artificial leva esta capacidade a outra escala. Já não falamos apenas de sistemas que armazenam dados ou seguem instruções, mas de tecnologias que identificam padrões, cruzam fontes diferentes e produzem resultados capazes de influenciar decisões e experiências.
Por isso, o próximo grande desafio não será apenas construir modelos mais poderosos. Será criar condições para que a informação seja utilizada de forma autorizada, protegida, verificável e adequada ao contexto.
É também essencial distinguir entre recolher informação, analisar sinais e compreender o contexto. A forma como alguém utiliza uma aplicação, o ritmo a que interage ou as alterações no seu comportamento podem dar pistas sobre a experiência do utilizador. Mas um sinal isolado não é uma emoção, uma intenção ou uma condição humana: o mesmo comportamento pode ter explicações muito diferentes. A tecnologia não deve transformar indicadores limitados em conclusões absolutas sobre as pessoas. Deve interpretar sinais autorizados, de forma contextualizada e probabilística, reconhecendo os seus próprios limites.
Durante anos, (…) acreditava-se que acumular informação permitiria conhecer melhor os utilizadores e melhorar os serviços. Mas a quantidade de dados não garante, por si só, uma melhor compreensão das pessoas. O valor está na qualidade da informação, no contexto em que é produzida e na forma responsável como é utilizada.
A confiança deve fazer parte da arquitectura
A confiança digital não pode continuar a ser tratada como uma cláusula dos termos de utilização ou um mecanismo acrescentado depois de a aplicação estar construída. Tem de nascer na própria arquitectura. Desde a conceção, o sistema deve definir o que pode ser recolhido, com que autorização, para que finalidade, durante quanto tempo e em que condições pode ser usado. Num contexto europeu exigente, marcado pelo Regulamento Geral sobre a Protecção de Dados e pelo Regulamento da Inteligência Artificial, esta abordagem deixa de ser opcional.
Defendo uma abordagem assente em quatro dimensões:
Consentimento. As pessoas devem compreender aquilo que autorizam. A autorização tem de estar ligada a finalidades claras e nunca ser confundida com uma permissão ilimitada.
Privacidade. A protecção da informação deve estar presente na conceção da infra-estrutura. Nem toda a informação necessária para produzir inteligência tem de estar exposta a todas as aplicações envolvidas.
Verificação. São necessários mecanismos que confirmem identidades, permissões e condições de confiança, sem revelar informação desnecessária.
Inteligência contextual. A informação deve ser analisada à luz das circunstâncias em que foi produzida. O objectivo não é presumir emoções ou intenções, mas interpretar sinais autorizados de forma responsável, tratando os resultados como indicadores e não como diagnósticos.
Estas dimensões não funcionam isoladamente. O seu valor está na forma como se articulam numa arquitectura comum.
Uma nova relação entre IA, Web2 e Web3
A próxima geração de ecossistemas digitais resultará da combinação de várias tecnologias. A inteligência artificial apoia a análise, o Web2 oferece os ambientes de aplicação e o Web3 pode fornecer mecanismos de identidade, verificação e descentralização.
Nenhuma destas tecnologias resolve sozinha o problema da confiança. A inteligência artificial não é automaticamente fiável por produzir resultados sofisticados. A blockchain não garante que a informação registada seja verdadeira ou que a sua utilização seja adequada. E uma aplicação não se torna responsável só por apresentar uma política de privacidade.
A descentralização também não exige a exposição dos dados de ninguém. A informação sensível, em particular os sinais emocionais e comportamentais originais, deve permanecer encriptada, com acesso limitado e utilização controlada. O que circula entre aplicações são verificações e provas, não dados em bruto.
A próxima geração de ecossistemas digitais resultará da combinação de várias tecnologias. A inteligência artificial apoia a análise, o Web2 oferece os ambientes de aplicação e o Web3 pode fornecer mecanismos de identidade, verificação e descentralização.
A tecnologia deve permitir verificar o que é necessário sem expor o que deve permanecer privado.
Da visão à construção
Foi desta reflexão que nasceu a EmotiLink OS, uma infra-estrutura de confiança e inteligência emocional para ecossistemas digitais, com o posicionamento The Trust Layer for Intelligent Digital Ecosystems.
A EmotiCore é o seu núcleo tecnológico, onde se pretende integrar o consentimento, a privacidade, a verificação, a análise emocional e comportamental e a inteligência contextual. A arquitectura organiza-se numa cadeia de camadas. Tudo começa com sinais humanos recolhidos através de um Node, o ponto de captação dos sinais, que alimentam uma camada de dados e os estados de identidade e de emoção. Sobre estes assentam a análise comportamental, a camada de confiança e um oráculo emocional e comportamental, responsável por produzir indicadores contextuais a partir de sinais autorizados. Seguem-se a detecção de anomalias e a análise de risco, enquanto a segurança protege todo o percurso até à interoperabilidade entre ambientes Web2 e Web3.
Dos sinais humanos à inteligência, da inteligência à confiança, da confiança à segurança e da segurança à interoperabilidade.
O desenvolvimento parte de uma abordagem Web2 e a EmotiLink OS já dispõe de um MVP1, com componentes funcionais para a recolha de sinais comportamentais no navegador. Outros elementos da arquitectura continuam em desenvolvimento, e a integração de mecanismos mais avançados de identidade, análise contextual e serviços de confiança faz parte do percurso previsto.
A EmotiTribe está a ser desenvolvida como o primeiro contexto de aplicação desta visão: uma plataforma centrada na comunidade e no bem-estar digital. Convém distinguir os dois níveis.
A EmotiTribe demonstra um contexto de utilização; a EmotiCore é a infra-estrutura que pode servir muitos outros. A ambição é que diferentes plataformas e ecossistemas possam, no futuro, integrar mecanismos comuns de confiança.
Esta infra-estrutura pode vir a servir contextos muito diferentes: finanças descentralizadas (DeFi), saúde e bem-estar, educação, jogos, metaverso, seguradoras e outras áreas onde a confiança e a gestão de riscos comportamentais sejam essenciais, como a reputação digital ou as redes sociais descentralizadas. Em todos os casos, o princípio mantém-se: sinais autorizados, sob o controlo de cada pessoa, e resultados que apoiam as decisões humanas em vez de as substituir.
O futuro deve ser mais inteligente, mas também mais responsável
Se os sistemas digitais vão ter uma capacidade crescente de analisar comportamentos e influenciar decisões, os mecanismos que protegem os direitos, a autonomia e a privacidade dos utilizadores também têm de evoluir. O progresso tecnológico não se mede apenas pela velocidade de processamento, pela quantidade de dados ou pela potência dos modelos. Mede- se também pela qualidade das decisões, pela transparência dos mecanismos, pelo respeito pelo consentimento e pela capacidade de proteger a informação ao longo de todo o seu percurso.
A minha convicção é que a confiança deve deixar de ser um complemento da transformação digital e passar a ser um dos seus fundamentos. Afinal, o verdadeiro progresso não consiste apenas em construir tecnologias mais inteligentes. Consiste em construir tecnologias nas quais as pessoas possam confiar.