Estamos seguros com a IA na internet?

A cibersegurança enfrenta hoje uma nova realidade. O que antes parecia ficção científica tornou-se parte do dia a dia das pessoas e empresas: deepfakes convincentes, replicação de voz e imagem, e ataques personalizados em massa. A principal transformação ocorreu com a popularização de ferramentas de inteligência artificial como o ChatGPT, que tornaram estas tecnologias acessíveis a um número muito maior de pessoas – incluindo cibercriminosos.

Júlio César, coordenador do CERT.PT, que integra o Centro Nacional de Cibersegurança, identifica as pessoas como o “elo mais fraco” da cadeia de segurança. A utilização de IA para replicar vozes e imagens familiares cria um nível de confiança que dificulta a identificação de fraudes. O que antes eram ataques que partiam de emails com erros gramaticais óbvios, hoje são comunicações praticamente indistinguíveis das reais.

Um caso exemplificativo relatado no quarto episódio da série The Next Big Idea envolve um funcionário que recebeu uma chamada via WhatsApp com a imagem e voz do diretor financeiro da empresa, que ordenou uma transferência bancária para uma conta diferente da habitual. Este tipo de ataque, conhecido como “CEO Fraud”, torna-se cada vez mais difícil de detectar com o auxílio da IA.

A escala dos ciberataques também mudou. Se antes um atacante conseguia enviar até centenas de mensagens por dia, agora um “exército de robôs” pode disparar milhões de emails e manter conversas convincentes com potenciais vítimas em simultâneo, sem intervenção humana constante, diz Marcelo Rodrigues, Cybersecurity & Privacy Partner da PwC Portugal.

Mais: As implicações ultrapassam o mundo empresarial e afetam as próprias democracias. Casos como os “robocalls” atribuídos ao antigo Presidente Joe Biden nos EUA ou a repetição de processos eleitorais na Europa, nomeadamente na Roménia, devido a deepfakes são a prova do poder destas ferramentas para manipular a opinião pública.

A resposta a estas ameaças passa por dois caminhos paralelos: usar a própria IA como ferramenta de defesa, analisando padrões e detetando fraudes em escala, e capacitar as pessoas para um nível de desconfiança superior face às comunicações digitais, mesmo quando parecem vir de fontes familiares.

O episódio apresenta ainda a SIM Conference, um evento organizado pela Startup Portugal que decorreu na Alfândega do Porto com mais de 3.500 participantes, onde a cibersegurança foi um dos assuntos em cima da mesa. 

São estes os temas principais do mais recente episódio da série The Next Big Idea, que conta com a participação de Marcelo Rodrigues da PwC Portugal e Júlio César, coordenador do CERT.PT.

Os episódios do The Next Big Idea estreiam todos os sábados às 16h40 e domingos às 11h40, na SIC Notícias.