Podemos confiar no dono do ChatGPT? O lado negro de Sam Altman

Sam Altman é, para muitos, a cara da revolução da inteligência artificial. À frente da OpenAI (dona do ChatGPT e protagonista do debate global sobre IA), tem sido descrito como o maior pitchman da sua geração: alguém capaz de convencer qualquer pessoa de que aquilo que quer é exatamente o que o mundo precisa.

Mas a investigação “Sam Altman May Control Our Future — Can He Be Trusted?” levanta uma questão incómoda: podemos confiar o futuro da humanidade a um homem com estas características?

O trabalho, publicado na The New Yorker, é assinado por Ronan Farrow e Andrew Marantz, e resultou de mais de um ano de investigação. Os jornalistas analisaram mais de 200 páginas de documentos internos e falaram com mais de 100 fontes com conhecimento direto da forma como Altman conduz os negócios.

Sam Altman não é o que parece?

Em primeiro lugar, a investigação aponta para um caminho de “lucro acidental”, muito diferente da missão original da empresa, apresentada na sua fundação em 2015.

O que era suposto ser a OpenAI? Uma organização sem fins lucrativos, focada na segurança da IA acima de qualquer interesse comercial, incluindo a própria sobrevivência da empresa. Os fundadores acreditavam que poderiam estar a construir a tecnologia mais perigosa da história humana e que, precisamente por isso, não a podiam deixar nas mãos de incentivos puramente comerciais.

Hoje, a OpenAI prepara-se para uma oferta pública inicial com uma valorização avaliada em mais de um bilião (trilion) de dólares. A missão original deu lugar à lógica de crescimento. Equipas internas de segurança foram desmanteladas ou perderam recursos. E o homem que conduziu esta transformação é Sam Altman.

O despedimento que durou três dias

Em novembro de 2023, o conselho de administração da OpenAI despediu Altman de um dia para o outro.

A razão oficial: falta de consistência na transparência de algumas comunicações.

Ninguém estava à espera. Nem investidores próximos perceberam o que se tinha passado. A Microsoft, que já tinha investido cerca de 13 mil milhões de dólares na empresa, soube da decisão à última hora. O CEO Satya Nadella afirmou mais tarde que ficou “muito surpreendido”.

“A razão verdadeira”? o ex-cientista-chefe Ilya Sutskever terá compilado cerca de 70 páginas de mensagens internas e documentos de recursos humanos sobre o comportamento de Altman. O primeiro ponto de um dos memorandos era direto: “Mentira.” Os documentos foram enviados como mensagens autodestrutivas, porque Sutskever estaria “aterrorizado” com a possibilidade de serem encontrados.

Não acho que o Sam seja a pessoa certa para ter o dedo no botão, afirmou o ex-cientista-chefe, citado na investigação.

Decisão sem efeito? O despedimento durou apenas 72 horas. Mais de 700 funcionários, investidores e o próprio Altman organizaram uma contraofensiva. O conselho foi substituído e o CEO regressou.

A investigação posterior, conduzida pelo escritório de advogados WilmerHale, não produziu qualquer relatório escrito. Seis fontes ouvidas pela The New Yorker dizem que o processo pareceu desenhado para limitar a transparência, não para a promover.

Um padrão que atravessa a carreira

Na Y Combinator, a aceleradora que liderou antes da OpenAI, antigos colegas terão dito ao fundador Paul Graham que Altman “mentia o tempo todo”. Altman nega ter sido despedido; Graham terá afirmado em privado o contrário.

Mentiroso compulsivo? Há quem diga que sim. Em dezembro de 2022, Altman terá garantido ao conselho de administração que as funcionalidades controversas do GPT-4 tinham sido aprovadas por um painel de segurança. Helen Toner, que fez parte do conselho de administração, revelou que pediu mais informações sobre o novo modelo e descobriu que as funcionalidades mais sensíveis nunca tinham sido aprovadas. Nessa mesma altura, a Microsoft lançou uma versão antecipada do ChatGPT na Índia sem a revisão de segurança obrigatória, e Altman nunca mencionou isso ao conselho.

Também Dario Amodei, que foi investigador sénior da OpenAI e hoje líder da Anthropic, acumulou centenas de páginas de notas sobre as suas interações com Altman. Numa delas, descreve um momento em que o confrontou sobre uma cláusula contratual e o CEO da OpenAI, negou que a cláusula existisse. 

“O problema com a OpenAI é o próprio Sam”, criticou Dario Amodei.

“Segurança”: um compromisso que ficou no papel

Em 2023, a OpenAI anunciou que iria dedicar 20% do seu poder computacional a uma equipa focada em riscos existenciais da IA, um compromisso avaliado em mais de mil milhões de dólares.

A investigação desmente: quatro fontes indicam que os recursos atribuídos ficaram entre 1% e 2% do prometido, muitas vezes com hardware obsoleto. A equipa acabou por ser dissolvida.

Ao mesmo tempo, Altman, que publicamente defendia regulação da IA em termos quase apocalípticos, terá feito lobby contra legislação europeia e contra uma lei na Califórnia que exigia testes de segurança.

“Vimos um comportamento cada vez mais astuto e enganador”, disse um assessor legislativo.

O retrato de um “sociopata”

A investigação descreve Altman como alguém com uma ambição de poder que se destaca mesmo em Silicon Valley.

“Dois traços que raramente coexistem”: um forte desejo de agradar e uma aparente indiferença às consequências de enganar. A palavra “sociopata” foi usada por várias fontes.

Steve Jobs vs Sam Altman: Os jornalistas traçam as diferenças. Descrevem o dono da Apple, como alguém que projetava um “campo de distorção da realidade”mas que Altman consegue ir mais longe. 

“Truques de Jedi”? Jobs nunca disse aos seus clientes que, se não comprassem o seu leitor de MP3, as pessoas que amavam podiam morrer. Altman usa esse tipo de argumento existencial: a ideia de que adotar a sua visão da IA é literalmente uma questão de vida ou morte para a humanidade, como ferramenta de persuasão e de poder.

Um executivo sénior da Microsoft foi ainda mais direto, sugere que Altman poderá vir a ser recordado como um “burlão ao nível de Bernie Madoff ou Sam Bankman-Fried”. Outro descreve-o como alguém que usa “truques de Jedi”, uma habilidade conhecida por ser usada para influenciar sutilmente mentes fracas, permitindo persuasão, desvio de atenção e resolução pacífica de conflitos

O que está em jogo

A OpenAI prepara-se para uma oferta pública inicial com uma valorização de biliões (trilion) de dólares. Altman tem negociado acordos de infraestrutura com governos do Golfo, como os Emirados Árabes Unidos e a Arábia Saudita, levantando preocupações de segurança nacional nos EUA.

O caso Anthropic: Quando a Anthropic recusou remover restrições ao uso militar da sua tecnologia, Altman avançou para ocupar esse espaço.

Porque importa? A empresa que nasceu para proteger a humanidade da IA está agora a construir ferramentas também para contextos militares. A missão parece ter sido invertida e a questão da confiança torna-se mais urgente à medida que o poder cresce.

A OpenAI rejeita as críticas, acusando a investigação de se basear em relatos seletivos e fontes com agendas próprias. Altman nega ou diz não se recordar de vários episódios. Ainda assim, 18 meses de trabalho, 100 fontes e 200 páginas de documentos são difíceis de ignorar.

Ao mesmo tempo…

Mas enquanto estas dúvidas se acumulam, Altman continua a posicionar-se como arquiteto do futuro. Na mesma semana em que a investigação foi publicada, o CEO da OpenAI divulgou um documento de 13 páginas intitulado “Política Industrial para a Era da Inteligência: Ideias para Priorizar as Pessoas”.

Pontos principais:

• Fundo público de riqueza
  Criar um fundo financiado por empresas de IA para distribuir ganhos económicos pela população.
• Redistribuição dos lucros da IA
  Garantir que os cidadãos participam nos benefícios da produtividade.
• Semana de trabalho de 32 horas
  Reduzir o tempo de trabalho para compensar a automação.
• Mudanças no sistema fiscal
  Transferir a carga fiscal do trabalho para as empresas.
• Proteção social reforçada
  Expandir redes de segurança e garantir acesso básico à IA.

Pistas para o futuro? O documento oferece um vislumbre de como uma das empresas mais influentes na área da IA vê o futuro da economia e da governação.

Neste contexto, estas propostas procuram evitar uma reação social e política negativa à IA, assegurando a redistribuição dos seus benefícios e evitando o agravamento das desigualdades. O timing foi coincidência ou estratégia?