Um neurocientista e um engenheiro discutiram inteligência e consciência e foi uma sorte para quem ouviu.
A 25 de novembro, realizou-se o “Demo Day” do Center For Responsible AI que juntou no mesmo debate o neurocientista António Damásio e o professor e investigador do Instituto Superior Técnico (IST), Arlindo de Oliveira, numa conversa moderada – mais correto será dizer repartida – por Francisco Pinto Balsemão e Ana Paiva, professora de ciência computacional também no IST. Um debate que trouxe inquietação e descanso em doses homeopáticas ou generosas, dependendo de como cada um o interpretou.
Antes do debate foram apresentados 10 produtos suportados em inteligência artificial. Produtos que podem alcançar resultados tão positivos como devolver a capacidade de comunicação a pessoas afetadas por doenças neurológicas ou tão negativos como deixar outras pessoas sem emprego porque simplesmente uma máquina devidamente instruída poderá tomar o lugar de humanos (seja em trabalhos burocráticos aborrecidos que retiram tempo e não dão prazer, seja a procurar legislação no labirinto de todos os códigos legais).
O que significa que quando o neurocientista António Damásio entrou em palco para uma intervenção que foi meio-palestra, meio-aula, a plateia já estava devidamente alinhada com possibilidades práticas e não apenas teóricas. E eis que estamos de regresso ao plano conceptual com a pergunta que já foi feita nos filmes de ação e que nos leva de volta com alguma frequência a Arnold Schwarzenegger e ao seu Exterminador Implacável. E a pergunta é: “Se não tivéssemos consciência, seríamos humanos?”.
Depois de um ano de interação com o ChatGPT, em que muitos de nós dizem “obrigada” e “por favor” quando usam o algoritmo, é ele consciente, como o parece ser, na forma como nos responde?
“É bizarro que apesar de termos estas questões haja tão pouco entendimento do que é a consciência”, referiu António Damásio. Talvez não ajude a terminologia que em inglês faz com que exista “consciousness” e “conscience”, mas que em português remete tudo para a mesma palavra “consciência”. O que torna o termo simultaneamente físico, biológico, orgânico e também moral.
Mas António Damásio veio falar-nos de “consciousness”, “algo que intuitivamente pensamos como humanos”. Veio falar-nos da mente e do processo de pensar, racionalizar, criar, e não do cérebro. “Sabemos que a nossa mente está no nosso corpo, porque sentimos o nosso corpo”. Temos consciência. Os sentimentos – ou o que sentimos – e que António Damásio tem explorado na sua obra são uma espécie de “backbone” da consciência. A fome, a sede, o bem estar, a dor, o prazer, o desejo. Não por acaso, aponta o neurocientista, “os nossos sentidos estão todos localizados na cabeça”. Os neurónios não estão isolados da corrente sanguínea e há uma “conversa” entre o corpo, o cérebro e a consciência.
Depois de um ano de interação com o ChatGPT, em que muitos de nós dizem “obrigada” e “por favor” quando usam o algoritmo, é ele consciente, como o parece ser, na forma como nos responde?
É este carácter orgânico da consciência que faz com que Damásio afirme que as máquinas não têm consciência.
Foi o princípio perfeito para a conversa que se seguiu com Arlindo Oliveira, Francisco Balsemão e Ana Paiva. Há possibilidade de uma inteligência artificial ter consciência? Há, responde Damásio, mas não como a humana. “O ChatGPT”, aponta, “tem respostas ocas”. E conta o episódio de um evento em que participou em LA em que foi lido um excerto de um dos seus livros, parecendo que aparentemente estava tudo bem. Estava quase tudo bem, mas, afirma, ele e a mulher conseguiram detetar o que estava errado. “Para o ChatGPT ter consciência precisava de ter um organismo”.
Arlindo Oliveira concordou que, neste modelo, o ChatGPT não tem consciência. “Mas um livro também não tem consciência”, acrescenta e usa a analogia de outro professor do Instituto Superior Técnico, especialista em Inteligência Artificial e também presente no evento, Mário Figueiredo: “a consciência é um teste Rochard”. Ou seja, dependendo da formação de origem, será vista de formas diferentes. O que faz que um engenheiro pense na consciência de uma determinada maneira e um neurocientista de outra.
O que é a ponte perfeita para a possibilidade que Arlindo Oliveira apresentaria minutos depois de a consciência poder ser vista como num processo de informação (que as máquinas também conseguem executar). Não sem antes ter apelidado certas respostas das máquinas /algoritmos como “modo de sobrevivência” e de ter causado perplexidade a Damásio por “aplicar termos da biologia a uma máquina que não a tem para começar”.
Vamos lá então para o território da biologia e para os sentimentos – definidos como algo que os humanos sentem e que interpretam através da sua condição de ser vivo. Se são essenciais à consciência, como poderia uma máquina que não os tem (ou sente) ter essa mesma consciência? Como é possível distinguir dor de prazer sem sentir um ou outro?
“Sensores podem reproduzir sentimentos e imagens num robot”, exemplifica Arlindo Oliveira, centrando a consciência como resultado de um processo de informação (sensores replicam os sentimentos e em função dessa informação é organizada uma resposta). Damásio discorda da nomenclatura e centra precisamente na fisicalidade do humano a diferenciação para a máquina. “Será a nossa fraqueza – ou vulnerabilidade – que nos vai salvar de competir com as máquinas”, afirma. “Não são como nós. Não tenho dúvidas que essas criaturas serão inventadas, mas não são como nós. Não compro a ideia que o robot sofra”.
A discussão dá aqui um salto na história – para trás, não para a frente. Até Turing e ao argumento que defendeu em 1950. “Não sabemos se um robot tem dor ou prazer, mas se se comporta como tal, temos de assumir o benefício da dúvida”, responde Arlindo Oliveira. “Acho que Turing tinha razão, se não conseguimos distinguir, temos de assumir a possibilidade”.
Por esta altura, é difícil que qualquer um dos presentes na sala não sentisse que estavam a ser discutidas coisas verdadeiramente importantes. Inteligentes. E que debates destes fazem muita falta. Aliás, como se provou pelo volume de perguntas submetidas, das quais apenas duas foram lidas e respondidas. Uma sobre porque é que a humanidade insiste em criar algo como Deus – a que Damásio respondeu prontamente. “O ChatGPT é tudo menos uma aproximação a Deus, mais a um aspirador. “Nós inventamos as máquinas, elas fazem o que as mandamos fazer”.
À mesma pergunta, Arlindo Oliveira dá outra resposta: “o que tentamos fazer é inventar coisas que são como nós” de onde decorre, acrescenta, a evolução da ciência. “A ciência evolui porque queremos entender como as coisas funcionam e é por querermos entender como a inteligência funciona que surgiu a inteligência artificial”.
“Os neurobiólogos não precisam de criar um cérebro para o entender”, contrapôs Damásio. “Mas os engenheiros são diferentes”, retorquiu Arlindo Oliveira.
Estão ambos de acordo que é honesto questionar a consciência das máquinas, só discordam no resto.