A literacia em IA deve incluir todas as gerações, todos os estratos socioeconómicos, e todas as profissões, especialmente no setor da saúde.
O Conselho Nacional de Ética para as Ciências da Vida elaborou ao longo dos últimos dois anos o Livro Branco sobre Ética e Inteligência Artificial onde se pretendeu efetuar um balanço sobre os desafios éticos e jurídicos da inteligência artificial na medicina, na investigação científica e nas ciências da vida em geral. Percebeu-se que sendo uma área em constante evolução é fundamental um acompanhamento sistemático das suas principais aplicações, para que a humanidade mantenha sempre um controlo eficaz da sua implementação. Isto é para que a inteligência artificial (IA) seja sempre de confiança.
A primeira ideia central de este Livro Branco é que é essencial aprofundar a literacia sobre as novas tecnologias digitais de modo a que a generalização da IA não agrave as desigualdades sociais e as diferentes vulnerabilidades existentes. Vulnerabilidades relacionadas com a deficiência, a idade ou o género. Pelo que a literacia em IA deve incluir todas as gerações, todos os estratos socioeconómicos, e todas as profissões, especialmente no setor da saúde.
A sua utilização generalizada implica a proteção dos valores nucleares da nossa sociedade, como a salvaguarda da dignidade humana, da identidade pessoal, e da privacidade individual.
Apesar dos inúmeros benefícios que se anteveem com a aplicação da inteligência artificial na investigação científica, a IA, ao contrário da Internet por exemplo, representa uma mudança de paradigma. Porquê, porque a crescente falta de explicabilidade da IA na ciência torna difícil replicar um determinado projeto de investigação e, portanto, validar as suas conclusões. Acresce o facto de que a IA generativa (por exemplo, o ChatGPT) ao recorrer a informação já existente na Internet tem um viés inultrapassável relacionado com as bases de dados científicos que a alimentam. Tal como, também, do conjunto de valores e princípios que lhe subjazem. O que implica uma nova visão sobre a ética da ciência, e mesmo sobre a integridade dos cientistas, em temas como os direitos de autor ou de patente.
Na medicina, e restantes profissões da saúde, a IA tem já um significativo impacto a diferentes níveis. Por exemplo no plano da relação com o doente a IA já hoje contribui para libertar os médicos de tarefas administrativas através do tratamento da informação decorrente da entrevista clínica e seu processamento eletrónico, permitindo ao médico concentrar-se na dimensão humana da relação clínica. Promovendo-se a equidade no acesso à saúde sobretudo através da conjugação com outras tecnologias digitais como a telemedicina. Também na enfermagem, ou na psicologia, a IA é um auxílio importante no exercício profissional, enquadrado na modernidade e facilitando o acesso à saúde e a agilização de procedimentos.
Uma distinta caraterística da IA é a capacidade de ser incorporada em robots sociais com importante impacto no acompanhamento de doentes crónicos, na assistência hospitalar (por exemplo na admissão de doentes), ou mesmo no plano da robótica cirúrgica. Robôs cirúrgicos estão já hoje em plena utilização na cirurgia abdominal ou na neurocirurgia, a título de exemplo. Mas, este reforço da autonomia da IA – vislumbrando-se que no futuro possa ser mais eficaz e efetiva que o próprio médico especialista – implica repensar o sistema de responsabilidade médica. Sistema atualmente baseado na demonstração da culpa do profissional, quando se comprova que este atuou abaixo do expetável violando as leges artis. Este é um aspeto especialmente sensível que deve desde já ser ponderado e prevenido.
Também a organização do sistema de saúde, incluindo a gestão de emergências de saúde pública tal como a pandemia pela COVID-19, está em profunda mutação pela distinta capacidade de a IA coletar, armazenar e processar dados (e metadados), a nível nacional ou a nível Europeu (Espaço Europeu de Dados de Saúde). Ou através da agilização de processos na gestão operacional de hospitais e centros de saúde gerando ganhos de eficiência, equidade e integração sistémica. Mas, a sua utilização generalizada implica a proteção dos valores nucleares da nossa sociedade, como a salvaguarda da dignidade humana, da identidade pessoal, e da privacidade individual.
Pelo que se entende a necessidade de existir legislação adequada para que a IA seja um fator decisivo para um pleno desenvolvimento humano. O Artificial Intelligence Act da União Europeia corresponde a esta expectativa sendo a bússola moral que baliza a interação dos sistemas de inteligência artificial com a sociedade contemporânea, permitindo alcançar o justo equilíbrio entre desenvolvimento tecnológico, crescimento económico e bem-estar social. Respeitando os valores e princípios das democracias pluralistas.