Nir Eisikovits: O domínio da IA é inevitável? Um especialista em ética tecnológica diz que, na verdade, não

BOSTON: Qualquer pessoa que acompanhe a retórica em torno da inteligência artificial nos últimos anos já ouviu uma versão ou outra da afirmação de que a IA é inevitável. Os temas mais comuns são que a IA já existe, é indispensável e que as pessoas que são pessimistas em relação a ela prejudicam-se a si próprias.
No mundo dos negócios, os defensores da IA dizem às empresas e aos trabalhadores que ficarão para trás se não conseguirem integrar a IA generativa nas suas operações. Nas ciências, os defensores da IA prometem que a IA ajudará a curar doenças até agora intratáveis.
No ensino superior, os promotores da IA avisam os professores de que os alunos têm de aprender a utilizar a IA ou arriscam-se a tornar-se pouco competitivos quando chegar a altura de encontrar um emprego.
E, na segurança nacional, os defensores da IA dizem que ou a nação investe fortemente em armamento de IA, ou ficará em desvantagem em relação aos chineses e russos, que já o estão a fazer.
O argumento nestes diferentes domínios é essencialmente o mesmo: o tempo do ceticismo em relação à IA chegou e passou. A tecnologia vai moldar o futuro, quer se goste ou não. Temos a opção de aprender a utilizá-la ou de ficar de fora desse futuro. Qualquer pessoa que se tente intrometer no caminho da tecnologia é tão inútil como os tecelões manuais que resistiram aos teares mecânicos no início do século XIX.
Nos últimos anos, eu e os meus colegas da UMass Boston‘s Centro de Ética Aplicada tenho estudado as questões éticas levantadas pela adoção generalizada da IA e creio que o argumento da inevitabilidade é enganador.
História e retrospetiva
De facto, esta afirmação é a versão mais recente de uma visão determinista do desenvolvimento tecnológico. É a crença de que as inovações são imparáveis quando as pessoas começam a trabalhar nelas. Por outras palavras, alguns génios não voltam para as suas garrafas. O melhor que se pode fazer é aproveitá-los para os nossos bons propósitos.
Esta abordagem determinista da tecnologia tem uma longa história. Foi aplicada à influência da imprensa, bem como ao aparecimento dos automóveis e das infra-estruturas que estes exigem, entre outros desenvolvimentos.
Mas creio que, no que respeita à IA, o argumento do determinismo tecnológico é exagerado e demasiado simplista.
A IA no(s) domínio(s)
Consideremos a afirmação de que as empresas não se podem dar ao luxo de ficar fora do jogo da IA. De facto, ainda está por provar que a IA está a proporcionar ganhos de produtividade significativos às empresas que a utilizam. Um relatório do The Economist em julho de 2024, sugere que, até agora, a tecnologia não teve praticamente qualquer impacto económico.
O papel da IA no ensino superior também continua a ser uma questão em aberto. Embora as universidades tenham, nos últimos dois anos, investido fortemente em iniciativas relacionadas com a IA, os dados sugerem que poderão ter-se precipitado.
A tecnologia pode servir como uma ferramenta pedagógica interessante. Por exemplo, criar um Platão O chatbot que permite aos alunos ter uma conversa de texto com um bot que se faz passar por Platão é um truque fixe.
Mas a IA já está a começar a substituir algumas das melhores ferramentas de que os professores dispõem para avaliar e desenvolver o pensamento crítico, como os trabalhos de escrita. O ensaio universitário está a seguir o caminho dos dinossauros à medida que mais professores desistem da capacidade de saber se os seus alunos estão a escrever os seus próprios trabalhos. Qual é o argumento de custo-benefício para desistir da escrita, uma competência tradicional importante e útil?
Nas ciências e na medicina, a utilização da IA parece prometedora. O seu papel na compreensão da estrutura das proteínas, por exemplo, será provavelmente importante para a cura de doenças. A tecnologia está também a transformar a imagiologia médica e tem sido útil para acelerar o processo de descoberta de medicamentos.
Mas o entusiasmo pode tornar-se exagerado. As previsões baseadas em IA sobre quais os casos de COVID-19 que se tornariam graves falharam redondamente e os médicos confiam excessivamente na capacidade de diagnóstico da tecnologia, muitas vezes contra o seu próprio bom senso clínico. Assim, mesmo neste domínio, onde o potencial é grande, o impacto final da IA não é claro.
No domínio da segurança nacional, o argumento para investir no desenvolvimento da IA é convincente. Uma vez que o que está em jogo pode ser elevado, o argumento de que se os chineses e os russos estão a desenvolver armas autónomas baseadas em IA, a Estados Unidos não pode dar-se ao luxo de ficar para trás, tem uma compra real.
Mas uma rendição completa a esta forma de raciocínio, embora tentadora, é suscetível de conduzir a EUA. não se aperceberem do impacto desproporcionado destes sistemas em nações demasiado pobres para participarem na corrida ao armamento da IA. As grandes potências poderiam utilizar a tecnologia em conflitos nesses países. E, o que é igualmente significativo, este argumento não enfatiza a possibilidade de colaborar com os adversários na limitação dos sistemas militares de IA, favorecendo a corrida ao armamento em detrimento do controlo do armamento.
Um passo de cada vez
A análise do potencial significado e dos riscos da IA nestes diferentes domínios merece algum ceticismo em relação à tecnologia. Penso que a IA deve ser adoptada gradualmente e com uma abordagem diferenciada, em vez de estar sujeita a afirmações generalizadas de inevitabilidade. Ao desenvolver esta abordagem cuidadosa, há duas coisas a ter em conta:
-Em primeiro lugar, as empresas e os empresários que trabalham com inteligência artificial têm um interesse óbvio em que a tecnologia seja vista como inevitável e necessária, uma vez que vivem da sua adoção. É importante prestar atenção a quem está a fazer afirmações de inevitabilidade e porquê.
-Em segundo lugar, vale a pena tirar uma lição da história recente. Nos últimos 15 anos, os smartphones e as aplicações das redes sociais que funcionam com eles passaram a ser vistos como um facto da vida – uma tecnologia tão transformadora quanto inevitável. Depois, começaram a surgir dados sobre os danos que causam à saúde mental dos adolescentes, especialmente das raparigas. Os distritos escolares dos Estados Unidos começaram a proibir os telemóveis para proteger a capacidade de atenção e a saúde mental dos seus alunos. E algumas pessoas voltaram a usar telemóveis flip como uma mudança de qualidade de vida para evitar os smartphones.
Após uma longa experiência com a saúde mental das crianças, facilitada por alegações de determinismo tecnológico, os americanos mudaram de rumo. O que parecia fixo revelou-se alterável. Ainda há tempo para evitar repetir o mesmo erro com a inteligência artificial, que pode ter consequências mais graves para a sociedade.