Sim, a IA vai matar pessoas. Mas não da forma que estás a pensar…

Há, essencialmente, dois caminhos que nos têm apresentado para a inteligência artificial: tornar-se uma super-inteligência ou tornar-se uma super-inteligência (não confundir com as palhaçadas de Trump). Como aqueles que a desenvolvem parecem fazer questão de nos vender esse cenário, analisemos uma terceira possibilidade.

Antes disso, convém fixar os termos. Chamemos Inteligência Artificial ao conjunto de tecnologias que permitem aos computadores realizar tarefas geralmente associadas à inteligência humana, como aprender, resolver problemas e tomar decisões. E chamemos Inteligência Artificial Geral a uma forma ainda hipotética de IA capaz de igualar ou superar os humanos numa ampla variedade de tarefas cognitivas. É sobretudo desta segunda que nos falam os seus entusiastas; a primeira é a que já temos entre nós.

Quando abri a minha conta do Facebook, penso que em 2009, nos computadores da Biblioteca Brazão Mazula, falávamos entre nós, ali, lado a lado, com Muzaia, Chomsky, Mufana Mulungu, Nyumbas, Godido, entre outros. Havia ainda uma ou outra menina da sala e quase-amigos dos outros cursos. Ou seja, éramos nós que nos víamos uns aos outros a dizer coisas banais ou a comentar fotografias.

Depois, apareceram os amigos dos amigos, que nunca chegaram a graduar para amigos nossos.

O que se viu desde essa altura até há uns cinco anos foi que, quanto mais tempo passávamos online, mais os algoritmos nos davam aquilo de que achavam que gostávamos. No princípio era tão bom.

Mas, rapidamente, «aquilo de que achavam que gostávamos» acabou por se tornar uma categoria por si. E aí, «o que não gosto» começou a ocupar mais espaço do que «o que gosto».

Não sei se os donos das plataformas sabiam disso ou não, mas, ao mesmo tempo que os algoritmos aprendiam sobre nós, também iam trabalhando contra si próprios. Quanto mais personalizavam, menos interessante se tornava o Facebook.

O cenário da inteligência artificial não me parece muito diferente. Com uma agravante: já não se limita a escolher o que vemos, também produz o que consumimos. E, quanto mais aprende sobre nós, mais consegue personalizar aquilo que nos oferece.

As imaginações de ficção científica em que a IA domina o mundo e o homem se torna mero espectador, incapaz de reprogramar computadores, construir armas melhores ou até desligar a corrente dos servidores, servem para gerar cliques e alimentar medos que depois entretêm os comentadores.

O que me preocupa é menos espectacular: a amplificação daquilo que cada um de nós é.

Na verdade, muitas tecnologias do passado já contribuíram para essa ampliação. Um exemplo mais antigo do que poderíamos imaginar é o das primeiras ferramentas de pedra. Plummer et al. (2025), ao analisarem os artefactos de Lomekwi, no Quénia, e da tradição Olduvaiense (Oldowan), sugerem que o fabrico e a utilização destas ferramentas, ao longo de diferentes períodos da nossa pré-história, podem ter contribuído para o desenvolvimento das capacidades cognitivas dos nossos antepassados.

Ou seja, a tecnologia não é apenas resultado da nossa inteligência. Pode também ter ajudado a construí-la.

Daqui, subamos alguns degraus.

Os smartphones, como muitos já disseram, são uma espécie de extensão de nós próprios. Há pessoas que ficariam desesperadas sem o telemóvel por 24 horas. Reconheço que é um extremo.

Mas, no plano individual, seja em 2030 ou 2584, talvez mesmo antes da Inteligência Artificial Geral, a personalização seja o maior perigo. Não porque a de hoje seja necessariamente a mais perigosa de sempre.

A tecnologia é cada vez mais desenhada para reforçar aquilo que somos. As plataformas de interacção social já nos deram o sabor disso, do Facebook ao YouTube, enchendo-nos de conteúdos hiper-personalizados. E agora imaginemos uma IA que, além de saber aquilo de que gostamos, consegue produzir exactamente aquilo que queremos ouvir.

A diferença é que já não estamos apenas perante um algoritmo que escolhe o que vemos. A IA é capaz de conversar connosco, adaptar-se às nossas reacções e construir argumentos que confirmam aquilo em que acreditamos. Pode também alimentar os nossos medos, reforçar os nossos preconceitos e até dar uma aparência de coerência às nossas ideias mais irracionais.

Não é necessário que a IA domine fisicamente o mundo ou que coexista connosco sob alguma forma de trans-humanismo. Basta que consiga amplificar aquilo que já existe em cada um de nós, incluindo as nossas fragilidades.

Isto é, se a IA te vai matar, será através da forma como tu pensas.