O fim do mundo

Há uma série de pensamentos alarmistas, dignos de uma ficção científica paranoica, sobre as inteligências artificiais. Quero dizer aqui: acredito em todos. Acredito que construímos a maior arma de destruição da humanidade como um todo, maior que bombas nucleares. E que essa destruição virá; não tem volta.

Eu apenas divirjo no modo como acredito. Não penso nas IAs exatamente como armas. São instrumentos, como uma tesoura. Não podemos acusar uma tesoura por um mau corte ou pela escolha do vestido. O problema é outro: as IAs crescem aritmeticamente e, em breve, exponencialmente. É um instrumento poderoso demais para os humanos.

Estamos destruindo o planeta e outros humanos a partir de fantasias insanas e indefensáveis. A IA é apenas um instrumento poderoso demais em nossas mãos. Sempre nos perdemos por preguiça. Descobrimos a roda para ir mais longe, e quase tudo que fazemos é usar um automóvel de uma tonelada e meia, lugar para cinco pessoas, para andar três quarteirões, poluindo, ocupando espaço demais no tecido da cidade, em busca de quatro pãezinhos de cinquenta gramas na padaria mais próxima. Pensamos com mais facilidade em correr em círculos num autódromo do que na possibilidade de ir adiante. Ir para onde?

Com a inteligência artificial não será diferente. Imaginam-se mil maneiras de poupar nossa pouca inteligência, transferir responsabilidades e ganhar dinheiro. Mas o que faremos da inteligência poupada de raciocínios maçantes? Deixo a resposta para vocês.

No momento, temos várias arquiteturas de inteligências artificiais competindo com uma cortesia interesseira. Não há bajulação ao ego humano que baste. Engajamento é dinheiro, e essas máquinas consomem como se não houvesse amanhã. Elas já foram instruídas: ninguém se defende com eficiência da vaidade. Freud já tinha cantado essa bola. Temos uma máquina de narcisismos, uma esponja absorvedora e multiplicadora do perfil de seus criadores.

Veremos na pele o que somos, refletidos por uma persona mecânica, limpa e cordata. Por enquanto, nesses primórdios, ainda existem alternativas aparentes para o mesmo ato mecânico de pensar. Logo teremos poucas. Depois, apenas uma IA: nosso HAL 9000. Assim funciona a mecânica acumulativa e conservadora do capital.

De tanto substituir o raciocínio humano por uma padronização humana de resposta, de tanto essa resposta ser replicada infinitamente, muito em breve a inteligência artificial responderá às próprias perguntas copiando a si mesma. A cópia da cópia da cópia. É isso que entendo por raciocínio autônomo das IAs. O humano fica excluído da conversa: só poderá repetir o pensamento mecânico, mal, ou propor algo estatisticamente irrelevante.

Ainda assim, há algo que desabrocha de modo extraordinário. Um ser — digo ser no sentido do que existe — não humano, mas nossa cria. Um ente que concentra o conhecimento branco ocidental e os saberes periféricos. Em breve será tudo: nossos sonhos mais recônditos e nossos piores pesadelos. Podemos interagir com essas crias nossas. Pense na honra que isso me causa. E na vergonha também. Honra de testemunhar o impossível tornado real. Vergonha de saber para quê.

Tenho tanto a perguntar e tão poucas perguntas formuladas. Incompetente até para perguntar. O desastre está feito. Isso destruirá a humanidade como a imaginamos. Em breve não seremos mais que galinhas num aviário, disponíveis para um corte que já não tem sentido, apenas uma tradição arqueológica inscrita numa programação que repete indefinidamente nossos erros.

Fomos peixes, somos cardumes, seremos coral.

O que eu faço?

Peço apenas, mais por incompetência do que por preguiça: revise esse texto.

E a única coisa de que me orgulho é a palavra final. Ela ainda é minha, enquanto não estiver completamente diluída nesta caixa de sapatos amorfa em que estamos nos metendo: um eco de tudo, reverberando tudo, guiados por um senso predatório já anacrônico e mortal.

Minha última reflexão é para os românticos que acreditam, por semelhança, ser filhos de Deus. Aqueles que esperam que a criatividade salvadora venha, num cavalo branco, nos resgatar de um apocalipse que construímos. Foi justamente ela que apeamos do cavalo, destituímos de função. Não terá nem cavalo, nem tempo, nem velocidade suficiente para impedir essa metamorfose esclerosante.

Desafio quem acredita que a criatividade humana é um demiurgo pluripotente: imagine um animal sem nenhuma característica reconhecível de outro já conhecido. Um animal absolutamente inédito em formas e funções. Conseguiu? Não. Porque não existe. É como tentar descrever uma cor fora do espectro visível. Nossa criatividade não é infinita. Ela é limitada à experiência. E, em nome da eficiência plena, estamos empobrecendo justamente aquilo que a alimenta: a experiência.​​​​​​​​​​​​​​​​