Do Golem e Frankenstein até aos LLM

Desde o advento do chatgpt em novembro 2022, nunca se falou tanto da singularidade da IA, mas saberemos do que estamos a falar? 

Não tenho dúvidas de que os sistemas de software baseados em LLM estão a melhorar diariamente e que estes se tornarão assistentes de trabalho incontornáveis, desde que sejam resolvidas as questões do seu custo energético. Se isso acontecer, estas ferramentas irão ajudar ao trabalho de inúmeros profissionais, como por exemplo:

• um programador terá que passar menos tempo na escrita de código, ficando assim liberto para análises de mais "alto nível".
• Um matemático poderá testar mais hipóteses e ideias, passando menos tempo a validar ou invalidar os seus palpites. 
• Um solicitador jurídico fará pesquisas mais rapidamente aos compêndios do código legislativo
• Um médico será auxiliado na fastidiosa análise dos exames. 
• etc... 

De um modo geral, creio que todos os profissionais serão aliviados da parte fastidiosa e mecânica do seu trabalho, e essa mudança só pode ser bem vinda, porque isso dará mais espaço para a criatividade Humana, seja nos trabalhos da Ciência como das Engenharias ou das Artes.

Claro que há sempre prós e contras. Um risco facilmente identificável é a tentação de nos desresponsabilizarmos e confiarmos em demasia nestas ferramentas.

Contudo, acho ingénua a expectativa de alguns, e o receio de outros, de que a inteligência e a consciência possam surgir espontaneamente nos circuitos dos GPU dos data centers, alastrando-se de seguida a toda a Internet. Como se estas faculdades fossem o resultado inevitável de efetuar cálculos massivos, de processar dados e comprimir informação. Esta é no entanto a tese de Geoffrey Hinton, padrinho dos LLM, o qual defende que estes modelos encerram o conhecimento da realidade e que a nossa própria experiência subjetiva a que chamamos consciência decorre de um mecanismo semelhante nos nossos cérebros biológicos. É uma ideia ousada, mas também ingénua porque reduz a inteligência a um mero processo computacional.

Ora, a inteligência tem muitas outras dimensões além das chamadas "capacidades racionais". Por exemplo, o impulso de curiosidade que nos leva a questionar a nossa condição existencial não pode ser entendido como a mera consequência da acumulação de conhecimento.

Parece-me ser exatamente o oposto: é a consciência da singularidade da nossa existência que motiva as nossas perguntas sobre o mundo que nos rodeia e nos impulsiona a procurar respostas, permitindo-nos depois acumular conhecimento! A isto juntam-se ainda outros fatores não menos importantes, como as nossas necessidades básicas para resolver problemas práticos de sobrevivência.
 
Além do mais, a tese de Hinton é infalsificável. Escapa por completo à esfera científica, pois não oferece forma de ser provada incorreta. Afinal, uma teoria científica nunca é absoluta ou eternamente válida; apenas sobrevive, durante mais ou menos tempo, aos testes que tentam demonstrar a sua invalidade.

O mito de que a criação poderá um dia igualar ou ultrapassar o criador é antigo. O conto de Frankenstein tem pouco mais de 200 anos. O conto do Golem data do séc. XVI. E estes são apenas exemplos de uma ideia que remonta certamente a relatos míticos muito mais longínquos. Hoje, esse fantasma vestiu a roupagem da ficção científica — de onde o termo "Singularidade" foi emprestado para a cultura popular. O receio de que estejamos a um passo desse cenário tornou-se mediático, mas é completamente infundado.

Os entusiastas dessa Singularidade confundem ficção científica com Ciência e os seus argumentos limitam-se a declarações como "há 15 anos atrás também diziam que os foguetões reutilizáveis eram uma impossibilidade e agora vejam!".  Apoiam-se também muito na repetição da ideia de um desenvolvimento "exponencial", esquecendo que o crescimento ilimitado só existe na Matemática. No mundo real, os regimes exponenciais têm validade limitada no tempo, quer falemos da difusão de um vírus ou da "Lei de Moore".

Este entusiasmo efusivo dos nossos dias assemelha-se aliás muito a outros episódios históricos, em que pessoas muito inteligentes e sérias acreditavam que o conhecimento científico tinha chegado ao fim. Segundo eles, estava tudo explicado e nada mais restava para fazer senão desenvolver as aplicações tecnológicas práticas!

O génio humano é sem dúvida admirável e a sua ingenuidade comovente 😊 .

Notas finais

• Este texto foi revisto com a assistência do assistente de IA da Google, o Gemini 3.5 Pro , o que me permitiu sem dúvida melhorar a clareza do mesmo.
  
  
• Apesar de ser um forte adepto da clareza na linguagem usada para comunicar, sou mais liberal quanto à aplicação das regras estritas da ortografia, até porque tal como as maquinetas "estilo chatgpt" vieram confirmar, 99% do significado de um texto está no contexto. É por essa razão que poderão encontrar neste texto uma mistura de grafias pré e pós-acordo ortográfico.