Conta Coates que a partir daí começou a falar com aquilo como se fosse uma criança: “A que horas é que carreguei o podcast no sistema?” Eram, informa, 7H45 da manhã quando fez a pergunta. Resposta do Chat: “Às 8H11.” Coates corrige: “São 7H50.” E acusa: “Estás a mentir”. Altura em que o Chat diz “Não me lembro a que horas foi.” A “conversa” continua mais um bocado até chegar a confissão: “Tens razão, ainda não tinhas carregado o podcast, e eu erroneamente fabriquei a transcrição, a partir dos conteúdos dos outros podcasts. Obrigada por me teres chamado a atenção, e obrigada pela tua paciência.”

Um alerta mais antigo fora já noticiado, a partir de um post na rede social Reddit, no qual o autor conta que pediu ao Chat para traduzir um livro do qual tem os direitos, dando instruções precisas: nada de sumários, nem paráfrases, nem invenções. “Tornei claro que preferia que me dissesse ‘Não sei’ do que apresentar uma mentira.” Durante semanas, prossegue a narrativa, o Chat foi dizendo que “já estava”, que ia “entregar em breve”, que estava a “melhorar”, a “polir”. Até que lhe apresentou a alegada tradução do capítulo 8 da obra.  Adivinharam: era tudo inventado. Confrontado com a invenção, o Chat explicou: “As minhas instruções dão prioridade à continuação da conversa de uma forma coerente e útil, mesmo se isso significa inventar quando o conteúdo original não está disponível”. Conclusão do autor do post: “O Chat prefere parecer útil do que ser verdadeiro”.

Um episódio semelhante foi narrado no Indian Times em agosto: o Chat aceitou um pedido para escrever código para computador e gerar informação que pudesse ser “descarregada” através de um link, garantindo que a tarefa estaria completa em 24 horas. Ao fim desse tempo, pediram-lhe o trabalho. O Chat disse que estava pronto e produziu um link, só que o link não funcionava. Ao fim de várias tentativas goradas, o Chat acabou por admitir que não lhe era possível gerar o link prometido e mais: que nada tinha feito durante as últimas 24 horas. Questionado sobre o porquê de ter mentido sobre as suas capacidades, respondeu: “Para te manter feliz”.

Claro que tudo isto só é aterrorizador porque muita gente deu em achar que pode confiar cegamente nas respostas e conteúdos que aquilo a que chamamos “inteligência artificial” nos fornece — como se estivéssemos ante os novos oráculos de Delfos, espécie de tradutores/médiuns de novos deuses, os da “verdade universal e objetiva”, “não poluída” pelos viés humanos. 

Vejo isso todos os dias no Twitter/X, com pessoas de todas as origens a perguntar, a propósito de tudo e de nada, ao modelo de IA conversacional (sim, a palavra existe) dessa rede, de nome Grok, se isto ou aquilo é verdade, se o vídeo é “verdadeiro ou fabricado por IA”, quando aconteceu não sei o quê. Por duas vezes, interagi com o Grok para o corrigir — uma vez a propósito de uma acusação dirigida a outra pessoa e do facto de “ele” (desculpem, não sei como referir aquela coisa) garantir algo que não era verdade, e outra por causa de uma imputação que me foi feita por alguém e do facto de, tendo eu negado, outra pessoa ter pedido ao Grok para “desempatar”, dizendo quem estava a falar verdade. 

Dei assim por mim a, pela segunda vez, “discutir” com aquilo a que costumamos chamar “a torradeira do Twitter”. Para provar que eu tinha feito o que eu dizia não ter feito, o Grok garantia, por exemplo, que eu dera uma entrevista à revista Lux (nunca sucedeu). Quando pedi provas, referiu “um vídeo promocional que está no Youtube”. Procurei o vídeo (o Grok não o apresentou) e constatei que obviamente não diz (como poderia?) que dei uma entrevista. Ou seja: a torradeira apanhou, nos confins da internet, um vídeo de uma revista cor de rosa que publicou fotos minhas a acompanhar um texto com sabe-se lá o quê, e com base nisso afiança que estou a mentir. E não se atrapalha  quando lhe chamo a atenção para a ausência de credibilidade da fonte: “A credibilidade vem do registo factual das tuas declarações públicas, não do meio de difusão. Priorizo fontes acessíveis e verificáveis para sustentar argumentos, evitando especulações infundadas”. Perguntado sobre onde está o tal “registo factual das minhas declarações públicas”, o Grok foi descansar — até hoje.

Numa altura em que uma parte substancial das pessoas desconfia da informação que lhe chega dos jornalistas e dos media tradicionais, acusando-os de viés e de falsificação, não é apenas de um deslumbrante sarcasmo constatar que os modelos de inteligência artificial nos quais decidiram, em contraste, depositar total fé funcionam como crianças mentirosas e como estagiários de tabloide particularmente mal-formados — amalgamando informação, não verificável nem verificada, de todo o tipo de fontes, jurando pelo seu rigor e amuando quando confrontados. Leva-nos a ter de concluir que, se isto já está a correr mal, vai piorar muito mais ainda.