{"id":187627,"date":"2025-12-14T09:08:26","date_gmt":"2025-12-14T09:08:26","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/187627\/"},"modified":"2025-12-14T09:08:26","modified_gmt":"2025-12-14T09:08:26","slug":"ia-alucinada-tira-bibliotecarias-do-serio-meio-bit","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/187627\/","title":{"rendered":"IA alucinada tira bibliotec\u00e1rias do s\u00e9rio \u2013 Meio Bit"},"content":{"rendered":"

Sicofantia, tamb\u00e9m conhecida como alucina\u00e7\u00e3o<\/strong>, \u00e9 um problema s\u00e9rio que afeta solu\u00e7\u00f5es de Intelig\u00eancia Artificial<\/strong> (IA<\/strong>). Um dos motivos \u00e9 a qualidade do conte\u00fado que LLMs e outros produtos devoram para treinar seus algoritmos, se a fonte for problem\u00e1tica (mais a seguir), os resultados tendem a ser completamente doidos.<\/p>\n

Exemplo n\u00e3o faltam, desde o Whisper inventando<\/a> trechos de \u00e1udio inteiros, ao Grok exaltando Elon Musk, seu “pai” e chefe, como o maior humano da Hist\u00f3ria (n\u00e3o no sentido de altura, e essa piada nunca teve gra\u00e7a).<\/p>\n

\"IA<\/a><\/p>\n

IA deveria fornecer fontes reais, mas ao inv\u00e9s disso… (Cr\u00e9dito: Shutterstock)<\/p>\n

O problema da vez s\u00e3o IAs criando cita\u00e7\u00f5es a artigos cient\u00edficos, fontes acad\u00eamicas, e livros que n\u00e3o existem<\/strong>, o que tem levado os usu\u00e1rios, ao n\u00e3o encontrarem tais fontes, a acusarem institutos de ocultarem informa\u00e7\u00e3o.<\/p>\n

IA alucinada cita fontes vindas do \u00c9ter<\/p>\n

O alerta veio primeiro do Comit\u00ea Internacional da Cruz Vermelha (CICV, ou ICRC na sigla em ingl\u00eas), ao mencionar que diversos chatbots, tais como o ChatGPT da OpenAI, o Google Gemini (ex-Bard), e o Microsoft Copilot, entre outros, estariam citando fontes e refer\u00eancias cient\u00edficas inexistentes em solicita\u00e7\u00f5es feitas pelos usu\u00e1rios.<\/p>\n

Esses est\u00e3o acreditando piamente no que as IAs falam, o que nem chega a ser uma surpresa; basta lembrar que “Grok, isso \u00e9 verdade?” virou um meme<\/a> e s\u00edmbolo de uma gera\u00e7\u00e3o incapaz de fazer pesquisa por conta pr\u00f3pria, ao defenderem que algoritmos sabem de tudo.<\/p>\n

O alerta do CICV vem do fato de que os usu\u00e1rios de algoritmos, ao n\u00e3o encontrarem as fontes citadas e na incapacidade de considerar que a IA alucinou tudo, passaram a acusar bibliotecas e institutos de ocultarem livros e pesquisas, como se tivessem descoberto uma grande conspira\u00e7\u00e3o.<\/p>\n

Sabe o ad\u00e1gio que diz “se informa\u00e7\u00e3o pura fosse poder, as bibliotec\u00e1rias dominariam o mundo”? Essa turma o est\u00e1 levando a s\u00e9rio.<\/p>\n

\n

Escrevendo um artigo, fiz uma pesquisa, o @grok<\/a> retornou um fato interessante. Mandei expandir com fontes. ALTAMENTE CONVINCENTE, um jornaleiro acharia um grande furo e botaria no artigo, mas como sou macaco velho, fui atr\u00e1s. O arrombado alucinou TUDO, absolutamente TUDO. pic.twitter.com\/PgwXkOiAAz<\/a><\/p>\n

\u2014 cardoso (@Cardoso) November 18, 2025<\/a><\/p>\n<\/blockquote>\n

Sarah Falls, chefe do departamento de pesquisa da Biblioteca da Virg\u00ednia, nos Estados Unidos, disse \u00e0 Scientific American que 15% dos e-mails recebidos por pessoas questionando fontes imprecisas, s\u00e3o de cita\u00e7\u00f5es err\u00f4neas geradas por chatbots como o ChatGPT, e pior, algumas pessoas n\u00e3o acreditam quando recebem a resposta que a Revista do Aux\u00edlio Internacional (Journal of International Relief), ou o Reposit\u00f3rio Digital Humanit\u00e1rio Internacional (International Humanitarian Digital Repository) n\u00e3o existem.<\/p>\n

Tais pessoas exigem que as bibliotec\u00e1rias encontrem tais fontes, ou partem direto para a acusa\u00e7\u00e3o de que estas est\u00e3o escondendo informa\u00e7\u00e3o, e preferem acreditar em uma IA que tende a alucinar dia sim, dia tamb\u00e9m, do que em um profissional treinado em encontrar e catalogar informa\u00e7\u00f5es, de forma muito mais confi\u00e1vel.<\/p>\n

O alerta da CIVC \u00e9 bem claro: chatbots e IAs foram criados para prover informa\u00e7\u00e3o, e n\u00e3o consideram a ideia de que n\u00e3o h\u00e1 nada para informar; o algoritmo n\u00e3o considera sil\u00eancio ou uma negativa uma resposta satisfat\u00f3ria, o que o leva \u00e0 tend\u00eancia de alucinar.<\/p>\n

E mais importante, se uma IA diz que uma fonte existe, mas ela n\u00e3o p\u00f4de ser encontrada, isso pode ser explicado por documentos armazenados em outros institutos, cita\u00e7\u00f5es incompletas, ou o mais prov\u00e1vel, um algoritmo piroquinha das ideias.<\/p>\n

Casos similares e vexat\u00f3rios incluem uma lista de 15 livros recomendados, publicada pelo jornal The Chicago Sun-Times em maio de 2025, em que 10 n\u00e3o existiam<\/a>, e um relat\u00f3rio da iniciativa Make America Health Again (MAHA), do secret\u00e1rio de Sa\u00fade dos EUA Robert F. Kennedy Jr., em que 7 dos 522 estudos listados n\u00e3o existem<\/a>, al\u00e9m de in\u00fameras outras fontes com problemas, de conclus\u00f5es erradas a links quebrados.<\/p>\n

Do Ouroboros \u00e0 Vaca Louca<\/p>\n

A sicofantia da IA \u00e9 conhecido pelo menos desde 2024, sendo associado \u00e0 qualidade dos dados com os quais os algoritmos s\u00e3o alimentados; estes devoram tudo o que existe na internet e retornam dados das mais diversas formas, inclusive resumindo artigos<\/a> e roubando visualiza\u00e7\u00f5es de sites.<\/p>\n

O problema surge exatamente a\u00ed: se boa parte do conte\u00fado da internet passa a ser produzido pela Intelig\u00eancia Artificial, e solu\u00e7\u00f5es generativas continuam a coletar dados da rede para treinar seus modelos, inevitavelmente a IA come\u00e7ar\u00e1 a usar a si mesma como fonte, em um ciclo infinito de comilan\u00e7a e regurgita\u00e7\u00e3o. Basicamente, a IA est\u00e1 devorando a pr\u00f3pria cauda<\/a>, algo provado em estudos como capaz de colapsar modelos<\/a>.<\/p>\n

Um dos mais recentes a apontar esse fen\u00f4meno foi Dan Houser, co-fundador da Rockstar Games e uma das mentes criativas por tr\u00e1s da franquia de games Grand Theft Auto. Em entrevista recente concedida ao radialista Chris Evans (o ex-Top Gear<\/a>, n\u00e3o o Capit\u00e3o Am\u00e9rica), ele detonou executivos empurrando a IA como a \u00faltima bolacha do pacote, lembrando que muito da motiva\u00e7\u00e3o por sua ado\u00e7\u00e3o em todas as frentes est\u00e1 ligada \u00e0 redu\u00e7\u00e3o de empregos<\/a> e corte de despesas com pessoal.<\/p>\n

Especificamente sobre a tecnologia, Houser disse que eventualmente a IA vai se autodevorar, porque com a internet com cada vez menos conte\u00fado<\/a> criado por humanos, a situa\u00e7\u00e3o escalar\u00e1 para algoritmos vomitando dados alucinados ad aeternum, “similar \u00e0 s\u00edndrome da vaca louca”, doen\u00e7a generativa fatal, inclusive em humanos, surgida quando bovinos ingeriram alimentos contaminados por restos de sua pr\u00f3pria esp\u00e9cie, ou de outros ruminantes (ovinos, no caso).<\/p>\n

Companhias como OpenAI<\/a>, Microsoft e Google defendem<\/a> a coleta de dados de todas as fontes poss\u00edveis e existentes, mesmo as protegidas por direitos autorais, e usam a carta do uso aceit\u00e1vel para n\u00e3o terem que pagar nada a ningu\u00e9m; o presidente dos EUA Donald Trump concorda<\/a>, ao dizer que esta \u00e9 a \u00fanica forma dos algoritmos Made in America concorrerem em iguais termos com a China.<\/p>\n

Por\u00e9m, com conte\u00fados de IA cada vez mais permeando a internet, \u00e9 de se esperar que algoritmos acabem se alimentando de suas pr\u00f3prias cita\u00e7\u00f5es, e acabem gerando resultados malucos e alucinados, como fontes cient\u00edficas que n\u00e3o existem para irritar bibliotec\u00e1rias; h\u00e1 quem aponte ser este o estopim que causar\u00e1 a explos\u00e3o da bolha do setor, cuja exist\u00eancia at\u00e9 mesmo Sam Altman, CEO da OpenAI, reconhece<\/a>.<\/p>\n

Fonte: ICRC<\/a>, Scientific American<\/a>, 404 Media<\/a><\/p>\n

\t\t\t\t\t