{"id":80619,"date":"2025-09-21T15:42:08","date_gmt":"2025-09-21T15:42:08","guid":{"rendered":"https:\/\/www.europesays.com\/pt\/80619\/"},"modified":"2025-09-21T15:42:08","modified_gmt":"2025-09-21T15:42:08","slug":"bolha-na-ia-nao-sera-nada-bom-quando-explodir-observador","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/pt\/80619\/","title":{"rendered":"Bolha na IA? “N\u00e3o ser\u00e1 nada bom quando explodir” \u2013 Observador"},"content":{"rendered":"

Emily Bender \u00e9 linguista e, em 2021, deu nas vistas na comunidade acad\u00e9mica quando assinou um artigo cient\u00edfico<\/a> no qual os modelos de linguagem eram chamados \u201cpapagaios estoc\u00e1sticos\u201d<\/strong>. Ou seja, limitam-se a repetir informa\u00e7\u00e3o sem realmente perceber o contexto. Alex Hanna \u00e9 soci\u00f3loga com uma especializa\u00e7\u00e3o em processamento de linguagem natural e intelig\u00eancia artificial (IA), e atualmente \u00e9 diretora de investiga\u00e7\u00e3o do DAIR (Distributed AI Research Institute). Antes disso, trabalhou como investigadora de \u00e9tica de IA na Google.<\/p>\n

Bender e Hanna conheceram-se em plena pandemia, justamente pelo ceticismo em rela\u00e7\u00e3o ao entusiasmo que j\u00e1 se vivia \u00e0 volta da IA. Ap\u00f3s v\u00e1rias conversas, criaram um podcast onde escrutinam os v\u00e1rios an\u00fancios feitos pela ind\u00fastria tecnol\u00f3gica. Em maio, deram o passo seguinte e publicaram nos EUA e no Reino Unido o livro \u201cThe AI Con\u201d, algo como a fraude ou o golpe da IA em tradu\u00e7\u00e3o livre para portugu\u00eas. A premissa do livro centra-se justamente no hype, o entusiasmo excessivo, \u00e0 volta da IA. Ao longo da obra, a dupla oscila entre o sarcasmo e a apresenta\u00e7\u00e3o de v\u00e1rios efeitos colaterais da IA em \u00e1reas como o emprego ou as quest\u00f5es sociais.<\/p>\n

Em entrevista ao Observador, a dupla aborda algumas das teorias mordazes do livro, desde a ideia de que est\u00e1 a ser criada uma bolha amparada por uma \u201cacumula\u00e7\u00e3o de riqueza sem precedentes\u201d por parte das big tech at\u00e9 a cr\u00edtica aos\u00a0investimentos multimilion\u00e1rios baseados apenas \u201cem FOMO\u201d, ou seja, no medo de ficar de fora.<\/p>\n

Comecemos pelo princ\u00edpio: porque \u00e9 que pensam que a IA \u00e9 uma fraude, um golpe?
<\/strong>Emily Bender (EB):<\/strong> Acho que falamos sobre isto a v\u00e1rios n\u00edveis. O primeiro ponto \u00e9 que a intelig\u00eancia artificial n\u00e3o se refere a um conjunto coerente de tecnologias, mas aquilo que est\u00e1 a deixar toda a gente particularmente entusiasmada agora s\u00e3o os grandes modelos de linguagem \u2014 a que tamb\u00e9m chamamos m\u00e1quinas sint\u00e9ticas de extrus\u00e3o de texto. E isto basicamente \u00e9 o que chamamos de truque de sal\u00e3o [parlor trick], uma esp\u00e9cie de truque de magia que se alimenta de uma ilus\u00e3o. E a ilus\u00e3o est\u00e1 ligada \u00e0 forma como compreendemos a linguagem.<\/p>\n

Temos estes sistemas que s\u00e3o muito bons a imitar o uso humano da linguagem. E, como estamos a ver um uso humano da linguagem, que normalmente quer dizer que h\u00e1 uma pessoa ali, percecionamo-la como fazemos sempre: come\u00e7amos a pensar no que \u00e9 que aquela pessoa est\u00e1 a tentar dizer ao escolher aquelas palavras. Ou seja, estamos a imaginar uma linha por tr\u00e1s daquele texto que n\u00e3o est\u00e1 ali. E \u00e9 muito dif\u00edcil n\u00e3o pensar assim, pela forma como a linguagem est\u00e1 a ser usada. Portanto, \u00e9 nesta base de um truque de sal\u00e3o que est\u00e3o a ser constru\u00eddas mais coisas.<\/p>\n

Alex Hanna (AH): E outro n\u00edvel de fraude \u00e9 usar este truque para sinalizar que, como \u00e9 bom a fazer uma coisa, no sentido de gerar texto plaus\u00edvel, que parece ser bem composto, tamb\u00e9m \u00e9 bom a fazer outras coisas.
H\u00e1 uma esp\u00e9cie de movimento para antropomorfizar estas tecnologias, sugerir que s\u00e3o mais do que realmente s\u00e3o. At\u00e9 pelas refer\u00eancias a intelig\u00eancia, a rob\u00f4s, a esta esp\u00e9cie de lugares-comuns da fic\u00e7\u00e3o cient\u00edfica. \u2018Bem, temos estes grandes modelos de linguagem, ent\u00e3o o que deve estar a acontecer \u00e9 algum tipo de intelig\u00eancia por tr\u00e1s das palavras\u2019 \u2014 que certamente n\u00e3o \u00e9 o que est\u00e1 a acontecer. S\u00e3o m\u00e1quinas de extrus\u00e3o de texto sint\u00e9tico que est\u00e3o a gerar texto baseado no que est\u00e1 nos dados de treino, nas palavras seguintes mais prov\u00e1veis, etc. E a partir da\u00ed usamos isso como refer\u00eancia para outras coisas em que talvez possa ser bom, seja a \u201craciocinar\u201d ou a \u201cargumentar\u201d ou a fazer coisas de forma \u201ccriativa\u201d. Isto \u00e9 mais um exemplo de fraude. E tudo isto \u00e9 embrulhado de uma forma que permite chegar aos d\u00f3lares do capital de risco e a construir enormes centros de dados. S\u00e3o estes os diferentes tipos de camadas de fraude.<\/p>\n

E quando \u00e9 que come\u00e7aram a sentir que isto era uma vaga de hype da IA? Foi depois do lan\u00e7amento do ChatGPT [novembro de 2022]<\/a> ou era algo que j\u00e1 sentiam antes?
<\/strong>EB: Ainda antes. A Alex e eu conhecemo-nos\u00a0atrav\u00e9s de conversas online em que est\u00e1vamos de forma individual a trabalhar para contrariar este hype da IA. No meu caso, diria que comecei ativamente a trabalhar nisto em 2019. Antes disso, estava muito preocupada com os impactos sociais da tecnologia de linguagem mas n\u00e3o me tinha realmente focado no \u00e2ngulo do hype da IA.<\/p>\n

AH: Tenho estado focada nos perigos das tecnologias de IA acho que desde 2016, 2017. Uma boa parte vem da minha experi\u00eancia como soci\u00f3loga, n\u00e3o como cientista inform\u00e1tica. Estava a fazer v\u00e1rios artigos sobre aprendizagem autom\u00e1tica a partir da minha pr\u00f3pria disserta\u00e7\u00e3o, que \u00e9 focada em movimentos sociais. A partir da\u00ed fui ficando mais interessada nestas comunidades de conhecimento focadas nos perigos destas tecnologias. J\u00e1 nos foc\u00e1vamos nas alega\u00e7\u00f5es de hype de muitas destas tecnologias. A Emily e eu acab\u00e1mos por escrever alguns artigos com outras co-autoras em 2020 e 2021. E depois come\u00e7\u00e1mos o podcast.<\/p>\n

\n

ChatGPT d\u00e1 conversa \u00e0 internet. Os limites, perigos e promessas do novo fen\u00f3meno da intelig\u00eancia artificial<\/a><\/p>\n<\/blockquote>\n

Referem-se ao artigo sobre os papagaios estoc\u00e1sticos? [Um termo cunhado num artigo cient\u00edfico de 2021, que descreve os LLM como um papagaio que imita a linguagem humana, mas que n\u00e3o tem compreens\u00e3o ou inten\u00e7\u00e3o.]
<\/strong>AH: N\u00e3o participei nesse artigo, mas a Emily sim. Tiv\u00e9mos dois artigos \u201cData and its discontents\u201d e \u201cAI and the everything in the Whole Wide Wold Benchmark\u201d. Depois continu\u00e1mos a falar sobre o hype da IA e lan\u00e7\u00e1mos nosso podcast antes do lan\u00e7amento do ChatGPT, que foi lan\u00e7ado uns meses mais tarde. Foi muito bem coordenado (risos).<\/p>\n

E como \u00e9 que esse podcast foi recebido pela comunidade acad\u00e9mica? Qual tem sido a rea\u00e7\u00e3o ao vosso ceticismo em rela\u00e7\u00e3o \u00e0 IA?
<\/strong>AH: Depende do lado da academia em que se est\u00e1. Muitas pessoas dentro dos estudos cruciais de tecnologia, campo lingu\u00edstico, soci\u00f3logos s\u00e3o f\u00e3s, dizem que permite eliminar o que \u00e9 \u2018treta\u2019. J\u00e1 tivemos muita gente que nos diz que isso \u00e9 necess\u00e1rio. Do outro lado do espectro, temos pessoas que est\u00e3o muito empenhadas na investiga\u00e7\u00e3o de IA, que provavelmente n\u00e3o conhecem este podcast ou que ficam muito ressentidas com ele \u2014 mas que possivelmente n\u00e3o gostam das nossas agendas de pesquisa assim de uma forma geral. Acho que, no meio, haver\u00e1 muita gente, mas tamb\u00e9m n\u00e3o tenho um contacto regular com a comunidade lingu\u00edstica, a Emily tem mais.<\/p>\n

Acho que o podcast \u00e9 mais para pessoas que tipicamente n\u00e3o est\u00e3o t\u00e3o envolvidas nas discuss\u00f5es acad\u00e9micas. \u00c9 frequente que haja pessoas interessadas nisto de uma perspetiva tecnol\u00f3gica mas que n\u00e3o sabem bem o que fazer. Portanto \u00e9 \u00fatil para elas ter um podcast que talvez as deixe com mais conhecimento sobre a linguagem, mas que precisam de quem as guie. No livro at\u00e9 temos uma passagem chamada \u201cas vossas guias para o hype da AI\u201d \u2014 \u00e9 assim que nos vemos.<\/p>\n

\"\" <\/p>\n

O livro \u201cThe AI Con\u201d foi lan\u00e7ado em maio nos EUA e no Reino Unido<\/p>\n

EB: Sim. Voltei da reuni\u00e3o anual da Associa\u00e7\u00e3o para Computa\u00e7\u00e3o Lingu\u00edstica (ACL) e senti que havia uma mistura na plateia. H\u00e1 pessoas que est\u00e3o muito, muito entusiasmadas com a ideia da IA e que acreditam que os grandes modelos de linguagem s\u00e3o um passo no caminho para essa ideia. E isso \u00e9 frustrante para mim porque \u00e9 esta a \u00e1rea que desenvolve estas coisas \u2014 estas pessoas sabem como \u00e9 isto funciona, deviam saber mais. Mas n\u00e3o \u00e9 toda a gente assim..<\/p>\n

Acho que h\u00e1 muitas outras pessoas que est\u00e3o c\u00e9ticas ou que querem ver mais casos de uso para os LLM \u2014 pessoalmente, discordo \u2014 mas ao menos est\u00e3o a olhar para isto sem verem uma forma de IA. Ou talvez adotem uma terminologia de IA mas sem terem uma cren\u00e7a profunda nisto. E depois tamb\u00e9m h\u00e1 outras pessoas que apreciam muito a perspetiva c\u00e9tica que temos no livro e no podcast, algumas delas sentem que n\u00e3o est\u00e3o numa posi\u00e7\u00e3o em que podem dizer estas coisas de forma t\u00e3o aberta como n\u00f3s e que apreciam que o fa\u00e7amos. Depois tamb\u00e9m h\u00e1 quem esteja a lutar para contrariar o hype.<\/p>\n

Mas porque \u00e9 que sentem que h\u00e1 esse sentimento que leva essas pessoas a n\u00e3o poderem demonstrar o ceticismo abertamente?
<\/strong>EB: H\u00e1 muitas pessoas que s\u00e3o economicamente dependentes. A \u00e1rea da lingu\u00edstica computacional tem atualmente muita representatividade na ind\u00fastria, portanto em muitos casos os empregos das pessoas est\u00e3o dependentes de fazer parte de projetos. H\u00e1 em ensaio incr\u00edvel da Meredith Whittaker [presidente da funda\u00e7\u00e3o Signal] chamado \u201cThe Steep Cost of Capture\u201d<\/a> [o elevado custo da captura, em tradu\u00e7\u00e3o para portugu\u00eas], em que nota o qu\u00e3o os acad\u00e9micos na \u00e1rea das ci\u00eancias da computa\u00e7\u00e3o est\u00e3o dependentes da ind\u00fastria. Muita, muita gente tem dupla afilia\u00e7\u00e3o, ou seja, t\u00eam um t\u00edtulo acad\u00e9mico mas tamb\u00e9m est\u00e3o a trabalhar para uma empresa. E mesmo aqueles que n\u00e3o est\u00e3o, esperam conseguir bolsas ou financiamento dessas empresas ou esperam poder mandar os seus estudantes para essas empresas. \u00c9 como diz o ditado: ningu\u00e9m quer morder a m\u00e3o que o alimenta<\/strong>.<\/p>\n

\n

Presidente da Signal n\u00e3o teme que IA \u201csalte da jaula e nos domine\u201d. \u201cPerigo\u201d est\u00e1 no poder de quem a controla<\/a><\/p>\n<\/blockquote>\n

Em rela\u00e7\u00e3o a essa liga\u00e7\u00e3o \u00e0s empresas, como \u00e9 que veem este fen\u00f3meno da guerra de contrata\u00e7\u00f5es da IA, em que as big tech est\u00e3o a fazer contrata\u00e7\u00f5es multimilion\u00e1rias? Sentem que, como est\u00e3o a contratar muitos investigadores do lado acad\u00e9mico, empresas como a Meta ou a Google correm o risco de deixar a \u00e1rea acad\u00e9mica vazia de talento?
<\/strong>Alex Hanna: Sim. Quer dizer, isso j\u00e1 est\u00e1 a acontecer. E essa \u00e9 uma din\u00e2mica que a Meredith destaca nesse artigo. Existe um outro artigo chamado \u201cThe Grey Hoodie Project<\/a>\u201d, que de certa forma j\u00e1 mostrava os paralelismos entre o meio acad\u00e9mico, as grandes empresas tecnol\u00f3gicas e tamb\u00e9m as grandes empresas de tabaco e de petr\u00f3leo. Esse artigo quer demonstrar empiricamente a quantidade de financiamento para investiga\u00e7\u00e3o que \u00e9 canalizada para os departamentos [das universidades]. Algo que surge frequentemente \u00e9 uma\u00a0esp\u00e9cie de porta girat\u00f3ria entre a academia e as grandes empresas tecnol\u00f3gicas<\/strong>. \u00c0s vezes vemos as pessoas simplesmente a abandonar o barco: vimos in\u00fameros acad\u00e9micos abandonarem completamente a academia ou a manterem uma filia\u00e7\u00e3o simb\u00f3lica com um departamento acad\u00e9mico e irem depois \u00e0 procura destas enormes quantidades de dinheiro.<\/p>\n

Conseguimos pensar em v\u00e1rias pessoas que fizeram isso, \u00e9 uma din\u00e2mica muito comum. Mas acho que outra coisa \u00e9 que isto tamb\u00e9m est\u00e1 a impedir outros tipos de investiga\u00e7\u00e3o nas ci\u00eancias da computa\u00e7\u00e3o. Por exemplo, pessoas que podiam estar interessadas em desenvolver trabalho em \u00e1reas como ciberseguran\u00e7a, linguagens de programa\u00e7\u00e3o, bases de dados ou todas estas coisas que ainda precisam de ser investigadas e que s\u00e3o \u00e1reas de investiga\u00e7\u00e3o interessantes por si s\u00f3, acabam por ser abandonadas porque toda a gente est\u00e1 a colocar IA em tudo.<\/p>\n

Sentem que o lado lingu\u00edstico da investiga\u00e7\u00e3o era diferente antes da ascens\u00e3o do ChatGPT?
<\/strong>EB: Dentro da lingu\u00edstica propriamente dita h\u00e1 pessoas que est\u00e3o entusiasmadas com o uso de grandes modelos de linguagem para responder a quest\u00f5es lingu\u00edsticas. Por exemplo, analisar quanta informa\u00e7\u00e3o sobre a estrutura da linguagem \u00e9 aparente apenas a partir da forma. \u00c9 poss\u00edvel questionar isto de forma razo\u00e1vel usando grandes modelos de linguagem e tecnologias relacionadas. Algo como o ChatGPT, em que o conjunto de dados subjacente \u00e9 desconhecido, n\u00e3o \u00e9 um objeto leg\u00edtimo de estudo cient\u00edfico do ponto de vista lingu\u00edstico. Portanto, se estamos interessados \u200b\u200bsaber o que se pode aprender com ele enquanto corpus ou uma cole\u00e7\u00e3o do uso da l\u00edngua, mas n\u00e3o temos acesso a essa cole\u00e7\u00e3o, ent\u00e3o n\u00e3o podemos fazer ci\u00eancia.<\/p>\n

Creio que existe algum entusiasmo em rela\u00e7\u00e3o aos grandes modelos de linguagem, mas n\u00e3o muito na lingu\u00edstica propriamente dita em rela\u00e7\u00e3o aos modelos de linguagem fechados [modelos cujo conjunto de dados de treino n\u00e3o \u00e9 totalmente conhecido]. Diria que no campo da lingu\u00edstica computacional, tamb\u00e9m conhecido como processamento de linguagem natural, que \u00e9 um campo interdisciplinar que envolve lingu\u00edstica, ci\u00eancia da computa\u00e7\u00e3o, engenharia el\u00e9trica, entre outros, a conversa mudou bastante<\/strong>. E \u00e9 extremamente frustrante porque as pr\u00e1ticas de revis\u00e3o [de artigos] t\u00eam, de certa forma, empurrado a quest\u00e3o para esta expectativa de que se est\u00e1 sempre a testar tudo com \u201cos modelos de \u00faltima gera\u00e7\u00e3o\u201d, que na verdade n\u00e3o s\u00e3o de \u00faltima gera\u00e7\u00e3o em nenhum sentido interessante, porque as pr\u00e1ticas de avalia\u00e7\u00e3o est\u00e3o muito, muito fragmentadas. Quando se tenta submeter um artigo a uma confer\u00eancia h\u00e1 algu\u00e9m que diz logo \u201cbem, n\u00e3o testou isto com o Llama ou com o ChatGPT, por isso n\u00e3o vamos aceitar o artigo\u201d. A\u00ed houve uma grande mudan\u00e7a.<\/p>\n

Quando fui presidente da Associa\u00e7\u00e3o de Lingu\u00edstica Computacional [ACL] tive a oportunidade de fazer um discurso presidencial intitulado \u201cA ACL n\u00e3o \u00e9 uma confer\u00eancia de IA\u201d. Como pode imaginar, esta palestra recebeu cr\u00edticas mistas \u2014 algumas pessoas ficaram muito satisfeitas e outras aborrecidas.<\/p>\n","protected":false},"excerpt":{"rendered":"Emily Bender \u00e9 linguista e, em 2021, deu nas vistas na comunidade acad\u00e9mica quando assinou um artigo cient\u00edfico…\n","protected":false},"author":2,"featured_media":80620,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[83],"tags":[88,476,89,90,741,644,861,32,33,110],"class_list":{"0":"post-80619","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-empresas","8":"tag-business","9":"tag-economia","10":"tag-economy","11":"tag-empresas","12":"tag-entrevista","13":"tag-inteligu00eancia-artificial","14":"tag-observador","15":"tag-portugal","16":"tag-pt","17":"tag-tecnologia"},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/80619","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/comments?post=80619"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/posts\/80619\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media\/80620"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/media?parent=80619"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/categories?post=80619"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/pt\/wp-json\/wp\/v2\/tags?post=80619"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}