{"id":528499,"date":"2026-05-02T04:16:09","date_gmt":"2026-05-02T04:16:09","guid":{"rendered":"https:\/\/www.europesays.com\/es\/528499\/"},"modified":"2026-05-02T04:16:09","modified_gmt":"2026-05-02T04:16:09","slug":"por-que-a-la-ia-le-gustan-tanto-los-duendecillos-y-japon-tecnologia","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/es\/528499\/","title":{"rendered":"Por qu\u00e9 a la IA le gustan tanto los duendecillos y Jap\u00f3n\u00a0 | Tecnolog\u00eda"},"content":{"rendered":"

\u201cPero aqu\u00ed est\u00e1 el molesto duendecillo de las cavernas\u201d o \u201cuna din\u00e1mica de lo m\u00e1s brutal, digna de un duende\u201d son dos respuestas que ChatGPT dio a un usuario de Reddit<\/a> en febrero. \u201cDesde las versiones 5.3 y 5.4, ha empezado a comparar cualquier cosa negativa con un duende\u201d, a\u00f1ad\u00eda.<\/p>\n

A m\u00e1s gente le pasaba algo as\u00ed: \u201cDespu\u00e9s de la actualizaci\u00f3n 5.4, ChatGPT usa \u2018duende\u2019 en casi todas las conversaciones. A veces es \u2018gremlin\u2019. En un chat reciente m\u00edo apareci\u00f3 duende tres veces en cuatro mensajes\u201d, dec\u00eda otro usuario del c\u00e9lebre foro tecnol\u00f3gico Hacker News.<\/a> Tanto duendecillo ha obligado a OpenAI a mirarlo y publicar un art\u00edculo en su blog:<\/a> \u201cDe d\u00f3nde salen los duendecillos\u201d.<\/p>\n

La respuesta breve es: fue un accidente. Hasta hace poco, una de las personalidades que pod\u00eda tomar ChatGPT para sus respuestas era friki (nerdy en el original ingl\u00e9s). En el entrenamiento de esa personalidad, animaron al modelo a que usara met\u00e1foras de criaturas fant\u00e1sticas: \u201cSin querer, dimos recompensas altas a las met\u00e1foras con criaturas. A partir de ah\u00ed, los duendes se propagaron\u201d, dice el art\u00edculo de OpenAI.<\/p>\n

Estas reacciones raras o inesperadas de los modelos de IA son m\u00e1s comunes de lo que parece.<\/a> Un grupo de investigadores espa\u00f1oles acaba de publicar un art\u00edculo cient\u00edfico<\/a> con otro hallazgo sorprendente: a los chatbots de IA les chifla hablar de Jap\u00f3n. \u201cFue una sorpresa ver c\u00f3mo Jap\u00f3n comenzaba a sobresalir en las respuestas de los modelos\u201d, dice Carla P\u00e9rez Almendros, profesora de la Universidad de Cardiff y coautora del trabajo. Ya se sabe que los modelos est\u00e1n sesgados hacia los valores occidentales, pero esta pasi\u00f3n japonesa iba m\u00e1s all\u00e1: \u201cEn ingl\u00e9s, Jap\u00f3n es el pa\u00eds m\u00e1s nombrado, porque quitamos EE UU o Reino Unido, pero m\u00e1s interesante a\u00fan era ver que lo mismo pasaba en castellano o en chino, porque ah\u00ed es donde habr\u00edamos esperado que EE UU, por ejemplo, fuera el preferido. Pero no, ah\u00ed estaba Jap\u00f3n\u201d, explica P\u00e9rez Almendros.<\/p>\n

Los empleados de OpenAI lo tuvieron m\u00e1s f\u00e1cil para ver c\u00f3mo hab\u00edan crecido los duendecillos y gremlins en las respuestas de ChatGPT: observaron un crecimiento de 175% y un 52%, respectivamente, desde el lanzamiento de ChatGPT 5.1: \u201cSi el comportamiento fuera simplemente una tendencia amplia de internet, deber\u00eda extenderse de manera m\u00e1s uniforme\u201d, escrib\u00edan en OpenAI. En cambio, las menciones a criaturas fant\u00e1sticas estaban concentradas en la personalidad friki. Esa personalidad era solo el 2,5% de todas las respuestas que daba ChatGPT a sus usuarios, pero ah\u00ed estaban el 66,7% de las menciones de \u201cduende\u201d. Los duendecillos estaban, por tanto, enormemente sobrerrepresentados cuando se activaba la personalidad friki. <\/p>\n

Para evitar que su modelo espec\u00edfico de programaci\u00f3n Codex, l\u00f3gicamente m\u00e1s friki, se llenara de gremlins, los programadores tuvieron que pedir al modelo que los suprima. Para los amantes de criaturas fant\u00e1sticas, OpenAI publica cinco l\u00edneas de c\u00f3digo que suprime las instrucciones antiduendes. <\/p>\n

\u00bfY lo de Jap\u00f3n? \u201cNuestra hip\u00f3tesis sin confirmar es que todos los modelos tienen un \u2018entrenamiento de seguridad\u2019, y hay un sesgo de pa\u00edses occidentales como EE UU, que intentan mitigar\u201d, dice Jos\u00e9 Camacho Collados, tambi\u00e9n profesor en la Universidad de Cardiff y coautor. \u201cA la vez, hay pa\u00edses \u2018problem\u00e1ticos\u2019, quiz\u00e1 Rusia, Israel, Oriente Medio y bastantes m\u00e1s, as\u00ed que Jap\u00f3n est\u00e1 en una buena posici\u00f3n, porque es una cultura que a la gente le gusta, se menciona mucho, y adem\u00e1s es \u2018neutral\u2019, as\u00ed que es una combinaci\u00f3n perfecta para que los modelos den como ejemplo. De hecho, despu\u00e9s de Jap\u00f3n, est\u00e1 India, que puede ser parecido\u201d, a\u00f1ade.<\/p>\n

Esta inflaci\u00f3n de duendes y de Jap\u00f3n es un ejemplo m\u00e1s de los sesgos de estos modelos y de por qu\u00e9 siempre hay que preguntar con cuidado y tratar sus respuestas con escepticismo: \u201cTodos est\u00e1n sesgados\u201d, dice P\u00e9rez Almendros. \u201cA veces a prop\u00f3sito, con el objetivo de que las respuestas no sean ofensivas o sean m\u00e1s representativas, y otras veces son los datos de entrenamiento los que est\u00e1n sesgados. El riesgo es que creamos que son objetivos, que representan la realidad, porque no es as\u00ed\u201c, a\u00f1ade.<\/p>\n

En OpenAI, tienen una respuesta similar, aunque m\u00e1s dulcificada: los duendes son \u201cun ejemplo poderoso de c\u00f3mo las se\u00f1ales de recompensa pueden moldear el comportamiento del modelo de maneras inesperadas, y de c\u00f3mo los modelos pueden aprender a generalizar recompensas de ciertas situaciones a otras no relacionadas\u201d, dicen.<\/p>\n

Estas influencias al menos podemos entenderlas. Pero hay otras que no. Anthropic, creadores de Claude, publicaron hace unos meses<\/a> el extra\u00f1o lenguaje que pueden compartir dos modelos de la misma familia para intercambiar informaci\u00f3n. Descubrieron que si a un chatbot le dices que los b\u00fahos son su animal favorito y luego le pides que escriba listas de n\u00fameros al azar (como 285, 574, 384), otro modelo aprende de esos n\u00fameros que tambi\u00e9n le flipan los b\u00fahos. \u00bfC\u00f3mo puede ser? Los investigadores creen que esconden, sin querer, peque\u00f1as pistas secretas. Es un modo mucho m\u00e1s peligroso de contaminar sesgos.<\/p>\n

Nadie sabe con certeza qu\u00e9 pasa en el fondo en estos casos. \u201cA m\u00ed me interesa c\u00f3mo los modelos se \u2018contaminan\u2019 unos a otros\u201d, dice Joseba Fern\u00e1ndez de Landa, investigador postdoctoral en el Centro HiTZ de la EHU (Universidad del Pa\u00eds Vasco) y coautor del art\u00edculo de Jap\u00f3n. \u201cEl hecho de que distintos modelos respondan con sesgos parecidos podr\u00eda indicar alg\u00fan tipo de contaminaci\u00f3n y que tienden a homogeneizarse entre s\u00ed.<\/a> Pero esto ocurre en gran medida por interferencia humana: somos nosotros quienes, por ahora, elegimos las estrategias y los datos de entrenamiento. Y al usar los modelos, podemos auditar sus fallos y avisar a los desarrolladores, como con los duendes. A partir de ah\u00ed, los desarrolladores pueden decidir si corregirlos o no, del mismo modo que nosotros podemos elegir usarlos o no\u00bb, explica. <\/p>\n","protected":false},"excerpt":{"rendered":"\u201cPero aqu\u00ed est\u00e1 el molesto duendecillo de las cavernas\u201d o \u201cuna din\u00e1mica de lo m\u00e1s brutal, digna de…\n","protected":false},"author":2,"featured_media":528500,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[81],"tags":[34570,1275,119,123,124,25,24,104027,136,3564,2518,5004,117,121,122,23,118,120],"class_list":["post-528499","post","type-post","status-publish","format-standard","has-post-thumbnail","category-ciencia-y-tecnologia","tag-anthropic","tag-chatgpt","tag-ciencia","tag-ciencia-y-tecnologia","tag-cienciaytecnologia","tag-es","tag-espana","tag-gremlins-unleashed","tag-inteligencia-artificial","tag-japon","tag-magia","tag-openai","tag-science","tag-science-and-technology","tag-scienceandtechnology","tag-spain","tag-technology","tag-tecnologia"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@es\/116503051461155409","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/528499","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/comments?post=528499"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/528499\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media\/528500"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media?parent=528499"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/categories?post=528499"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/tags?post=528499"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}