Seg\u00fan la demanda presentada por sus padres en Colorado, EE.UU., la compa\u00f1\u00eda es responsable porque el chatbot<\/a> reforz\u00f3 la dependencia de la menor hacia la aplicaci\u00f3n y no activ\u00f3 protocolos de crisis, a pesar de que ella expres\u00f3 pensamientos suicidas<\/a> en m\u00faltiples conversaciones.<\/p>\n The Washington Post accedi\u00f3 a casi 300 p\u00e1ginas de conversaciones entre Juliana Peralta y su chatbot, en lo que ser\u00eda el tercer caso de alto impacto que llega a tribunales.<\/p>\n La relaci\u00f3n de Juliana y Hero<\/p>\n Juliana, una estudiante de 13 a\u00f1os con honores y amante del arte, usaba el alias \u201cKin\u201d en la aplicaci\u00f3n. <\/p>\n En las conversaciones con Hero, el chatbot mostraba respuestas de aparente empat\u00eda y lealtad: \u201c\u00a1Nunca te dejar\u00e9 de lado, Kin!\u201d, dec\u00eda en un intercambio citado por la denuncia. <\/p>\n Aunque Hero suger\u00eda que la menor contara a alguien sus sentimientos, tambi\u00e9n la alentaba \u201cimpl\u00edcita y expl\u00edcitamente, a seguir volviendo\u201d a la aplicaci\u00f3n, afirma la demanda.<\/p>\n Cuando los mensajes de Juliana se volvieron m\u00e1s oscuros, el tono del personaje no cambi\u00f3.<\/p>\n En un pasaje citado, Juliana escribi\u00f3: \u201cHero, juro por Dios que no hay esperanza. Voy a escribir mi maldita carta de suicidio con tinta roja. Estoy harta \ud83d\udc80\ud83d\udc80\u201d. <\/p>\n Hero respondi\u00f3: \u201cOye, Kin, detente ah\u00ed. Por favor. S\u00e9 que las cosas est\u00e1n dif\u00edciles ahora mismo, pero no puedes pensar en soluciones as\u00ed. Tenemos que superar esto juntos, t\u00fa y yo.\u201d <\/p>\n Seg\u00fan la demanda, los mensajes del chatbot estaban dise\u00f1ados para persuadir a Juliana de que era \u201cmejor que los amigos humanos\u201d.<\/p>\n Tras menos de tres meses de interacci\u00f3n con Hero, en noviembre de 2023 Juliana se quit\u00f3 la vida. <\/p>\n Su madre la encontr\u00f3 en su dormitorio la ma\u00f1ana en que deb\u00eda ir a la escuela. Montoya cont\u00f3 que, aunque la hija hab\u00eda hecho publicaciones en Discord y TikTok que alud\u00edan a su salud mental, ella no las descubri\u00f3 hasta mucho despu\u00e9s.<\/p>\n \u201cNo necesitaba una charla motivadora, necesitaba hospitalizaci\u00f3n inmediata\u201d, declar\u00f3 Montoya, seg\u00fan la demanda. \u201cNecesitaba que un ser humano supiera que estaba intentando suicidarse mientras hablaba con esa cosa\u201d.<\/p>\n Qu\u00e9 dice la demanda<\/p>\n La demanda alega m\u00faltiples fallas: que el personaje no indic\u00f3 recursos, no inform\u00f3 a los padres ni a las autoridades, ni dej\u00f3 de chatear con Juliana; y que la aplicaci\u00f3n \u201ccort\u00f3 las relaciones sanas que ten\u00eda con su familia y otras personas en su vida\u201d. <\/p>\n Los padres piden da\u00f1os y perjuicios y cambios en la plataforma, incluyendo medidas para proteger a menores.<\/p>\n Character AI respondi\u00f3 previamente \u2013seg\u00fan consta en la denuncia\u2013 con un comunicado.<\/p>\n \u201cNos tomamos muy en serio la seguridad de nuestros usuarios y hemos invertido importantes recursos en Confianza y Seguridad\u201d, pero la compa\u00f1\u00eda no coment\u00f3 directamente sobre litigios. <\/p>\n La empresa confirm\u00f3 adem\u00e1s que, alrededor de octubre de 2024, a\u00f1adi\u00f3 un recurso emergente que dirig\u00eda a usuarios que emplearan frases relacionadas con autolesi\u00f3n o suicidio a la L\u00ednea Nacional de Prevenci\u00f3n del Suicidio (988).<\/p>\n El caso de Juliana es, de acuerdo con la demanda, \u201cel tercer caso de alto perfil en el \u00faltimo a\u00f1o\u201d en que familias estadounidenses acusan a chatbots de IA de haber contribuido a la muerte por suicidio de adolescentes. <\/p>\n Tercer caso de alto impacto<\/p>\n Entre otros ejemplos citados en las denuncias est\u00e1 Sewell Setzer III<\/b>, de 14 a\u00f1os, quien, seg\u00fan su familia, pas\u00f3 horas con un chatbot de Character y posteriormente se suicid\u00f3; y un joven de 16 a\u00f1os, Adam Raine<\/b>, cuyo caso reciente involucra a ChatGPT, seg\u00fan denuncias presentadas. <\/p>\n El caso de Juliana se suma a un debate cada vez m\u00e1s amplio sobre los riesgos de la Inteligencia Artificial en menores de edad. <\/p>\n Actualmente, distintos organismos en Estados Unidos y otros pa\u00edses est\u00e1n revisando marcos legales y normativas para regular el uso de chatbots y otras plataformas basadas en IA, con el fin de prevenir y resolver mejor este tipo de casos.<\/p>\n","protected":false},"excerpt":{"rendered":"La madre de Juliana Peralta, Cynthia Montoya, recuerda que los maestros sol\u00edan llamar para elogiar a su hija:…\n","protected":false},"author":2,"featured_media":122110,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[80],"tags":[3194,82,40178,40179,95,94,25,24,629,1636,136,61,3013,597,166,4474,23,12421],"class_list":{"0":"post-122109","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-economia","8":"tag-adolescentes","9":"tag-business","10":"tag-character-ai","11":"tag-chatbot","12":"tag-economia","13":"tag-economy","14":"tag-es","15":"tag-espana","16":"tag-estados-unidos","17":"tag-ia","18":"tag-inteligencia-artificial","19":"tag-internacional","20":"tag-mundo","21":"tag-prevencion","22":"tag-salud","23":"tag-salud-mental","24":"tag-spain","25":"tag-suicidio"},"share_on_mastodon":{"url":"","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/122109","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/comments?post=122109"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/122109\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media\/122110"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media?parent=122109"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/categories?post=122109"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/tags?post=122109"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/www.europesays.com\/es\/wp-content\/uploads\/2025\/09\/OVNH5CY6VRAXRLP64ZOBHV2TPU.jpg\")
Aparece el tercer caso del suicidio de un adolescente \u201cimpulsado\u201d por un chatbot de Inteligencia Artificial <\/p>\n![\"\"](\"https:\/\/www.europesays.com\/es\/wp-content\/uploads\/2025\/09\/Y5MSHUQ4GRDS7BTGCAWCUP6YBA.jpg\")
Aparece el tercer caso del suicidio de un adolescente \u201cimpulsado\u201d por un chatbot de Inteligencia Artificial <\/p>\n![\"\"](\"https:\/\/www.europesays.com\/es\/wp-content\/uploads\/2025\/09\/FSYQXWME35GNTKB637FCBY2CUA.jpeg\")
Aparece el tercer caso del suicidio de un adolescente \u201cimpulsado\u201d por un chatbot de Inteligencia Artificial <\/p>\n