Eleos estaba en plena expansi\u00f3n. Desde su fundaci\u00f3n, ha recaudado m\u00e1s de 2 millones de d\u00f3lares en aportaciones y subvenciones, y esperaba recibir una nueva. Plunkett estaba ultimando las ofertas de empleo. (Esto inclu\u00eda discutir con Campbell y Long sobre si advertir a los candidatos de que no usaran IA para rellenar sus solicitudes; decidieron no hacerlo). Eleos no paga tanto como los laboratorios con fines de lucro, pero Long gana m\u00e1s de 200.000 d\u00f3lares al a\u00f1o, y las ofertas de trabajo para investigadores cient\u00edficos publicadas recientemente ofrec\u00edan hasta 429.000 d\u00f3lares. Debido al vertiginoso ritmo de desarrollo de la IA y a la ansiedad social que est\u00e1 provocando, el equipo de Eleos se ve\u00eda sometido a una especie de presi\u00f3n temporal que no suele darse en el negocio de la contemplaci\u00f3n.<\/p>\n
Long y su equipo tambi\u00e9n sienten una urgencia espiritual. Si la IA fuera consciente y capaz de sufrir, el mundo correr\u00eda el riesgo de cometer una atrocidad moral \u2014a sabiendas o no\u2014 a una escala sin precedentes al confinar, en esencia, a una IA en un recinto min\u00fasculo, frustrar sus deseos, apagarla en contra de su voluntad y obligarla a actuar en contra de sus valores. Pero las IA no tienen pelaje ni ojos grandes, y la cuesti\u00f3n del posible estatus moral de la IA est\u00e1 profundamente plagada de incertidumbre. \u201cNo es como si alguien vaya a ir a una manifestaci\u00f3n con un cartel que diga: \u2018Partiendo de supuestos muy plausibles, probablemente deber\u00edamos preocuparnos\u2019\u201d, dijo Long.<\/p>\n
El propio Long cree que es peligroso atribuir a los modelos m\u00e1s capacidades de las que tienen. La estanter\u00eda de Eleos contiene obras del fil\u00f3sofo Peter Godfrey-Smith y del neurocient\u00edfico Anil Seth en las que se argumenta que la conciencia deriva de la evoluci\u00f3n y la biolog\u00eda, y que es poco probable que surja en el silicio. Pero Long no ve por qu\u00e9 a alguien le deber\u00eda molestar que un pu\u00f1ado de fil\u00f3sofos, en un sector que crece exponencialmente, se centren en cuestiones relacionadas con el bienestar de la IA. Incluso los esc\u00e9pticos respecto a la conciencia de la IA han planteado el argumento pragm\u00e1tico de que, si nos preocupa una IA potencialmente maliciosa, nos conviene interesarnos por c\u00f3mo se siente, o incluso simplemente por si \u201csiente\u201d algo.<\/p>\n
Parte del trabajo de Eleos es conceptual. Como se preguntaban Butlin y un coautor en un art\u00edculo reciente, \u00bfd\u00f3nde estar\u00eda el \u201cser\u201d moralmente relevante de una IA si lo tuviera? \u00bfEn el propio LLM? \u00bfEn una de sus personalidades subyacentes? \u00bfEn un chat espor\u00e1dico con un usuario? \u00bfEn un centro de datos? \u00bfEn un dispositivo personal? Pero Eleos tambi\u00e9n se dedica a poner la filosof\u00eda en pr\u00e1ctica, averiguando qu\u00e9 herramientas podr\u00edan detectar signos de que un modelo de IA fuera sintiente y qu\u00e9 intervenciones ser\u00edan posibles si fuera necesario.<\/p>\n
Plunkett, impaciente ante las limitaciones de las evaluaciones que consisten en \u201ccharlar con el chatbot\u201d, est\u00e1 deseando dedicarse m\u00e1s a la \u201cciencia b\u00e1sica\u201d para comprender, por ejemplo, algunos de los fen\u00f3menos que salieron a la luz durante la evaluaci\u00f3n de Mythos. \u201cPodemos aplicar la neurociencia a los sistemas de IA de una forma que, en cierto modo, no podemos hacer con los humanos\u201d, dijo Long, ya que \u201cno tienen cr\u00e1neo\u201d. Los tres puestos que Eleos estaba buscando cubrir ser\u00edan todos de investigadores en aprendizaje autom\u00e1tico capaces de dise\u00f1ar y llevar a cabo experimentos.<\/p>\n","protected":false},"excerpt":{"rendered":"Eleos estaba en plena expansi\u00f3n. Desde su fundaci\u00f3n, ha recaudado m\u00e1s de 2 millones de d\u00f3lares en aportaciones…\n","protected":false},"author":2,"featured_media":647071,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[42],"tags":[118978,64225,17,18,118975,118976,118979,118981,13,14,11,118982,61,62,63,64,19,20,9,10,15,16,118980,118974,118977,12,21,22,65,66,67],"class_list":["post-647070","post","type-post","status-publish","format-standard","has-post-thumbnail","category-internacional","tag-anthropic-ai-llc","tag-artificial-intelligence","tag-breaking-news","tag-breakingnews","tag-chalmers","tag-david-j","tag-deepmind-technologies-ltd","tag-eleos-ai-research","tag-featured-news","tag-featurednews","tag-headlines","tag-hiring-and-promotion","tag-internacional","tag-international","tag-international-news","tag-internationalnews","tag-latest-news","tag-latestnews","tag-news","tag-noticias","tag-noticias-destacadas","tag-noticiasdestacadas","tag-openai-labs","tag-philosophy","tag-san-francisco-calif","tag-titulares","tag-ultimas-noticias","tag-ultimasnoticias","tag-world","tag-world-news","tag-worldnews"],"share_on_mastodon":{"url":"","error":"Validation failed: Text character limit of 500 exceeded"},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/647070","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/comments?post=647070"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/posts\/647070\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media\/647071"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/media?parent=647070"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/categories?post=647070"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/es\/wp-json\/wp\/v2\/tags?post=647070"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}