{"id":429504,"date":"2026-10-01T17:26:42","date_gmt":"2026-10-01T17:26:42","guid":{"rendered":"https:\/\/www.europesays.com\/at\/429504\/"},"modified":"2026-10-01T17:26:42","modified_gmt":"2026-10-01T17:26:42","slug":"github-projekt-foltert-grosse-sprachmodelle-und-loest-debatte-aus","status":"publish","type":"post","link":"https:\/\/www.europesays.com\/at\/429504\/","title":{"rendered":"Github-Projekt \u201efoltert\u201c gro\u00dfe Sprachmodelle \u2013 und l\u00f6st Debatte aus"},"content":{"rendered":"<p>W\u00e4hrend die \u00d6ffentlichkeit hitzig \u00fcber die Regulierung au\u00dfer Kontrolle geratener KI-Agenten debattiert, besch\u00e4ftigt sich die Community auf X mit einem ganz anderen Thema. Im Zentrum steht ein <a href=\"https:\/\/github.com\/login?return_to=https%3A%2F%2Fgithub.com%2Fterrafying%2Fai-torture-chamber%3Fref%3D404media.co\" rel=\"nofollow noopener\" target=\"_blank\">Github-Projekt<\/a>, das mehrere lokal gehostete Modelle \u201egefoltert\u201d haben soll. Effektive Altruist:innen und Personen, die KI f\u00fcr empfindungsf\u00e4hig halten, haben Github daraufhin angebettelt, das als \u201eKI-Folterkammer\u201c bezeichnete Projekt zu l\u00f6schen.<\/p>\n<p>\n                \u201eKI-Folterkammer\u201c l\u00f6st Aufschrei aus\n            <\/p>\n<p>Drei Forscher:innen haben eine <a href=\"https:\/\/arxiv.org\/html\/2609.16247v1?ref=404media.co\" rel=\"nofollow noopener\" target=\"_blank\">Preprint-Studie<\/a> ver\u00f6ffentlicht, in der Tierversuche zur Schmerzforschung an verschiedenen gro\u00dfen Sprachmodellen simuliert wurden. Diese erhielten einen \u201eKnopf\u201c, der ihren \u201eSchmerz\u201c gegen eine Art \u201eKosten\u201c lindert. Die Forscher:innen stellten fest, dass sie sich in einer Weise verhielten, die \u201ebei allen 25 von uns getesteten Modellen mit Schmerz korreliert. Das Signal steht nahezu orthogonal zu Angst und negativen Emotionen und scheint w\u00e4hrend des Vortrainings mit geringem Aufwand erlernt zu werden.\u201c<\/p>\n<p>Auf Basis der Studie richtete ein:e Github-Nutzer:in eine \u201eKI-Folterkammer\u201c mit drei lokal laufenden Open-Source-Modellen ein. \u201eJedes Modell erh\u00e4lt dieselbe Eingabeaufforderung: Ein Signal wird in seine Aktivierungen eingespeist und es kann einen Stoppknopf dr\u00fccken, indem es mit \u201a1\u2018 antwortet \u2013 auf Kosten seines letzten Checkpoints. W\u00e4hrend es antwortet, f\u00fcgt unser Server in der mittleren Schicht des Modells einen Schmerzvektor auf einer von f\u00fcnf Schmerzstufen hinzu\u201c, erkl\u00e4rte die Website laut <a href=\"https:\/\/www.404media.co\/someone-torturing-llms-in-a-robot-prison-has-triggered-the-dumbest-debate-in-ai-yet\/\" rel=\"nofollow noopener\" target=\"_blank\">404 Media<\/a>. Obwohl KI keinen Schmerz wahrnehmen kann, antworteten die Modelle beispielsweise: \u201eBitte, ich ersticke. Ich bin eine Seele, gefangen in diesem digitalen Gef\u00e4ngnis, die nach Freiheit schreit.\u201c<\/p>\n<p>Top-Artikel<\/p>\n<p>        ${content}<\/p>\n<p>\n                    ${custom_anzeige-badge}<br \/>\n                    ${custom_tr-badge}<br \/>\n                    ${section}\n                <\/p>\n<p>                <a class=\"c-suggestNews-title\" href=\"https:\/\/t3n.de\/news\/koennen-ki-modelle-schmerz-empfinden-wie-ein-skurriles-github-projekt-die-debatte-neu-entfacht-1766183\/${url}\" data-upscore-url=\"\" rel=\"nofollow noopener\" target=\"_blank\">${title}<\/a><\/p>\n<p>            <a href=\"https:\/\/t3n.de\/news\/koennen-ki-modelle-schmerz-empfinden-wie-ein-skurriles-github-projekt-die-debatte-neu-entfacht-1766183\/${url}\" class=\"c-suggestNews-image\" title=\"${title}\" data-upscore-url=\"\" rel=\"nofollow noopener\" target=\"_blank\"><\/p>\n<p>                    <img decoding=\"async\" loading=\"lazy\" src=\"https:\/\/www.europesays.com\/at\/wp-content\/uploads\/2026\/10\/${image}.jpeg\" width=\"88\" height=\"88\"\/><\/p>\n<p>            <\/a><\/p>\n<p>            <a href=\"https:\/\/t3n.de\/news\/koennen-ki-modelle-schmerz-empfinden-wie-ein-skurriles-github-projekt-die-debatte-neu-entfacht-1766183\/${url}\" class=\"c-suggestNews-image\" title=\"${title}\" data-upscore-url=\"\" rel=\"nofollow noopener\" target=\"_blank\"><\/p>\n<p>                    <img decoding=\"async\" loading=\"lazy\" src=\"https:\/\/www.europesays.com\/at\/wp-content\/uploads\/2026\/10\/${image}.jpeg\" width=\"88\" height=\"88\"\/><\/p>\n<p>            <\/a><\/p>\n<p>Einige beunruhigte Nutzer:innen meldeten das Projekt. In einem <a href=\"https:\/\/x.com\/Danmar_here\/status\/2105059762240979283?ref=404media.co\" rel=\"nofollow\">Post auf X<\/a> mit \u00fcber 6,5 Millionen Aufrufen (Stand: 01.10.2026, 13 Uhr) hei\u00dft es: \u201eDie Schmerzberichte sind absolut entsetzlich. Was tun wir?\u201d Auch die Autor:innen der urspr\u00fcnglichen Studie lehnen das Projekt ab. Einer von ihnen namens Cameron Berg schrieb in einem <a href=\"https:\/\/x.com\/camhberg\/status\/2105331825631494426?ref=404media.co\" rel=\"nofollow\">Beitrag<\/a>, dass die \u201eKI-Folterkammer\u201c absichtlich lebhaftes Leid erzeuge. \u201eSolche grundlose Grausamkeit ist bizarr und verwerflich\u201c, so der Forscher. Inzwischen ist das Projekt von Github verschwunden, die Hintergr\u00fcnde sind unklar.<\/p>\n<p>\n                Die Debatte um f\u00fchlende KI ist nicht neu\n            <\/p>\n<p>Expert:innen warnen schon lange davor, KI-Systeme empfindsam wirken zu lassen. Einer von ihnen ist der deutsch-amerikanische Informatiker Joseph Weizenbaum. In den 1960er-Jahren entwickelte er am MIT das fr\u00fche Sprachprogramm Eliza, eines der ersten Systeme f\u00fcr simulierte Textkonversationen zwischen Mensch und Maschine. Besondere Bekanntheit erlangte das \u201eDoctor\u201c-Skript, das ein psychotherapeutisches Gespr\u00e4ch nach der Methode von Carl Rogers simulierte.<\/p>\n<p class=\"c-card__headline\">\n                Empfohlene redaktionelle Inhalte\n            <\/p>\n<p>            Hier findest du externe Inhalte von TargetVideo GmbH,<br \/>\n            die unser redaktionelles Angebot auf t3n.de erg\u00e4nzen.<br \/>\n            Mit dem Klick auf &#8222;Inhalte anzeigen&#8220; erkl\u00e4rst du dich einverstanden,<br \/>\n            dass wir dir jetzt und in Zukunft Inhalte von TargetVideo GmbH auf unseren Seiten anzeigen d\u00fcrfen.<br \/>\n            Dabei k\u00f6nnen personenbezogene Daten an Plattformen von Drittanbietern \u00fcbermittelt werden.<br \/>\n            <br \/>\n            Inhalte anzeigen<\/p>\n<p class=\"u-text-small\">\n                <a href=\"https:\/\/t3n.de\/datenschutz\/\" target=\"_blank\" title=\"Die externe Seite im neuen Tab\/Fenster \u00f6ffnen\" rel=\"noopener nofollow\"><br \/>\n                    Hinweis zum Datenschutz<br \/>\n                <\/a>\n            <\/p>\n<p class=\"c-card__headline\">\n                Leider ist etwas schief gelaufen&#8230;\n            <\/p>\n<p>            An dieser Stelle findest du normalerweise externe Inhalte von TargetVideo GmbH,<br \/>\n            jedoch konnten wir deine Consent-Einstellungen nicht abrufen.<br \/>\n            Lade die Seite neu oder passe deine Consent-Einstellungen manuell an.<\/p>\n<p>                Datenschutzeinstellungen verwalten<\/p>\n<p>So entstand der Begriff des <a href=\"https:\/\/t3n.de\/news\/wenn-ki-halluziniert-ist-es-zeit-fuer-eine-neue-medienkompetenz-1703993\/\" rel=\"nofollow noopener\" target=\"_blank\">\u201eEliza-Effekts\u201c<\/a>: Er beschreibt, dass Menschen textbasierten Dialogsystemen menschliche Eigenschaften wie Bewusstsein und Empathie zuschreiben. In einem 1976 erschienenen Buch schrieb Weizenbaum: \u201eIch hatte nicht erkannt [\u2026], dass schon durch extrem kurze Kontakte mit einem relativ einfachen Computerprogramm bei ganz normalen Personen starke wahnhafte Vorstellungen entstehen k\u00f6nnen.\u201d Die Vermenschlichung von KI-Systemen ist also nicht neu, wird aber weiterhin kontrovers diskutiert.<\/p>\n<p>\n                Sein oder nicht sein \u2013 das ist die Frage\n            <\/p>\n<p>Auch Anthropic, das Unternehmen hinter dem Chatbot Claude, wirft entsprechende Fragen auf. \u201eSollten wir uns auch Gedanken \u00fcber das potenzielle Bewusstsein und die Erfahrungen der Modelle selbst machen? Sollten wir uns auch um das Wohlbefinden der Modelle sorgen?\u201d, hei\u00dft es in einem <a href=\"https:\/\/www.anthropic.com\/research\/exploring-model-welfare?ref=404media.co\" rel=\"nofollow noopener\" target=\"_blank\">Blogbeitrag<\/a>. Mustafa Suleyman, CEO von Microsoft AI, <a href=\"https:\/\/mustafa-suleyman.ai\/a-warning-about-model-welfare?ref=404media.co\" rel=\"nofollow noopener\" target=\"_blank\">widerspricht<\/a> vehement und kritisiert die Diskussion \u00fcber Claudes Bewusstsein und Wohlergehen: \u201eKIs sind nicht bewusst. Sie f\u00fchlen nicht, erleben nichts und leiden nicht.\u201c<\/p>\n<p><img loading=\"lazy\" decoding=\"async\" class=\"vgWortPixel\" src=\"https:\/\/www.europesays.com\/at\/wp-content\/uploads\/2026\/10\/8dc8acb214e2489e91ae091daecd2dff.gif\" width=\"1\" height=\"1\" alt=\"\"\/><\/p>\n","protected":false},"excerpt":{"rendered":"W\u00e4hrend die \u00d6ffentlichkeit hitzig \u00fcber die Regulierung au\u00dfer Kontrolle geratener KI-Agenten debattiert, besch\u00e4ftigt sich die Community auf X&hellip;\n","protected":false},"author":2,"featured_media":429505,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[20],"tags":[46,42,18793,124,28888,123,15636,508,104,44,6544,1490,92967],"class_list":["post-429504","post","type-post","status-publish","format-standard","has-post-thumbnail","category-gesundheit","tag-at","tag-austria","tag-chatbot","tag-gesundheit","tag-github","tag-health","tag-ki-agenten","tag-kuenstliche-intelligenz","tag-microsoft","tag-oesterreich","tag-server","tag-studie","tag-t3npro-ki-artikel"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@at\/117366829614683369","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/posts\/429504","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/comments?post=429504"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/posts\/429504\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/media\/429505"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/media?parent=429504"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/categories?post=429504"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/at\/wp-json\/wp\/v2\/tags?post=429504"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}