Hamburg (dpa\/tmn) – Der Betreiber eines Chatbots muss f\u00fcr unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die Falschinformationen auf dem Account eines sozialen Netzwerks dauerhaft und \u00f6ffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461\/25) entschieden, auf das die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) hinweist.<\/p>\n
In dem Fall ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher F\u00f6rderung abh\u00e4ngen. Die KI generierte daraufhin eine Liste, in der explizit auch ein deutscher Verein genannt wurde. Der Chatbot behauptete etwa, dass der Verein hohe Bundesmittel erhalte und verwies dabei auch auf angebliche Quellen.<\/p>\n
KI-Halluzinationen l\u00e4sst Gericht nicht als Ausrede gelten<\/p>\n
Tats\u00e4chlich erhielt der Verein jedoch keinerlei staatliche Gelder. Da die Antworten des Chatbots unmittelbar f\u00fcr alle Nutzer \u00f6ffentlich sichtbar waren, sah der Verein sein Pers\u00f6nlichkeitsrecht verletzt und forderte die Unterlassung dieser Behauptung. Der Betreiber wehrte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlleistung der KI, eine sogenannte Halluzination.<\/p>\n
Das Landgericht Hamburg gab dem Verein recht. In den Urteilsgr\u00fcnden hie\u00df es, dass der Durchschnittsnutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere, wenn der Betreiber damit werbe, dass das System \u00abfaktenbasierte\u00bb Aussagen erstelle. Die Tatsache, dass der Inhalt von einer Maschine generiert wurde, \u00e4ndere nichts an der rechtlichen Unzul\u00e4ssigkeit der Darstellung.<\/p>\n
Ungepr\u00fcft ver\u00f6ffentlichen lassen hei\u00dft sich haftbar machen<\/p>\n
Der Betreiber m\u00fcsse sich den Output \u00abzu eigen machen\u00bb, da er das System so konfiguriert hat, dass die Ergebnisse ungepr\u00fcft direkt ver\u00f6ffentlicht w\u00fcrden. Damit hafte der Betreiber nach den Grunds\u00e4tzen der St\u00f6rerhaftung f\u00fcr die Verletzung des Vereinspers\u00f6nlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterzuverbreiten.<\/p>\n
Betroffene k\u00f6nnen also in einem solchen Fall Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI stammt, erkl\u00e4rt der DAV.\u00a0<\/p>\n
Betreiber von KI-Chatbots m\u00fcssen f\u00fcr unwahre Tatsachenbehauptungen einstehen, die ihre Systeme generieren und \u00f6ffentlich zug\u00e4nglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen verfasst oder von einer k\u00fcnstlichen Intelligenz \u00aberfunden\u00bb (halluziniert) wurde.<\/p>\n","protected":false},"excerpt":{"rendered":"Hamburg (dpa\/tmn) – Der Betreiber eines Chatbots muss f\u00fcr unwahre oder ehrverletzende Tatsachenbehauptungen der KI haften, wenn die…\n","protected":false},"author":2,"featured_media":861478,"comment_status":"","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_share_on_mastodon":"0"},"categories":[1826],"tags":[190953,5308,29,30,14705,61508,57783,692,198,671,1009,4585,194,10106,8665,190954,11747,4397],"class_list":["post-861477","post","type-post","status-publish","format-standard","has-post-thumbnail","category-hamburg","tag-chatbos","tag-computer","tag-deutschland","tag-germany","tag-grok","tag-haftung","tag-halluzinationen","tag-hamburg","tag-internet","tag-ki","tag-recht","tag-software","tag-technik","tag-tmn1100","tag-tpds","tag-unterlassungen","tag-urteile","tag-x"],"share_on_mastodon":{"url":"https:\/\/pubeurope.com\/@de\/116213420339179695","error":""},"_links":{"self":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/861477","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/comments?post=861477"}],"version-history":[{"count":0,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/posts\/861477\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media\/861478"}],"wp:attachment":[{"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/media?parent=861477"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/categories?post=861477"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.europesays.com\/de\/wp-json\/wp\/v2\/tags?post=861477"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}