„Du bist ein wunderbares Mädchen“ oder „Weil du ein wunderbarer Junge bist“ – so oder so ähnlich heißen einige Kinderbücher, die sich zuhauf im Onlinehandel finden lassen. Dass solche Werke von einer KI erzeugt worden sind, ist auf den ersten Blick oft nicht ersichtlich. Eine Kennzeichnungspflicht dafür gibt es nicht. Auch Urheber sind auf den Werken meist keine angegeben.
Namen der Autorinnen und Autoren auf den Einbänden dürften oft frei erfunden sein, wie der Vorsitzende des Österreichischen Verlegerverbandes, Alexander Potyka, im Ö1-Morgenjournal sagte. „Das sind Fake-Produkte. Damit sie so aussehen, wie Bücher, wie wir es gewöhnt sind, die von Menschen gestaltet wurden, sind künstlich Namen draufgeschrieben, hinter denen nichts steht“, so Potyka.
Screenshot https://www.amazon.de/
Von KI erzeugte Bücher boomen regelrecht im Onlinehandel
„Massive Konkurrenz“
Hinter der ganzen Thematik steckt ein oft lukratives Geschäftsmodell. Einige wenige Personen verdienen damit viel Geld, indem sie Texte, aber auch Bilder quasi auf Knopfdruck entstehen lassen. Kosten fallen dabei so gut wie keine an. Potyka sieht durch diese „Ramschprodukte“ eine „massive Konkurrenz für alle, die Kinderbücher noch selbst schreiben oder bebildern“. Qualitätsautoren und -autorinnen würden dadurch Geld verlieren, und ihre Jobs würden gefährdet.
Viele Buchhandlungen würden mit diesen KI-Büchern oft nichts zu tun haben wollen, heißt es vom Verlegerverband. Doch neben dem Onlineriesen Amazon bietet mittlerweile auch Thalia diese Bücher an. Potyka nennt das „besorgniserregend und ärgerlich“, würden doch Buchhändlerinnen und -händler die Verantwortung haben, unter den Büchern, die auf dem Markt angeboten werden, auszuwählen.
Thalia Österreich hielt auf ORF-Anfrage fest, man könne nicht ausschließen, dass man im Onlineshop KI-Bücher anbiete, denn es gebe aktuell weder für Verlage noch für Autorinnen und Autoren eine Kennzeichnungspflicht. Man setze sich jedoch für mehr Transparenz und eine klare Kennzeichnungspflicht ein. Bei Amazon verwies man unterdessen auf interne Richtlinien, die regeln, welche Bücher angeboten werden dürfen. Man verbessere kontinuierlich den Schutz vor Inhalten, die dagegen verstoßen, hieß es.
KI-Expertin sieht Illustrationen in Gefahr
Die KI-Expertin Alexandra Ebert, die unter anderem auch die OECD im Umgang mit KI berät, sieht die Thematik nicht unbedingt als existenzbedrohend an. Es sei vielmehr eine Umstellung für die Branche, wie sie im Gespräch mit Ö1 sagte.
Problematisch findet sie in erster Linie gar nicht die von KI erstellten Texte. Aktuell seien eher Illustrationen in Gefahr, so Ebert. „Illustratorinnen und Illustratoren, die über die Jahre ihren eigenen Stil geschaffen haben, können heutzutage leichter ersetzt werden.“
Ebert: Viele Inkonsistenzen in KI-Büchern
Die von KI generierten Kinderbücher sieht Ebert aktuell „noch ganz stark in der Welt des Ramschs“. Denn in diesen Geschichten fänden sich viele Inkonsistenzen, mit denen Leserinnen und Leser rasch unzufrieden würden. Im Einzelhandel erkenne man als Laiin bzw. Laie sofort, dass es sich dabei um ein KI-Buch handelt.
Das Problem sieht die Expertin im Onlinehandel, wo man sich eher auf Bewertungen verlässt oder darauf, was bei der Suche erscheint. Durch teils geschickte Vermarktungsstrategien würden Bücher auf Amazon auch oft in den Bestsellerlisten landen. Erst wenn man das Buch in den Händen halte, sehe man, dass die Illustrationen „eine Katastrophe“ seien „und zum Beispiel ein Hund einmal in einem 2-D-Stil und auf einer anderen Seite im Science-Fiction-Stil generiert ist“.
Aber auch textlich finde man oft viele Unstimmigkeiten, wenn etwa ein und derselbe Absatz mehrmals vorkommt, meint Ebert. Ein weiteres Indiz sei ein Blick auf die Autorin bzw. den Autor. Wenn diese im letzten Jahr rund 20 Bücher rausgebracht haben, dann handle es sich vermutlich nicht um eine echte Person.
KI-Tests auf Plattformen als wirksames Mittel
Den Ruf nach einer Kennzeichnungspflicht kann Ebert nachvollziehen, in der Praxis sei eine solche jedoch schwer umzusetzen. Es gebe zwar durch das KI-Gesetz der EU („AI-Act“) eine Transparenzpflicht, bei dem sich aber die Frage stelle, inwieweit das auf Bücher im Hinblick auf KI anzuwenden ist.
Die Herausforderung sieht die KI-Expertin vor allem darin, dass es als Aufsichtsbehörde schwer sei, jedem beliebigen Fake-Profil hinterherzukommen, da jeder binnen kürzester Zeit auf Knopfdruck Hunderte Bücher erstellen könne. Die Expertin hofft darauf, dass Händler wie Amazon künftig auf ihren Plattformen Tests einbauen, die erkennen, ob es sich um ein von einem Menschen geschriebenes oder ein KI-generiertes Buch handelt.
Das wäre auch im Sinne der Plattformen, sagte Ebert, da diese ohne solche Tests so überschwemmt und damit quasi unnutzbar würden und viele Kundinnen und Kunden dadurch abwanderten. In der momentanen Situation rät die Expertin Eltern, beim Buchkauf für ihre Kinder am besten gleich in eine Buchhandlung zu gehen.
KI-Thematik nicht neu
Neu ist die Thematik keinesfalls. Es gibt bereits viele Konflikte mit KI, beispielsweise beim Copyright. Auch bei der Streamingplattform Spotify gebe es Probleme, sodass man als kleine Künstlerin bzw. Künstler kaum von den dort verdienten Tantiemen leben könne, da so viel Konkurrenz von KI-generierten Inhalten auf dem Markt sei, so die Expertin.
Generell sieht Ebert KI aber nicht nur als bedrohlich, sondern auch als Chance an. Denn begabte Künstlerinnen und Künstler könnten KI deutlich sinnvoller einsetzen und damit mehr Kunst erzeugen, als es etwa bei Laiinnen und Laien der Fall wäre. Eine komplette Auflösung zwischen menschlicher Kreativität und dass alles in Richtung Maschine gehen wird, hält sie für ausgeschlossen.