Wir müssen reden. Über ChatGPT, Google Lens und andere Werkzeuge bei der Bestimmungshilfe.

Das Thema wurmt mich schon etwas länger. Oft sehen wir hier Anfragen zur Bestimmungshilfe und relativ schnell trudeln erste Kommentare ein: "Also ChatGPT sagt", "Google Lens sagt" – macht sowas bitte nicht.

KI und Assistenz-Algorithmen können manchmal hilfreich sein. Aber spätestens, wenn es bei Pflanzen und Tieren auf Art-Ebene geht, kriegen wir da ein Problem und das liegt an den Randbedingungen. Kleiner technischer Exkurs: Google, Meta, X und wie sie alle heißen richten ihre KI-Assistenten auf möglichst universelles Wissen (und wirtschaftliche Interessen) aus. So eine KI "weiß" aber nix, die errechnet nur Wahrscheinlichkeiten und sucht Muster – unter enormem Stromverbrauch, der für die gesamte KI-Nutzung derartig hoch ist, dass Google und Amazon schon überlegt haben, eigene Kernkraftwerke hochzuziehen – kein Witz. Diese Wahrscheinlichkeiten orientieren sich an "was wird der Durchschnittsuser wissen wollen" und "welche Seiten werden am häufigsten aufgerufen" und am häufigsten aufgerufen werden die obersten Treffer der Suchmaschine, die alle bezahlt und professionell suchmaschinenoptimiert sind – deshalb findet man bei Google z.B. ganz oben erstmal Telefonnummern von Schädlingsbekämpfern und Hausmittel, wenn man eigentlich nach Bestimmungshilfen für Wespenarten sucht. Oder auf einmal ist alles eine Nosferatuspinne, weil es über die die meisten Zeitungsartikel gibt. Dazu kommt, dass die ganzen Universal-Algorithmen auch Tiere und Pflanzen einbeziehen, die am Standort des Users gar nicht vorkommen – oder umgekehrt – aufgrund der Standortdaten eine falsche Art vorschlagen, weil der User gerade in Argentinien Urlaub macht, aber ein Bild aus Österreich bestimmen möchte. Was gerade zutrifft weiß man nicht, weil diese Unternehmen ihre Algorithmen nicht offenlegen.

Jetzt haben wir auf der anderen Seite noch das Problem, dass inzwischen unglaublich viele Texte im Netz KI-generiert und nicht auf fachliche Richtigkeit überprüft sind. Was passiert also, wenn eine KI-assistierte Suchmaschine Ergebnisse aus KI-generierten Texten zusammenfasst? Mit viel Glück stimmt etwa die Hälfte. Dann spricht man von Kannibalisierung, KI speist sich aus KI und bewegt sich gewissermaßen hin zur künstlichen Dummheit.

Manche Suchmaschinen geben in ihren KI-Zusammenfassungen nicht mal die Quellen richtig an. Und manchmal steht in der angegebenen Quelle was ganz anderes – so eine KI kann auch "halluzinieren" und sich fehlende Informationen einfach aus"denken". Mehr zum ganzen Technikgedöns auf der Webseite des BSI.

Was also tun?

Nutzt für die Bestimmungshilfe bitte Werkzeuge, die gezielt auf die Bestimmung von Lebensformen angelernt sind. Dafür gibt es einige Apps und Webseiten, observation.org/obsIdentify, iNaturalist, Flora Incognita oder NABU Naturgucker, um nur einige zu nennen. Informiert Euch auch über die Datenschutzbestimmungen der jeweiligen Apps und welche Daten sie abrufen und speichern. Auch hier gibt es keine Garantie auf Richtigkeit, aber die Wahrscheinlichkeit auf korrekte Bestimmung sind deutlich höher. Umgekehrt gilt: Wenn Ihr eine Lebensform bestimmt haben möchtet, gebt bitte Euren ungefähren Fundort an. Ihr müsst Euch nicht selber doxxen, das Bundesland reicht meistens schon.

Wenn jemand darlegt, warum ein Foto Lebewesen xy zeigt, überprüft die Aussage bitte eigenständig aus mehreren Quellen und fahrt nicht einfach mit "Aber Google Lens hat gesagt, das ist…" drüber.

Danke für die Aufmerksamkeit.