Die Europäische Union hat am 2. August mit Artikel 50 des KI-Gesetzes offiziell neue Transparenzregeln für künstliche Intelligenz (KI) in Kraft gesetzt. Diese Verordnung verpflichtet Chatbots direkt dazu, ihre maschinelle Natur offenzulegen, und alle Deepfake-Inhalte oder -Produkte, die von KI erstellt werden, müssen eine technische Kennung tragen.
Vier zentrale Transparenzverpflichtungen gemäß Abschnitt 50 des KI-Gesetzes.
Der neue Rechtsrahmen wurde durch die Verordnung (EU) 2026/1744 und die dazugehörigen Durchführungsleitlinien der Europäischen Kommission finalisiert. Demnach müssen Technologieanbieter und -herausgeber vier zentrale technische Verpflichtungen erfüllen:
- Automatische Systemerkennung: Chatbots und Sprachassistenten müssen so konzipiert sein, dass die Benutzer sofort erkennen, dass sie mit einer Maschine interagieren.
- Kodierung der KI-generierten Ausgabe: KI-generierte Bild-, Audio-, Video- und Textdateien müssen einen maschinenlesbaren technischen Trace-Code (Wasserzeichen oder Metadaten) enthalten.
- Warnung vor Deepfake-Inhalten: Jede Person oder Organisation, die Deepfake-Inhalte veröffentlicht, die reale Personen realistisch imitieren, ist verpflichtet, einen Warnhinweis öffentlich anzuzeigen.
- Kontrolle von Massenmedieninhalten: KI-generierte Inhalte, die für die öffentliche Information bestimmt sind, müssen gekennzeichnet werden, es sei denn, sie wurden einer Überprüfung unterzogen und unterliegen der menschlichen Bearbeitung.
Darüber hinaus sehen die Bestimmungen auch Ausnahmen vor. Die Anwendung von KI bei Standardbearbeitungsaufgaben wie der Korrektur von Rechtschreib- oder Grammatikfehlern muss nicht gekennzeichnet werden. Auch eindeutig fiktive oder imaginäre Inhalte (wie Bilder von Personen, die in der Luft fliegen) fallen nicht unter die Definition von Deepfakes, die einer Kontrolle bedürfen.
Chatbots müssen sich selbst identifizieren, und Deepfakes müssen öffentlich zugänglich sein. Die Frist für bereits auf dem Markt befindliche Systeme endet im Dezember. Warum fällt es Nutzern so schwer, KI-Kennzeichnungen sofort zu erkennen?
Das könnte Sie interessieren
Warnung vor Liebesbetrug mithilfe von KI-Tools.Kriminelle Banden nutzen künstliche Intelligenz (KI) aus und betrügen ihre Opfer nicht nur per SMS, sondern fälschen auch Bilder, Videos und sogar Stimmen (Deepfakes), um die Psychologie zu manipulieren und sie in Online-Liebesbetrügereien zu locken.
Obwohl die Regelungen bereits im August in Kraft traten, werden die meisten Nutzer keine spürbare Änderung an der Benutzeroberfläche ihrer App feststellen. Dies ist auf zwei Faktoren zurückzuführen: technische Gegebenheiten und die Übergangsphase.
Erstens konzentriert sich der Mechanismus zur maschinenlesbaren Kennzeichnung gemäß Artikel 50 Absatz 2 auf Tarntechniken wie das Einbetten digitaler Wasserzeichen oder Metadaten. Spezialisierte Scanner können diese Spuren erkennen, sie sind jedoch für das bloße Auge unsichtbar.
Zweitens gewährt das KI-Gesetz eine viermonatige Übergangsfrist für KI-Generierungssysteme, die bereits vor dem 2. August auf dem Markt waren. Konkret haben Entwickler bis zum 2. Dezember 2026 Zeit, die Integration ihrer technischen Infrastruktur in bestehende Produkte und Dienstleistungen abzuschließen.
Darüber hinaus stellt die Europäische Kommission drei visuelle Kennzeichnungen für KI-gestützte, vollständig KI-generierte oder teilweise KI-bearbeitete Inhalte bereit. Die Verwendung dieser grafischen Symbole ist jedoch freiwillig und unterliegt dem Transparenzkodex; sie ersetzt nicht die verbindlichen technischen Verpflichtungen.
Überwachungsmechanismus und Rahmen für finanzielle Sanktionen
Zur Umsetzung dieser Vorgaben hat jeder EU-Mitgliedstaat eine spezialisierte Regulierungsbehörde benannt. In Deutschland fungiert die Bundesnetzagentur als zentrale Marktaufsichtsbehörde und betreibt ein Portal, über das Meldungen von Verstößen aus der Bevölkerung entgegengenommen werden können.
Die Strafen für Verstöße gegen die Transparenzpflichten sind sehr hoch angesetzt. Organisationen, die gegen Artikel 50 verstoßen, können mit Geldbußen von bis zu 15 Millionen Euro oder 3 % ihres weltweiten Jahresumsatzes belegt werden, je nachdem, welcher Betrag höher ist.
In der nächsten Phase, ab dem 2. Dezember 2026, wird die EU KI-Systeme, die ohne Einwilligung pornografische oder kinderpornografische Inhalte erstellen, vollständig verbieten. Die Höchststrafen betragen bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes. Strengere Regelungen für risikoreiche KI wurden hingegen auf Dezember 2027 bzw. August 2028 verschoben.
Quelle: https://baodanang.vn/quy-dinh-dan-nhan-ai-cua-lien-minh-chau-au-tu-28-nhung-thay-doi-nguoi-dung-can-biet-3346028.html