Die Gefahr, die von KI-Anwendungen ausgeht, wird häufig falsch eingeschätzt. Das zeigt eine neue Studie der Uni Graz. Jürgen Fleiß weiß, warum das so ist.

Irgendwer liegt hier falsch. Das wird einem schnell klar, wenn man eine neue Studie der Uni Graz zur Risikoeinschätzung von KI-Anwendungen liest. Denn: Die EU und die österreichische Bevölkerung könnten mit ihrer Einschätzung kaum weiter auseinander liegen. Verglichen wurden in der Studie die Einschätzungen der EU im neuen AI-Act und jene von Befragten Österreicherinnen und Österreichern.

Das für die Forscher überraschende Ergebnis: In fast allen Fällen hat die Bevölkerung gegengleich zum AI-Act entschieden. Besonders deutlich war das Ergebnis bei der Müdigkeitserkennung für Lkw-Fahrer. Diese Anwendung wird von der EU als Hochrisikoanwendung eingeschätzt. In der Bevölkerung hatte sie hingegen die größte Zustimmung. Damit stellt sich die Frage: Wie kommt eine so starke Diskrepanz zustande?

Umso größer der Nutzen, desto größer das akzeptierte Risiko

Ein Verdacht, der einen bei diesem Ergebnis ereilt: Die Bevölkerung ist der modernen Technologie so lange zugetan, solange die Risiken davon sie nicht direkt betreffen. Denn wenn Lkw-Fahrer überwacht werden, betrifft das nur eine sehr kleine Bevölkerungsgruppe. Wenn ein Lkw-Unfall passiert, potenziell aber jede und jeden. Die These der Uni-Graz-Forscher ist aber eine andere: „Unsere mögliche Erklärung ist, dass das so massive Konsequenzen hat, wenn diese Systeme versagen, dass man der KI hier vielleicht sogar freie Hand geben möchte“, sagt Fleiß. Dafür spricht auch, dass die Zustimmung der Bevölkerung abnimmt, wenn man Beschränkungen für das System einführt.

Ähnlich weit auseinander liegen die Einschätzungen der EU und der Bevölkerung auch beim sogenannten Vorschlagsalgorithmus. Solche Systeme werden bereits seit langem bei Streaming-Anbietern wie Spotify oder Netflix angewendet, um das nächste Lied oder den nächsten Film vorzuschlagen. Für die EU steht fest: Die Anwendung birgt ein geringes Risiko. Die Österreicherinnen und Österreicher wollen sich hingegen nur ungern vorschreiben lassen, was sie zu hören und schauen haben. Viele der Befragten stehen der KI in dem Bereich besonders kritisch gegenüber. Eine mögliche Erklärung ist auch hier, dass diese KI-Anwendung beinahe jeden und jede betrifft.

Technikwissen hilft bei akkurater Risikoeinschätzung

Besonders spannend für die Forscher war zudem zu sehen: In einer Anwendung, die jener im Lkw sehr ähnlich ist, die aber Personen vor einem PC überwacht, und sie bei schlechter Laune darauf hinweist, eine Atemübung zu machen, war die Reaktion der Bevölkerung eine ganz andere. „Diese Anwendung wurde massiv abgelehnt“, sagt Fleiß. Die wahrscheinlichste Erklärung: Vor dem PC geht es schlicht nicht um Leben und Tod.

Die Frage, die bleibt: Wer hat nun Recht? Eine klare Antwort darauf kann wohl erst die Zeit liefern. Was aus der Studie aber jedenfalls hervorgeht: Je besser sich Personen mit KI-Anwendungen und Technik auskennen, desto akkurater fällt auch die Risikoeinschätzung aus. Sprich, desto stärker deckt sie sich mit jener der EU. Für Fleiß steht daher fest: Gefahren aber auch Schutzmaßnahmen müssen besser und einfacher kommuniziert werden, etwa in Form von Zertifikaten, als eine Art „Pickerl“ für die KI.