“Der EuGH läutet nicht das Ende der SCHUFA ein. Das Urteil könnte aber KI-basierte Entscheidungen stark beschränken – zu stark”
Nein es ist nicht zu stark! KI basierte Entscheidung sind nicht gut genug und massive beeinflußt durch rasstische,klassische Daten Sets.
Sprecht mir nach: Statistik ist keine KI
Was ein Quark. Dann sieht es Zukunft halt so aus, dass da ein Mitarbeiter nochmal explizit und gesondert auf Ablehnen drückt, wenn das System ihm das sagt. Da wird überhaupt nichts eingeschränkt werden und die Entscheidung war nachweislich nicht vollautomatisiert.
Alternativ wird’s so aussehen, dass du für eine Kreditabfrage halt noch ein Häkchen mehr ankreuzen musst für die Einwilligung der vollautomatisierten Verarbeitung und maßgebliche Entscheidung durch die Schufa Daten. Letztendlich will man selbst was von der Bank und nicht andersrum. Versuch bspw. mal eine Bank zu finden der du nicht die Meldung an die Schufa erlaubst und deren Entscheidung ob du ein Konto bekommst oder nicht.
Autor vom Artikel ist Gregor Thesing. Vorstandsvorsitzender der „Gesellschaft für Datenschutz und Datensicherheit (GDD)“ die damals schon stark für die Vorratsdatenspeicherung sich ausgesprochen hat. Ach und natürlich auch Prozessvertreter der SCHUFA Holding in dem EuGH Prozess gewesen. So ein Text ist absolut nicht überraschend von jemanden der ideologisch auf Seiten der Schufa steht.
Aber mal ernsthaft: „KI“ übernimmt viele Entscheidungsprozesse. Die derzeitige KI radikalisiert das Rassismus- und Klassenproblem um Längen weil diese oft nur mit bestimmten sozioökonomischen Inhalten trainiert wird. Dass wir bislang keinerlei Gesetze haben um dies aufzubrechen ist erstaunlich.
KI soll Hilfe anbieten, nicht Entscheidungen übernehmen (und im Fall Schufa ohne nachvollziehbare Begründungen oder Einsicht in Entscheidungsprozesse).
Schufa gehört zerschlagen- Auskunfteien über Kreditwürdigkeit gehören weder in private Hand noch sollten sie unreguliert ablaufen. Unternehmen sollten gezwungen werden ihre „Algorithmen“ offen zu legen um sich auch rechtfertigen zu müssen.
Ich verstehe aus Datenschutz Hinsicht eh nicht wie der Laden überhaupt Daten sammeln darf. Man muss immer ein Zweck haben, diesen gibt es Berichtigung kaum und dann kommt nach dazu das man Daten minimieren soll. Jedoch hat jede Firma und die Schufa alles an Infos von dir, selbst Dinge die der Staat nicht weiß
Ich bin wirklich kein Experte aber die Beispiele klingen falsch:
> Um es plastisch zu machen: Lehnt ein Vermieter einen Mieter ab, weil er ihn gegoogelt hat, dann stützt er sich auf eine ausschließlich automatisierte Datenverarbeitung. Gleicht eine Bank Kontodaten eines Kunden mit den sog. Terrorlisten automatisiert ab und friert nach einem Treffer die Guthaben vorläufig ein, dann wäre dies, trotz menschlicher Entscheidung, von den besonderen Regeln vollständig automatisierter Verarbeitung erfasst, weil eben der Abgleich einen wesentlichen Einfluss hat.
Ein Vermieter der googelt bedient sich ja gerade keiner automatisierten Datenverarbeitung, sondern sichert und beurteilt ein komplexes Bild, auch wenn es digital ist.
Eine Bank friert die Konten von Terroristen nicht anhand einer ausschließlicht automatisierten Datenverarbeit ein, weil die Zusammenstellung der Terrorliste von Menschen gemacht wurden, die Daten also nach menschlichem Ermessen verarbeiet werden.
Schufa abschaffen, vollständig. Die zerstören so viele Möglichkeiten der Existenzsicherung für viele Jahre nur wegen einem Fehler, der meist dann schon behoben ist … das geht einfach überhaupt nicht klar.
Ziemliches Gebabbel, durchzogen von Tippfehlern. Schauen wir mal, ob die Lobby diese absurde Interpretation durchsetzen kann. Ich glaube nicht.
8 comments
“Der EuGH läutet nicht das Ende der SCHUFA ein. Das Urteil könnte aber KI-basierte Entscheidungen stark beschränken – zu stark”
Nein es ist nicht zu stark! KI basierte Entscheidung sind nicht gut genug und massive beeinflußt durch rasstische,klassische Daten Sets.
Sprecht mir nach: Statistik ist keine KI
Was ein Quark. Dann sieht es Zukunft halt so aus, dass da ein Mitarbeiter nochmal explizit und gesondert auf Ablehnen drückt, wenn das System ihm das sagt. Da wird überhaupt nichts eingeschränkt werden und die Entscheidung war nachweislich nicht vollautomatisiert.
Alternativ wird’s so aussehen, dass du für eine Kreditabfrage halt noch ein Häkchen mehr ankreuzen musst für die Einwilligung der vollautomatisierten Verarbeitung und maßgebliche Entscheidung durch die Schufa Daten. Letztendlich will man selbst was von der Bank und nicht andersrum. Versuch bspw. mal eine Bank zu finden der du nicht die Meldung an die Schufa erlaubst und deren Entscheidung ob du ein Konto bekommst oder nicht.
Autor vom Artikel ist Gregor Thesing. Vorstandsvorsitzender der „Gesellschaft für Datenschutz und Datensicherheit (GDD)“ die damals schon stark für die Vorratsdatenspeicherung sich ausgesprochen hat. Ach und natürlich auch Prozessvertreter der SCHUFA Holding in dem EuGH Prozess gewesen. So ein Text ist absolut nicht überraschend von jemanden der ideologisch auf Seiten der Schufa steht.
Aber mal ernsthaft: „KI“ übernimmt viele Entscheidungsprozesse. Die derzeitige KI radikalisiert das Rassismus- und Klassenproblem um Längen weil diese oft nur mit bestimmten sozioökonomischen Inhalten trainiert wird. Dass wir bislang keinerlei Gesetze haben um dies aufzubrechen ist erstaunlich.
KI soll Hilfe anbieten, nicht Entscheidungen übernehmen (und im Fall Schufa ohne nachvollziehbare Begründungen oder Einsicht in Entscheidungsprozesse).
Schufa gehört zerschlagen- Auskunfteien über Kreditwürdigkeit gehören weder in private Hand noch sollten sie unreguliert ablaufen. Unternehmen sollten gezwungen werden ihre „Algorithmen“ offen zu legen um sich auch rechtfertigen zu müssen.
Ich verstehe aus Datenschutz Hinsicht eh nicht wie der Laden überhaupt Daten sammeln darf. Man muss immer ein Zweck haben, diesen gibt es Berichtigung kaum und dann kommt nach dazu das man Daten minimieren soll. Jedoch hat jede Firma und die Schufa alles an Infos von dir, selbst Dinge die der Staat nicht weiß
Ich bin wirklich kein Experte aber die Beispiele klingen falsch:
> Um es plastisch zu machen: Lehnt ein Vermieter einen Mieter ab, weil er ihn gegoogelt hat, dann stützt er sich auf eine ausschließlich automatisierte Datenverarbeitung. Gleicht eine Bank Kontodaten eines Kunden mit den sog. Terrorlisten automatisiert ab und friert nach einem Treffer die Guthaben vorläufig ein, dann wäre dies, trotz menschlicher Entscheidung, von den besonderen Regeln vollständig automatisierter Verarbeitung erfasst, weil eben der Abgleich einen wesentlichen Einfluss hat.
Ein Vermieter der googelt bedient sich ja gerade keiner automatisierten Datenverarbeitung, sondern sichert und beurteilt ein komplexes Bild, auch wenn es digital ist.
Eine Bank friert die Konten von Terroristen nicht anhand einer ausschließlicht automatisierten Datenverarbeit ein, weil die Zusammenstellung der Terrorliste von Menschen gemacht wurden, die Daten also nach menschlichem Ermessen verarbeiet werden.
Schufa abschaffen, vollständig. Die zerstören so viele Möglichkeiten der Existenzsicherung für viele Jahre nur wegen einem Fehler, der meist dann schon behoben ist … das geht einfach überhaupt nicht klar.
Ziemliches Gebabbel, durchzogen von Tippfehlern. Schauen wir mal, ob die Lobby diese absurde Interpretation durchsetzen kann. Ich glaube nicht.