[Mork vom Ork]

Die Bremer Landesbeauftragten für Datenschutz und Informationsfreiheit veröffentlichen Jahresberichte über ihre Arbeit.
Diese können sowohl über das Transparenzportal:

https://www.transparenz.bremen.de/sixcms/detail.php?gsid=kogis_tp_berlin01.c.85849.de&_article_id=46425&lang=de&fulltext=Jahresbericht+der+Landesbeauftragten+f%FCr+Datenschutz&fileCnt=on

als auch über deren eigene Webseite:

https://www.datenschutz.bremen.de/publikationen/jahresberichte-7242

abgerufen werden.

Viele Grüße
Mork vom Ork

[Mork vom Ork]

Im Jahresbericht 2019 und somit dem 2. Jahresbericht seit DSGVO:

21. Die Entschließungen der Datenschutzkonferenzen im Jahr 2019

21.1 Hambacher Erklärung zur Künstlichen Intelligenz – Sieben datenschutzrechtliche Anforderungen
https://www.datenschutz.bremen.de/sixcms/media.php/13/2_Jahresbericht_Datenschutz.pdf

S. 56 ff
"Nicht alles, was technisch möglich und ökonomisch erwünscht ist, darf in der Realität umgesetzt
werden. Das gilt in besonderem Maße für den Einsatz von selbstlernenden Systemen, die
massenhaft Daten verarbeiten und durch automatisierte Einzelentscheidungen in Rechte und
Freiheiten Betroffener eingreifen. Die Wahrung der Grundrechte ist Aufgabe aller staatlichen
Instanzen. Wesentliche Rahmenbedingungen für den Einsatz von KI sind vom Gesetzgeber
vorzugeben und durch die Aufsichtsbehörden zu vollziehen. Nur wenn der Grundrechtsschutz
und der Datenschutz mit dem Prozess der Digitalisierung Schritt halten, ist eine Zukunft
möglich, in der am Ende Menschen und nicht Maschinen über Menschen entscheiden.

[...]

II. Datenschutzrechtliche Anforderungen an Künstliche Intelligenz
[...]
1. KI darf Menschen nicht zum Objekt machen
[...]
2. KI darf nur für verfassungsrechtlich legitimierte Zwecke eingesetzt werden und das Zweckbindungsgebot nicht aufheben
[...]
3. KI muss transparent, nachvollziehbar und erklärbar sein
[...]
4. KI muss Diskriminierungen vermeiden
[...]
5. Für KI gilt der Grundsatz der Datenminimierung
[...]
6. KI braucht Verantwortlichkeit
[...]
7. KI benötigt technische und organisatorische Standards
"

[pjotre]

Dank. Geht an die Verfassungsrichter bei bevorstehenden bundesweiten Beschwerden gegen den Medienstaatsvertrag 2020. Rund 500 Seiten Schriftsatz, darunter auch:

DAB1.b)   21. Entschließung der Datenschutzkonferenzen 2019:
Hambacher Erklärung zur Künstlichen Intelligenz – Sieben datenschutzrechtliche Anforderungen

Quelle beispielsweise: Jahresbericht der Landesbeauftragten für Datenschutz - Bremen"
https://www.datenschutz.bremen.de/sixcms/media.php/13/2_Jahresbericht_Datenschutz.pdf
Dort Seiten 56 ff:

"Nicht alles, was technisch möglich und ökonomisch erwünscht ist, darf in der Realität umgesetzt werden.
Das gilt in besonderem Maße für den Einsatz von selbstlernenden Systemen, die massenhaft Daten verarbeiten und durch automatisierte Einzelentscheidungen in Rechte und Freiheiten Betroffener eingreifen. Die Wahrung der Grundrechte ist Aufgabe aller staatlichen Instanzen. Wesentliche Rahmenbedingungen für den Einsatz von KI sind vom Gesetzgeber vorzugeben und durch die Aufsichtsbehörden zu vollziehen. Nur wenn der Grundrechtsschutz und der Datenschutz mit dem Prozess der Digitalisierung Schritt halten, ist eine Zukunft möglich, in der am Ende Menschen und nicht Maschinen über Menschen entscheiden."

II. Datenschutzrechtliche Anforderungen an Künstliche Intelligenz [...]
1. KI darf Menschen nicht zum Objekt machen [...]
2. KI darf nur für verfassungsrechtlich legitimierte Zwecke eingesetzt werden und das Zweckbindungsgebot nicht aufheben [...]
3. KI muss transparent, nachvollziehbar und erklärbar sein [...]
4. KI muss Diskriminierungen vermeiden [...]
5. Für KI gilt der Grundsatz der Datenminimierung [...]
6. KI braucht Verantwortlichkeit [...]
7. KI benötigt technische und organisatorische Standards [...]

[drboe]

Dass durch KI getroffene Entscheidungen durch betroffene Personen nachvollziehbar sind, dürfte in vielen Fällen ein frommer Wunsch bleiben. Aus der Sicht der Anwender ist eine KI praktisch immer eine „Black Box“, deren Prozesse nicht transparent sind und deren Ergebnisse von den Trainingsdaten und Wichtungen abhängen, die weder den Anwendern noch den Betroffenen bekannt sind.
Können schon diejenigen, die KI einsetzen, die Entscheidungen nur schwer bis gar nicht nachvollziehen, so dürfte das den von solchen Entscheidungen Betroffenen völlig unmöglich sein. Bekannte Fälle sind auf hellhäutige Menschen trainierte Fahrzeuge, die einen die Straße querenden dunkelhäutigen Menschen für ein Tier halten. Eine um ein automatisch fahrendes Fahrzeug gezogene, durchgehende Linie, „fesselte“ dieses. Ein Mensch würde die Linie einfach ignorieren. Minimale Änderungen an Verkehrszeichen führen dazu, dass dieselben von „autonomen Fahrzeugen“ nicht korrekt erkannt werden. Und bei durch KI bewerteten Bewerbungen hatte man vorwiegend Bewerbungen von männlichen Bewerbern für das Training verwendet. Folge: eine Verstärkung der Tendenz männlichen Bewerbern den Vorzug zu geben.

M. Boettcher


Edit "Bürger" @alle:
Das eigenständige und weitgefächerte Thema "KI" hier im Thread bitte nicht weiter vertiefen, da dies hier den Rahmen sprengt. Danke.