6. Welchen Einfluss können solche Vorurteile auf die reale Welt haben?
Aus ZUM Projektwiki
Diskriminierung durch technische Systeme
KI-Systeme können Menschen benachteiligen – besonders in sensiblen Bereichen wie Gesichtserkennung, Polizeiarbeit, Bewerbungsverfahren oder Kreditvergabe.
Ein Beispiel: Die Gesichtserkennung großer Konzerne erkennt weiße Männer sehr genau, hat aber hohe Fehlerquoten bei People of Color.[1]
Verstärkung sozialer Ungleichheit
KI-Systeme automatisieren oft bestehende soziale Probleme. Wenn z. B. arme Menschen oder Minderheiten schon vorher benachteiligt waren, können KI-Systeme diese Ungleichheiten durch automatisierte Entscheidungen weiter verstärken. [2]
Vertrauensverlust in Technologie und Politik
Wenn KI als unfair erlebt wird, sinkt das Vertrauen in digitale Technologien, Behörden und Unternehmen. Insbesondere bei politischen Entscheidungsprozessen kann das gefährlich werden. [3]
