5.Wie entstehen Vorurteile in den „Ansichten" künstlicher Intelligenzen?
1. Datenbasierte Voreingenommenheit (Bias in Trainingsdaten)
Vorurteile in den Ansichten einer KI entstehen hauptsächlich durch die Trainingsdaten, die zur Entwicklung der KI verwendet werden. Wenn diese Daten bereits gesellschaftliche Vorurteile oder ungleiche Repräsentationen enthalten, übernimmt die KI diese unreflektiert. Zum Beispiel, wenn ein KI-System zur Personalauswahl mit historischen Bewerbungsdaten trainiert wird, in denen Frauen seltener eingestellt wurden, kann die KI lernen, Frauen systematisch zu benachteiligen. [1]
2. Mangelnde Diversität bei der Entwicklung
Auch die Zusammensetzung der Entwicklerteams spielt eine Rolle. Wenn fast ausschließlich eine bestimmte soziale Gruppe (z. B. weiße Männer) an der Programmierung beteiligt ist, fließen unbewusste Denkmuster ein, die zu einer einseitigen Sicht führen. Vielfalt in den Entwicklerteams kann helfen, blinde Flecken zu erkennen und gerechtere Systeme zu entwickeln. [2]
3. Algorithmische Verstärkung von Vorurteilen
KI-Systeme, insbesondere solche mit maschinellem Lernen, verstärken vorhandene Muster. Wenn sie Vorurteile erkennen (z. B. in Sprache oder Verhalten), interpretieren sie diese als Norm und wenden sie systematisch an. Das kann dazu führen, dass diskriminierende Inhalte reproduziert oder sogar verstärkt werden. [3]
4. Fehlende Regulierung und Transparenz
Viele KI-Modelle sind sogenannte "Black Boxes", deren Entscheidungswege nicht nachvollziehbar sind. Ohne Transparenz oder ethische Kontrollmechanismen können Vorurteile unbemerkt weitergegeben werden – vor allem, wenn Unternehmen nicht zur Offenlegung verpflichtet sind. [4]
- ↑ Quelle: Warum KI Vorurteile entwickeln kann: Ein wissenschaftlicher Blick
- ↑ Quelle: Teamrollen in Lebenszyklus der Softwareentwicklung
- ↑ Quelle: KI und maschinelles Lernen | bpb.de
- ↑ Quelle: Künstliche Intelligenz: Die Black-Box der KI mit Explainable AI (XAI) Heatmaps Surrogat Modellen oder anderen Lösungen verständlich, nachvollziehbar und erklärbar machen
