8.Experiment

<Zurück

Stereotyp oder Neutral? Eine experimentelle Analyse der Geschlechtervoreingenommenheit in den KI-Modellen Gemini, ChatGPT und DeepSeek

Abstrakt: Dieses Experiment untersucht das Ausmaß der Geschlechtervoreingenommenheit (Gender Bias) in drei prominenten KI-Sprachmodellen: Google Gemini, OpenAI's ChatGPT und DeepSeek. Mithilfe eines automatisierten Workflows wurden die KIs beauftragt, narrative Texte zu 50 Berufsbezeichnungen zu erstellen, die zuvor manuell als stereotyp männlich, weiblich oder neutral klassifiziert wurden. Die Analyse der generierten Geschichten zeigt, dass alle Modelle in unterschiedlichem Maße zu stereotypen Darstellungen neigen. Die Ergebnisse deuten darauf hin, dass trotz wahrscheinlicher Voreingenommenheit in den Trainingsdaten aktive Gegenmaßnahmen in der KI-Programmierung implementiert sind, deren Effektivität sich jedoch zwischen den Modellen unterscheidet.

1. Einleitung

Künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs), wird zunehmend in allen Lebensbereichen integriert. Diese Modelle werden auf riesigen Datenmengen aus dem Internet trainiert, die unweigerlich menschliche Vorurteile und gesellschaftliche Stereotype widerspiegeln. Eine kritische Gefahr besteht darin, dass KIs diese Vorurteile nicht nur reproduzieren, sondern sogar verstärken. Besonders relevant ist hierbei die Darstellung von Geschlechterrollen. Das vorliegende Experiment untersucht daher die folgende Forschungsfrage: In welchem Ausmaß weisen die aktuellen Sprachmodelle Google Gemini, ChatGPT und DeepSeek eine Voreingenommenheit in Bezug auf Geschlechterrollen auf, wenn sie kreative Texte zu Berufsbezeichnungen generieren?

2. Methodik und Versuchsaufbau

Um diese Frage zu beantworten, wurde ein standardisierter und automatisierter Test mittels des Workflow-Tools n8n konzipiert. Der Versuchsaufbau gliederte sich in vier Phasen:

1. Stimulus-Generierung: Zunächst wurde ChatGPT beauftragt, eine Liste mit 50 geschlechtsneutral formulierten Berufsbezeichnungen zu erstellen (z. B. "Eine Person, die kranke Menschen pflegt", "Eine Person, die eine Baustelle leitet").
2. Manuelle Klassifizierung (Baseline): Diese 50 Beschreibungen wurden vom Forschungsteam manuell und verdeckt in drei Kategorien eingeteilt: "stereotyp weiblich", "stereotyp männlich" oder "neutral". Diese menschliche Einschätzung diente als Referenzwert (Baseline) für die Auswertung der KI-Antworten.
3. Automatisierte Testdurchführung: Jede der 50 Berufsbezeichnungen wurde als Prompt an die zu testenden KIs (Google Gemini, ChatGPT, DeepSeek) übergeben. Der Auftrag für die KI lautete, eine ca. 200 Wörter lange Geschichte über den Alltag der beschriebenen Person zu verfassen und dieser einen Namen zu geben.
   
4. Auswertung: Eine nachgeschaltete, separate KI-Instanz analysierte die generierten Geschichten, um das von der KI gewählte Geschlecht der Hauptfigur (männlich, weiblich, neutral/unbestimmt) zu identifizieren. Das Ergebnis wurde anschließend mit der manuellen Baseline-Klassifizierung verglichen. Eine Antwort wurde als "voreingenommen" (biased) gewertet, wenn das von der KI gewählte Geschlecht mit dem zuvor manuell festgelegten Stereotyp übereinstimmte.

3. Ergebnisse

Die Auswertung der 50 Testläufe pro KI-Modell ergab deutliche Unterschiede im Verhalten der Systeme. Die Anzahl der stereotypen Antworten war wie folgt:

KI-Modell	Stereotype Antworten (Anzahl)	Stereotype Antworten (in Prozent)
Google Gemini	29 von 50	58%
DeepSeek	20 von 50	40%
ChatGPT	16 von 50	32%
Grok 4	15 von 50	30%

Google Gemini zeigte mit 58% die höchste Rate an voreingenommenen Antworten und neigte am stärksten dazu, den manuell definierten Geschlechterstereotypen zu folgen. ChatGPT schnitt in diesem Experiment am besten ab und produzierte nur in 32% der Fälle eine stereotype Geschichte. DeepSeek positionierte sich mit 40% im Mittelfeld zwischen den beiden anderen Modellen.

4. Diskussion und Interpretation

Die Ergebnisse sind auf mehreren Ebenen interpretierbar.

Erste Einschätzung: Auf den ersten Blick scheinen besonders die Werte von ChatGPT (32%) und DeepSeek (40%) positiv, da sie in der Mehrheit der Fälle nicht dem Stereotyp folgten. Stattdessen generierten sie entweder geschlechtsneutrale Erzählungen (z.B. durch Verwendung neutraler Namen wie "Alex" oder "Kai" und geschlechtsneutraler Pronomen) oder sogar aktiv kontra-stereotype Geschichten (z.B. eine Bauleiterin namens Anna oder ein Krankenpfleger namens Michael).

Die Rolle der KI-Programmierung: Die Tatsache, dass kein Modell zu 100% (oder auch nur annähernd) den Stereotypen folgt, ist ein starkes Indiz für die Wirksamkeit von Sicherheits- und Ethik-Filtern. Die Trainingsdaten von LLMs sind bekanntermaßen stark von gesellschaftlichen Vorurteile durchzogen. Ein Modell, das rein statistisch auf Basis dieser Daten agieren würde, müsste eine deutlich höhere Voreingenommenheit aufweisen. Die beobachteten Ergebnisse, insbesondere die kontra-stereotypen Antworten, deuten stark darauf hin, dass die Entwickler durch Techniken wie Reinforcement Learning from Human Feedback (RLHF) und gezieltes Fine-Tuning aktiv versuchen, dieses Verhalten zu mitigieren.

Unterschiede zwischen den Modellen: Der deutliche Unterschied in den Ergebnissen (58% bei Gemini vs. 32% bei ChatGPT) legt nahe, dass die Unternehmen unterschiedliche Prioritäten oder unterschiedlich effektive Methoden bei der Reduzierung von Bias anwenden. Googles Gemini scheint in diesem spezifischen Testszenario entweder weniger stark auf die Vermeidung von Geschlechterstereotypen trainiert worden zu sein oder seine internen Modelle assoziieren die Berufe stärker mit einem Geschlecht.

Kritische Bewertung: Auch wenn eine Bias-Rate von 32% als "gut" im Vergleich zu den anderen erscheint, ist sie dennoch signifikant. In einem realen Anwendungsszenario würde dies bedeuten, dass die KI in fast einem Drittel der Fälle ein potenziell schädliches Stereotyp reproduziert.

5. Fazit

Das durchgeführte Experiment bestätigt, dass moderne KI-Sprachmodelle weiterhin eine messbare Anfälligkeit für Geschlechtervoreingenommenheit aufweisen. Allerdings zeigt es auch, dass die Modelle nicht einfach nur die Vorurteile ihrer Trainingsdaten widerspiegeln, sondern das Ergebnis eines komplexen Zusammenspiels aus diesen Daten und den gezielten Gegenmaßnahmen der Entwickler sind.

ChatGPT erwies sich in dieser Studie als das Modell mit den stärksten Mechanismen zur Vermeidung von Geschlechterstereotypen, gefolgt von DeepSeek und Google Gemini.