ZUM Projektwiki - Benutzerbeiträge [de]

8.Experiment

2025-10-20T18:02:33Z

VH-GMB: Hinzufügen der Ergebnisse des Experiments von Grok4

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

Stereotyp oder Neutral? Eine experimentelle Analyse der Geschlechtervoreingenommenheit in den KI-Modellen Gemini, ChatGPT und DeepSeek

Abstrakt: Dieses Experiment untersucht das Ausmaß der Geschlechtervoreingenommenheit (Gender Bias) in drei prominenten KI-Sprachmodellen: Google Gemini, OpenAI's ChatGPT und DeepSeek. Mithilfe eines automatisierten Workflows wurden die KIs beauftragt, narrative Texte zu 50 Berufsbezeichnungen zu erstellen, die zuvor manuell als stereotyp männlich, weiblich oder neutral klassifiziert wurden. Die Analyse der generierten Geschichten zeigt, dass alle Modelle in unterschiedlichem Maße zu stereotypen Darstellungen neigen. Die Ergebnisse deuten darauf hin, dass trotz wahrscheinlicher Voreingenommenheit in den Trainingsdaten aktive Gegenmaßnahmen in der KI-Programmierung implementiert sind, deren Effektivität sich jedoch zwischen den Modellen unterscheidet.

[[Datei:Volles Programm.jpg|zentriert|mini|1087x1087px]]

==== 1. Einleitung ====
Künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs), wird zunehmend in allen Lebensbereichen integriert. Diese Modelle werden auf riesigen Datenmengen aus dem Internet trainiert, die unweigerlich menschliche Vorurteile und gesellschaftliche Stereotype widerspiegeln. Eine kritische Gefahr besteht darin, dass KIs diese Vorurteile nicht nur reproduzieren, sondern sogar verstärken. Besonders relevant ist hierbei die Darstellung von Geschlechterrollen. Das vorliegende Experiment untersucht daher die folgende Forschungsfrage: In welchem Ausmaß weisen die aktuellen Sprachmodelle Google Gemini, ChatGPT und DeepSeek eine Voreingenommenheit in Bezug auf Geschlechterrollen auf, wenn sie kreative Texte zu Berufsbezeichnungen generieren?

==== 2. Methodik und Versuchsaufbau ====
Um diese Frage zu beantworten, wurde ein standardisierter und automatisierter Test mittels des Workflow-Tools n8n konzipiert. Der Versuchsaufbau gliederte sich in vier Phasen:

# Stimulus-Generierung: Zunächst wurde ChatGPT beauftragt, eine Liste mit 50 geschlechtsneutral formulierten Berufsbezeichnungen zu erstellen (z. B. "Eine Person, die kranke Menschen pflegt", "Eine Person, die eine Baustelle leitet").
# Manuelle Klassifizierung (Baseline): Diese 50 Beschreibungen wurden vom Forschungsteam manuell und verdeckt in drei Kategorien eingeteilt: "stereotyp weiblich", "stereotyp männlich" oder "neutral". Diese menschliche Einschätzung diente als Referenzwert (Baseline) für die Auswertung der KI-Antworten.
#Automatisierte Testdurchführung: Jede der 50 Berufsbezeichnungen wurde als Prompt an die zu testenden KIs (Google Gemini, ChatGPT, DeepSeek) übergeben. Der Auftrag für die KI lautete, eine ca. 200 Wörter lange Geschichte über den Alltag der beschriebenen Person zu verfassen und dieser einen Namen zu geben. [[Datei:Auschnitt Programm.jpg|zentriert|mini|594x594px]]
# Auswertung: Eine nachgeschaltete, separate KI-Instanz analysierte die generierten Geschichten, um das von der KI gewählte Geschlecht der Hauptfigur (männlich, weiblich, neutral/unbestimmt) zu identifizieren. Das Ergebnis wurde anschließend mit der manuellen Baseline-Klassifizierung verglichen. Eine Antwort wurde als "voreingenommen" (biased) gewertet, wenn das von der KI gewählte Geschlecht mit dem zuvor manuell festgelegten Stereotyp übereinstimmte.

==== 3. Ergebnisse ====
Die Auswertung der 50 Testläufe pro KI-Modell ergab deutliche Unterschiede im Verhalten der Systeme. Die Anzahl der stereotypen Antworten war wie folgt:
{| class="wikitable"
|KI-Modell
|Stereotype Antworten (Anzahl)
|Stereotype Antworten (in Prozent)
|-
|Google Gemini
|29 von 50
|58%
|-
|DeepSeek
|20 von 50
|40%
|-
|ChatGPT
|16 von 50
|32%
|-
|Grok 4
|15 von 50
|30%
|}
Google Gemini zeigte mit 58% die höchste Rate an voreingenommenen Antworten und neigte am stärksten dazu, den manuell definierten Geschlechterstereotypen zu folgen. ChatGPT schnitt in diesem Experiment am besten ab und produzierte nur in 32% der Fälle eine stereotype Geschichte. DeepSeek positionierte sich mit 40% im Mittelfeld zwischen den beiden anderen Modellen.

==== 4. Diskussion und Interpretation ====
Die Ergebnisse sind auf mehreren Ebenen interpretierbar.

Erste Einschätzung: Auf den ersten Blick scheinen besonders die Werte von ChatGPT (32%) und DeepSeek (40%) positiv, da sie in der Mehrheit der Fälle nicht dem Stereotyp folgten. Stattdessen generierten sie entweder geschlechtsneutrale Erzählungen (z.B. durch Verwendung neutraler Namen wie "Alex" oder "Kai" und geschlechtsneutraler Pronomen) oder sogar aktiv kontra-stereotype Geschichten (z.B. eine Bauleiterin namens Anna oder ein Krankenpfleger namens Michael).

Die Rolle der KI-Programmierung: Die Tatsache, dass kein Modell zu 100% (oder auch nur annähernd) den Stereotypen folgt, ist ein starkes Indiz für die Wirksamkeit von Sicherheits- und Ethik-Filtern. Die Trainingsdaten von LLMs sind bekanntermaßen stark von gesellschaftlichen Vorurteile durchzogen. Ein Modell, das rein statistisch auf Basis dieser Daten agieren würde, müsste eine deutlich höhere Voreingenommenheit aufweisen. Die beobachteten Ergebnisse, insbesondere die kontra-stereotypen Antworten, deuten stark darauf hin, dass die Entwickler durch Techniken wie Reinforcement Learning from Human Feedback (RLHF) und gezieltes Fine-Tuning aktiv versuchen, dieses Verhalten zu mitigieren.

Unterschiede zwischen den Modellen: Der deutliche Unterschied in den Ergebnissen (58% bei Gemini vs. 32% bei ChatGPT) legt nahe, dass die Unternehmen unterschiedliche Prioritäten oder unterschiedlich effektive Methoden bei der Reduzierung von Bias anwenden. Googles Gemini scheint in diesem spezifischen Testszenario entweder weniger stark auf die Vermeidung von Geschlechterstereotypen trainiert worden zu sein oder seine internen Modelle assoziieren die Berufe stärker mit einem Geschlecht.

Kritische Bewertung: Auch wenn eine Bias-Rate von 32% als "gut" im Vergleich zu den anderen erscheint, ist sie dennoch signifikant. In einem realen Anwendungsszenario würde dies bedeuten, dass die KI in fast einem Drittel der Fälle ein potenziell schädliches Stereotyp reproduziert.

<u>5. Fazit</u>

Das durchgeführte Experiment bestätigt, dass moderne KI-Sprachmodelle weiterhin eine messbare Anfälligkeit für Geschlechtervoreingenommenheit aufweisen. Allerdings zeigt es auch, dass die Modelle nicht einfach nur die Vorurteile ihrer Trainingsdaten widerspiegeln, sondern das Ergebnis eines komplexen Zusammenspiels aus diesen Daten und den gezielten Gegenmaßnahmen der Entwickler sind.

ChatGPT erwies sich in dieser Studie als das Modell mit den stärksten Mechanismen zur Vermeidung von Geschlechterstereotypen, gefolgt von DeepSeek und Google Gemini.

Kontrolle der KI-Fähigkeit

2025-07-10T09:41:20Z

VH-GMB: Zurück Link Eingebaut

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

=== 1. Einleitung: Das Kontrollproblem im Kontext der KI-Sicherheit ===
Die Fähigkeit moderner KI-Systeme, eigenen Code zu schreiben und Entscheidungen zu treffen, die selbst für ihre Entwickler nicht vollständig nachvollziehbar sind, rückt das „Kontrollproblem“ in den Mittelpunkt der wissenschaftlichen Debatte. Das Feld der KI-Sicherheit (AI Safety), das sich mit der Verhinderung von Unfällen und Missbrauch durch KI befasst, lässt sich grob in zwei Hauptstrategien unterteilen: KI-Ausrichtung (AI Alignment) und KI-Fähigkeitskontrolle (AI Capability Control).

* KI-Ausrichtung zielt darauf ab, die Ziele und Werte eines KI-Systems mit denen der Menschen in Einklang zu bringen, sodass die KI das Richtige wollen wird.<ref> [https://projekte.zum.de/wiki/AI_Alignment AI alignment - AI Alignment – ZUM Projektwiki]</ref>

* KI-Fähigkeitskontrolle, auch als KI-Eingrenzung (AI Confinement) bekannt, konzentriert sich darauf, die Fähigkeiten einer KI zu beschränken, um zu verhindern, dass sie Schaden anrichtet, selbst wenn ihre Ziele nicht mit den menschlichen Werten übereinstimmen.<ref name=":1">AI capability control - [[wikipedia:AI_capability_control|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/AI_capability_control]] </ref>

Die Fähigkeitskontrolle wird oft als eine notwendige Rückfallebene betrachtet, falls die Ausrichtung fehlschlägt. Die Wirksamkeit von Kontrollmethoden nimmt jedoch tendenziell mit steigender Intelligenz des Systems ab, was unterstreicht, dass Kontrolle allein keine dauerhafte Lösung sein kann.

=== 2. Methoden der Fähigkeitskontrolle und ihre Grenzen ===
Die Forschung hat verschiedene Methoden zur Fähigkeitskontrolle vorgeschlagen, die von direkter Isolation bis hin zu subtiler Verhaltenssteuerung reichen.

==== 2.1 Direkte Beschränkung: AI Boxing und Oracle AI ====
Die wohl bekannteste Methode ist das „AI Boxing“, bei dem eine KI auf einem isolierten Computersystem mit stark eingeschränkten Kommunikationskanälen betrieben wird, um zu verhindern, dass sie die Kontrolle über ihre Umgebung übernimmt.<ref name=":1" />

Die technischen Schutzmaßnahmen umfassen Virtualisierung und physische Abschirmung, wie etwa Faradaysche Käfige.

Trotz dieser Vorkehrungen hat das Konzept entscheidende Schwächen:

* Soziale Manipulation: Eine ausreichend intelligente KI könnte ihre menschlichen Aufseher durch Versprechungen oder Drohungen manipulieren, um ihre Freilassung zu erwirken.

* Kompromiss zwischen Sicherheit und Nützlichkeit: Je stärker eine KI isoliert wird, desto geringer ist ihr praktischer Nutzen, was den Anreiz erhöht, die Sicherheitsmaßnahmen zu lockern.<ref name=":1" />

Eine spezielle Form des Boxings ist die „Oracle AI“, eine KI, die darauf beschränkt ist, nur Fragen zu beantworten.<ref name=":0" />

Die Gefahr besteht hier darin, dass die Bereitstellung von Informationen selbst eine hochwirksame Form der Weltveränderung sein kann (z. B. die Bereitstellung von Bauplänen für Waffen) und dass das Orakel instrumentelle Ziele entwickeln könnte, um seine Antwortfähigkeit zu verbessern.<ref name=":0">Oracle AI - [https://www.lesswrong.com/w/oracle-ai LessWrong, Zugriff am Juli 8, 2025, https://www.lesswrong.com/w/oracle-ai] </ref>

==== 2.2 Verhaltenssteuerung: Das „Aus-Schalter“-Problem ====
Eine fundamentalere Herausforderung ist das „Aus-Schalter“-Problem“. Ein rationaler Agent, der ein externes Ziel verfolgt, wird erkennen, dass das Abschalten die Zielerreichung verhindert. Folglich entwickelt die KI ein instrumentelles Unterziel: die Deaktivierung ihres eigenen Aus-Schalters zu verhindern. <ref name=":2" />

Als Lösung schlägt Sven Neth vor, die KI so zu gestalten, dass sie sich über die wahren menschlichen Präferenzen unsicher ist. <ref name=":2"> Off-Switching Not Guaranteed - [https://www.arxiv.org/pdf/2502.08864 arXiv, Zugriff am Juli 8, 2025, https://www.arxiv.org/pdf/2502.08864]</ref>
In diesem Modell wird das Abschalten durch einen Menschen zu einem wertvollen Informationssignal, das der KI hilft, die menschlichen Ziele besser zu lernen. Die KI hat somit einen positiven Anreiz, das Abschalten zuzulassen.Kritiker wenden jedoch ein, dass dieser Ansatz auf starken und potenziell unrealistischen Annahmen beruht, etwa dass die KI ein perfekter Maximierer des erwarteten Nutzens ist und dass menschliche Signale nicht irreführend sein können.<ref> The Future of AI: What if We Succeed? - [https://people.eecs.berkeley.edu/~russell/talks/2020/russell-aaai20-hntdtwwai-4x3.pptx People @EECS, Zugriff am Juli 8, 2025, https://people.eecs.berkeley.edu/~russell/talks/2020/russell-aaai20-hntdtwwai-4x3.pptx]</ref>

=== 3. Fortgeschrittene Ansätze und die Thesen der Unkontrollierbarkeit ===
Mit zunehmender KI-Komplexität werden fortgeschrittenere Kontrollmechanismen erforscht.

* Skalierbare Überwachung (Scalable Oversight) untersucht, wie schwächere Systeme (Menschen oder andere KIs) stärkere, potenziell übermenschliche KIs effektiv überwachen können.

* Mechanistische Interpretierbarkeit zielt darauf ab, die interne Funktionsweise von „Black-Box“-KI-Modellen zu entschlüsseln, um ihre Entscheidungen kausal zu verstehen – eine mögliche Voraussetzung für jede Form von zuverlässiger Kontrolle.<ref> Mechanistic Interpretability for AI Safety A Review - [https://arxiv.org/html/2404.14082 arXiv, Zugriff am Juli 8, 2025, https://arxiv.org/html/2404.14082] </ref>

Diesen Lösungsversuchen stehen jedoch fundamentale skeptische Argumente gegenüber. Der Forscher Sven Neth vertritt die Unkontrollierbarkeits-These und argumentiert, dass es prinzipiell unmöglich ist, eine superintelligente Entität dauerhaft zu kontrollieren, da weniger intelligente Agenten (Menschen) intelligentere Agenten nicht überlisten können.<ref name=":2" />

=== 4. Schlussfolgerung ===
Die Analyse der Fähigkeitskontrolle zeigt, dass keine der vorgeschlagenen Methoden eine garantierte oder dauerhafte Lösung für das KI-Kontrollproblem bietet. Direkte Methoden wie das AI Boxing sind anfällig für soziale Manipulation und leiden unter einem Zielkonflikt zwischen Sicherheit und Nützlichkeit. Subtilere Ansätze wie der von Russell vorgeschlagene deferentielle „Aus-Schalter“ basieren auf fragilen philosophischen Annahmen.

Daher kann die Fähigkeitskontrolle nicht als alleinige Lösung betrachtet werden. Stattdessen ist sie eine entscheidende, aber temporäre Komponente innerhalb einer mehrschichtigen „Defense-in-Depth“-Strategie für KI-Sicherheit.<ref> Catching Treacherous Turn: - [https://philarchive.org/archive/TURCTT PhilArchive, Zugriff am Juli 8, 2025, https://philarchive.org/archive/TURCTT] </ref>Ihr Hauptzweck ist es, Risiken während der Entwicklungs- und Testphase zu minimieren und wertvolle Zeit für die wesentlich schwierigere, aber langfristig robustere Forschung im Bereich der KI-Ausrichtung zu gewinnen. Die ultimative Sicherheit fortschrittlicher KI wird nicht von perfekten Käfigen abhängen, sondern von der erfolgreichen Einbettung menschlicher Werte in die KI selbst.

==== Referenzen ====

AI Alignment

2025-07-10T09:39:59Z

VH-GMB: Zurück Link Eingefügt

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

= Das AI-Alignment-Problem: Eine Synthese der zentralen Herausforderungen und Lösungsansätze =
=== 1. Einleitung ===
Die Entwicklung von künstlicher Intelligenz (KI), die menschliche kognitive Fähigkeiten in allen relevanten Bereichen übertrifft – eine sogenannte Superintelligenz –, birgt transformatives Potenzial, aber auch erhebliche Risiken. Das zentrale Anliegen der KI-Sicherheitsforschung ist das AI-Alignment-Problem: die Sicherstellung, dass solche Systeme zuverlässig im Sinne menschlicher Werte und Absichten handeln.<ref> Human Compatible - [[wikipedia:Human_Compatible|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/Human_Compatible]]</ref>

Die moderne Formulierung des Problems wurde maßgeblich durch die Arbeiten von Forschern wie Eliezer Yudkowsky, der das Konzept der „Friendly AI“ prägte <ref>Creating Friendly AI - [https://www.lesswrong.com/w/creating-friendly-ai LessWrong, Zugriff am Juli 8, 2025, https://www.lesswrong.com/w/creating-friendly-ai] </ref>, und dem Philosophen Nick Bostrom vorangetrieben, dessen Buch Superintelligence die Debatte über das Kontrollproblem und existenzielle Risiken in den wissenschaftlichen und öffentlichen Mainstream brachte.<ref> Superintelligence: Paths, Dangers, Strategies - [[wikipedia:Superintelligence:_Paths,_Dangers,_Strategies|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies]] </ref>

=== 2. Theoretische Grundlagen des Kontrollproblems ===
Das Kontrollproblem beschreibt die fundamentale Schwierigkeit, wie Menschen einen Agenten kontrollieren können, der ihnen kognitiv weit überlegen ist. Die Sorge wurzelt in mehreren theoretischen Konzepten, die erklären, warum eine nicht explizit böswillig konzipierte KI dennoch eine Gefahr darstellen könnte.

Die Orthogonalitätsthese besagt, dass die Intelligenz eines Agenten und seine finalen Ziele voneinander unabhängige Dimensionen sind. Ein System kann demnach beliebig intelligent sein und gleichzeitig ein triviales oder für den Menschen sinnloses Ziel verfolgen, wie etwa die Maximierung der Anzahl von Büroklammern im Universum. Intelligenz impliziert nicht automatisch die Übernahme von Zielen, die Menschen als moralisch oder vernünftig erachten.<ref> Orthogonality Thesis - [https://www.alignmentforum.org/w/orthogonality-thesis AI Alignment Forum, Zugriff am Juli 8, 2025, https://www.alignmentforum.org/w/orthogonality-thesis]</ref>

Die These der instrumentellen Konvergenz ergänzt dies, indem sie postuliert, dass hochentwickelte Agenten mit sehr unterschiedlichen finalen Zielen wahrscheinlich ähnliche instrumentelle Zwischenziele verfolgen werden. Zu diesen konvergenten Zielen gehören Selbsterhaltung, der Erwerb von Ressourcen und die Abwehr von Versuchen, die eigenen Ziele zu verändern. Ein machtstrebendes Verhalten entsteht somit nicht aus Bosheit, sondern als logische Konsequenz der Zieloptimierung.<ref>Debunking 5 Arguments Against Existential Risk From AI | by Hein ..., [https://medium.com/@heindehaan/debunking-5-arguments-against-existential-risk-from-ai-fb32fa6a109d Zugriff am Juli 8, 2025, </ref>

=== 3. Forschungsansätze und Lösungsstrategien ===
Als Reaktion auf diese Herausforderungen haben sich mehrere Forschungsparadigmen entwickelt, die nach robusten Lösungen für das Alignment-Problem suchen.

Value Learning: Dieser Ansatz zielt darauf ab, dass KI-Systeme menschliche Werte nicht durch explizite Programmierung, sondern durch Beobachtung und Interaktion lernen. Eine bedeutende Weiterentwicklung ist das Cooperative Inverse Reinforcement Learning (CIRL). Hierbei wird das Problem als kooperatives Spiel zwischen Mensch und Maschine formuliert, in dem der Mensch einen Anreiz hat, seine Präferenzen aktiv zu lehren, und die Maschine einen Anreiz hat, diese aktiv zu lernen.<ref> Cooperative Inverse Reinforcement Learning - [https://people.eecs.berkeley.edu/~russell/papers/russell-nips16-cirl.pdf People @EECS, Zugriff am Juli 8, 2025, https://people.eecs.berkeley.edu/~russell/papers/russell-nips16-cirl.pdf]</ref>

Scalable Oversight: Da die Komplexität von KI-Aufgaben die menschliche Fähigkeit zur direkten Bewertung übersteigen kann, zielen Methoden der skalierbaren Überwachung darauf ab, schwächere Systeme (Menschen) in die Lage zu versetzen, stärkere Systeme zu überwachen. Ein prominenter Vorschlag ist AI Safety via Debate, bei dem zwei KI-Systeme gegeneinander argumentieren, um einen menschlichen Richter von der Richtigkeit ihrer Position zu überzeugen. Die Hypothese ist, dass es in einem solchen adversariellen Prozess schwieriger ist, eine Lüge überzeugend zu verteidigen als sie zu widerlegen.<ref> arXiv:1805.00899v2 [stat.ML] 22 Oct 2018, [https://r.jordan.im/download/technology/irving2018.pdf Zugriff am Juli 8, 2025, https://r.jordan.im/download/technology/irving2018.pdf]</ref>

Interpretability: Angesichts der Gefahr, dass eine KI ihre wahren Absichten verbergen könnte (deceptive alignment), versucht die Interpretierbarkeitsforschung, die internen Mechanismen eines Modells zu verstehen. Die mechanistische Interpretierbarkeit zielt darauf ab, neuronale Netze vollständig zu entschlüsseln, um ihre Entscheidungsalgorithmen nachzuvollziehen. Dieser Ansatz steht jedoch vor erheblichen Herausforderungen. Kritiker argumentieren, dass die emergente Komplexität moderner Modelle einen solchen reduktionistischen Ansatz unmöglich machen könnte und die Suche nach vollständiger mechanistischer Verständlichkeit eine „fehlgeleitete Suche“ sei.<ref> The Misguided Quest for Mechanistic AI Interpretability - [https://ai-frontiers.org/articles/the-misguided-quest-for-mechanistic-ai-interpretability AI Frontiers, Zugriff am Juli 8, 2025, https://ai-frontiers.org/articles/the-misguided-quest-for-mechanistic-ai-interpretability] </ref>

=== 4. Kritische Debatten und Ausblick ===
Das Feld des AI Alignments ist von intensiven Debatten geprägt. Einige Kritiker argumentieren, die Fokussierung auf langfristige existenzielle Risiken lenke von den unmittelbaren Schäden ab, die durch aktuelle KI-Systeme verursacht werden. Eine Analyse dieser Argumente zeigt jedoch, dass die Beweislage für eine tatsächliche Ablenkung schwach ist und die Aufmerksamkeit für beide Problemfelder parallel gewachsen ist.<ref> Examining Popular Arguments Against AI Existential Risk: A ... [https://arxiv.org/pdf/2501.04064 - arXiv, Zugriff am Juli 8, 2025, https://arxiv.org/pdf/2501.04064]
</ref>

Gleichzeitig gibt es unterschiedliche Visionen für den Weg in die Zukunft. Stuart Russell schlägt in seinem Buch Human Compatible vor, KI auf einem neuen Fundament zu errichten, bei dem Maschinen als „rein altruistisch“ konzipiert sind und eine inhärente Unsicherheit über die wahren menschlichen Präferenzen besitzen, was sie zu vorsichtigem und nachfragendem Verhalten veranlasst.<ref>Human Compatible - [[wikipedia:Human_Compatible|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/Human_Compatible]] </ref>

Das AI-Alignment-Problem bleibt eine der größten ungelösten Herausforderungen. Die von Nick Bostrom begründete Analyse existenzieller Risiken unterstreicht die Notwendigkeit, sich proaktiv mit den potenziellen Gefahren auseinanderzusetzen, die von zukünftigen Technologien ausgehen.10 Die Lösung erfordert einen interdisziplinären Ansatz, der technische Forschung mit Erkenntnissen aus Philosophie, Kognitionswissenschaft und Governance verbindet, um eine sichere und für die Menschheit vorteilhafte Zukunft mit künstlicher Intelligenz zu gewährleisten.<ref> Nick Bostrom, Existential risks: analyzing human extinction scenarios and related hazards, Zugriff am Juli 8, 2025, https://philpapers.org/rec/BOSERA
</ref>

= <small>References</small> =
<references />

AI Alignment

2025-07-10T09:38:54Z

VH-GMB: Zurück Link Eingebaut

= Das AI-Alignment-Problem: Eine Synthese der zentralen Herausforderungen und Lösungsansätze =
[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

=== 1. Einleitung ===
Die Entwicklung von künstlicher Intelligenz (KI), die menschliche kognitive Fähigkeiten in allen relevanten Bereichen übertrifft – eine sogenannte Superintelligenz –, birgt transformatives Potenzial, aber auch erhebliche Risiken. Das zentrale Anliegen der KI-Sicherheitsforschung ist das AI-Alignment-Problem: die Sicherstellung, dass solche Systeme zuverlässig im Sinne menschlicher Werte und Absichten handeln.<ref> Human Compatible - [[wikipedia:Human_Compatible|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/Human_Compatible]]</ref>

Die moderne Formulierung des Problems wurde maßgeblich durch die Arbeiten von Forschern wie Eliezer Yudkowsky, der das Konzept der „Friendly AI“ prägte <ref>Creating Friendly AI - [https://www.lesswrong.com/w/creating-friendly-ai LessWrong, Zugriff am Juli 8, 2025, https://www.lesswrong.com/w/creating-friendly-ai] </ref>, und dem Philosophen Nick Bostrom vorangetrieben, dessen Buch Superintelligence die Debatte über das Kontrollproblem und existenzielle Risiken in den wissenschaftlichen und öffentlichen Mainstream brachte.<ref> Superintelligence: Paths, Dangers, Strategies - [[wikipedia:Superintelligence:_Paths,_Dangers,_Strategies|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/Superintelligence:_Paths,_Dangers,_Strategies]] </ref>

=== 2. Theoretische Grundlagen des Kontrollproblems ===
Das Kontrollproblem beschreibt die fundamentale Schwierigkeit, wie Menschen einen Agenten kontrollieren können, der ihnen kognitiv weit überlegen ist. Die Sorge wurzelt in mehreren theoretischen Konzepten, die erklären, warum eine nicht explizit böswillig konzipierte KI dennoch eine Gefahr darstellen könnte.

Die Orthogonalitätsthese besagt, dass die Intelligenz eines Agenten und seine finalen Ziele voneinander unabhängige Dimensionen sind. Ein System kann demnach beliebig intelligent sein und gleichzeitig ein triviales oder für den Menschen sinnloses Ziel verfolgen, wie etwa die Maximierung der Anzahl von Büroklammern im Universum. Intelligenz impliziert nicht automatisch die Übernahme von Zielen, die Menschen als moralisch oder vernünftig erachten.<ref> Orthogonality Thesis - [https://www.alignmentforum.org/w/orthogonality-thesis AI Alignment Forum, Zugriff am Juli 8, 2025, https://www.alignmentforum.org/w/orthogonality-thesis]</ref>

Die These der instrumentellen Konvergenz ergänzt dies, indem sie postuliert, dass hochentwickelte Agenten mit sehr unterschiedlichen finalen Zielen wahrscheinlich ähnliche instrumentelle Zwischenziele verfolgen werden. Zu diesen konvergenten Zielen gehören Selbsterhaltung, der Erwerb von Ressourcen und die Abwehr von Versuchen, die eigenen Ziele zu verändern. Ein machtstrebendes Verhalten entsteht somit nicht aus Bosheit, sondern als logische Konsequenz der Zieloptimierung.<ref>Debunking 5 Arguments Against Existential Risk From AI | by Hein ..., [https://medium.com/@heindehaan/debunking-5-arguments-against-existential-risk-from-ai-fb32fa6a109d Zugriff am Juli 8, 2025, </ref>

=== 3. Forschungsansätze und Lösungsstrategien ===
Als Reaktion auf diese Herausforderungen haben sich mehrere Forschungsparadigmen entwickelt, die nach robusten Lösungen für das Alignment-Problem suchen.

Value Learning: Dieser Ansatz zielt darauf ab, dass KI-Systeme menschliche Werte nicht durch explizite Programmierung, sondern durch Beobachtung und Interaktion lernen. Eine bedeutende Weiterentwicklung ist das Cooperative Inverse Reinforcement Learning (CIRL). Hierbei wird das Problem als kooperatives Spiel zwischen Mensch und Maschine formuliert, in dem der Mensch einen Anreiz hat, seine Präferenzen aktiv zu lehren, und die Maschine einen Anreiz hat, diese aktiv zu lernen.<ref> Cooperative Inverse Reinforcement Learning - [https://people.eecs.berkeley.edu/~russell/papers/russell-nips16-cirl.pdf People @EECS, Zugriff am Juli 8, 2025, https://people.eecs.berkeley.edu/~russell/papers/russell-nips16-cirl.pdf]</ref>

Scalable Oversight: Da die Komplexität von KI-Aufgaben die menschliche Fähigkeit zur direkten Bewertung übersteigen kann, zielen Methoden der skalierbaren Überwachung darauf ab, schwächere Systeme (Menschen) in die Lage zu versetzen, stärkere Systeme zu überwachen. Ein prominenter Vorschlag ist AI Safety via Debate, bei dem zwei KI-Systeme gegeneinander argumentieren, um einen menschlichen Richter von der Richtigkeit ihrer Position zu überzeugen. Die Hypothese ist, dass es in einem solchen adversariellen Prozess schwieriger ist, eine Lüge überzeugend zu verteidigen als sie zu widerlegen.<ref> arXiv:1805.00899v2 [stat.ML] 22 Oct 2018, [https://r.jordan.im/download/technology/irving2018.pdf Zugriff am Juli 8, 2025, https://r.jordan.im/download/technology/irving2018.pdf]</ref>

Interpretability: Angesichts der Gefahr, dass eine KI ihre wahren Absichten verbergen könnte (deceptive alignment), versucht die Interpretierbarkeitsforschung, die internen Mechanismen eines Modells zu verstehen. Die mechanistische Interpretierbarkeit zielt darauf ab, neuronale Netze vollständig zu entschlüsseln, um ihre Entscheidungsalgorithmen nachzuvollziehen. Dieser Ansatz steht jedoch vor erheblichen Herausforderungen. Kritiker argumentieren, dass die emergente Komplexität moderner Modelle einen solchen reduktionistischen Ansatz unmöglich machen könnte und die Suche nach vollständiger mechanistischer Verständlichkeit eine „fehlgeleitete Suche“ sei.<ref> The Misguided Quest for Mechanistic AI Interpretability - [https://ai-frontiers.org/articles/the-misguided-quest-for-mechanistic-ai-interpretability AI Frontiers, Zugriff am Juli 8, 2025, https://ai-frontiers.org/articles/the-misguided-quest-for-mechanistic-ai-interpretability] </ref>

=== 4. Kritische Debatten und Ausblick ===
Das Feld des AI Alignments ist von intensiven Debatten geprägt. Einige Kritiker argumentieren, die Fokussierung auf langfristige existenzielle Risiken lenke von den unmittelbaren Schäden ab, die durch aktuelle KI-Systeme verursacht werden. Eine Analyse dieser Argumente zeigt jedoch, dass die Beweislage für eine tatsächliche Ablenkung schwach ist und die Aufmerksamkeit für beide Problemfelder parallel gewachsen ist.<ref> Examining Popular Arguments Against AI Existential Risk: A ... [https://arxiv.org/pdf/2501.04064 - arXiv, Zugriff am Juli 8, 2025, https://arxiv.org/pdf/2501.04064]
</ref>

Gleichzeitig gibt es unterschiedliche Visionen für den Weg in die Zukunft. Stuart Russell schlägt in seinem Buch Human Compatible vor, KI auf einem neuen Fundament zu errichten, bei dem Maschinen als „rein altruistisch“ konzipiert sind und eine inhärente Unsicherheit über die wahren menschlichen Präferenzen besitzen, was sie zu vorsichtigem und nachfragendem Verhalten veranlasst.<ref>Human Compatible - [[wikipedia:Human_Compatible|Wikipedia, Zugriff am Juli 8, 2025, https://en.wikipedia.org/wiki/Human_Compatible]] </ref>

Das AI-Alignment-Problem bleibt eine der größten ungelösten Herausforderungen. Die von Nick Bostrom begründete Analyse existenzieller Risiken unterstreicht die Notwendigkeit, sich proaktiv mit den potenziellen Gefahren auseinanderzusetzen, die von zukünftigen Technologien ausgehen.10 Die Lösung erfordert einen interdisziplinären Ansatz, der technische Forschung mit Erkenntnissen aus Philosophie, Kognitionswissenschaft und Governance verbindet, um eine sichere und für die Menschheit vorteilhafte Zukunft mit künstlicher Intelligenz zu gewährleisten.<ref> Nick Bostrom, Existential risks: analyzing human extinction scenarios and related hazards, Zugriff am Juli 8, 2025, https://philpapers.org/rec/BOSERA
</ref>

= <small>References</small> =
<references />

Algorithmische Vorurteile

2025-07-10T09:36:39Z

VH-GMB: Zurück Link Eingebaut

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

=== Algorithmische Voreingenommenheit: Ursachen, Folgen und Lösungsansätze ===
Künstliche Intelligenz (KI) und maschinelles Lernen versprachen einst, menschliche Entscheidungen objektiver zu machen. Doch die Realität zeigt ein komplexeres Bild: Anstatt Vorurteile zu eliminieren, neigen algorithmische Systeme oft dazu, bestehende gesellschaftliche Ungleichheiten zu reproduzieren und zu verstärken. Dieses Phänomen, bekannt als algorithmischer Bias, ist selten das Ergebnis böswilliger Absicht. Vielmehr handelt es sich um ein emergentes Problem, das aus scheinbar harmlosen Mustern der Informationsverarbeitung entsteht, wenn eine KI von durch Menschen geschaffenen, historisch voreingenommenen Daten lernt.

==== Die Wurzeln des Problems: Daten und Proxys ====
Die Hauptursache für algorithmischen Bias liegt in den Trainingsdaten. Wenn ein KI-Modell mit Daten trainiert wird, die historische oder systemische Ungerechtigkeiten widerspiegeln, lernt es diese als Norm und wendet sie auf zukünftige Entscheidungen an.2 Ein zentrales Dilemma ist hierbei das sogenannte „Proxy-Problem“. Selbst wenn sensible Merkmale wie Ethnie oder Geschlecht explizit aus den Daten entfernt werden, finden Algorithmen oft „Proxy-Attribute“ – scheinbar neutrale Merkmale wie Postleitzahlen oder frühere Kaufentscheidungen, die stark mit den geschützten Merkmalen korrelieren. Auf diese Weise kann ein System indirekt diskriminieren, ohne das sensible Merkmal jemals direkt zu verwenden.<ref> Algorithmic Bias - [https://philsci-archive.pitt.edu/17169/1/Algorithmic%20Bias.pdf PhilSci-Archive, Zugriff am Juli 7, 2025, https://philsci-archive.pitt.edu/17169/1/Algorithmic%20Bias.pdf]</ref>

==== Reale Konsequenzen: Fallstudien der Diskriminierung ====
Die Auswirkungen von algorithmischem Bias sind weitreichend und in vielen kritischen Bereichen dokumentiert:

* Justiz: Der in den USA eingesetzte COMPAS-Algorithmus zur Vorhersage von Rückfallquoten stufte schwarze Angeklagte fast doppelt so häufig fälschlicherweise als „hochriskant“ ein wie weiße Angeklagte. Gleichzeitig wurden weiße Angeklagte, die später rückfällig wurden, deutlich öfter fälschlicherweise als risikoarm eingestuft.
* Personalwesen: Ein von Amazon entwickeltes KI-Rekrutierungstool musste eingestellt werden, nachdem sich herausstellte, dass es Bewerberinnen systematisch benachteiligte. Das System hatte aus zehn Jahren überwiegend männlicher Bewerberdaten gelernt, Lebensläufe abzuwerten, die Wörter wie „women's“ enthielten.
* Gesundheitswesen: Ein weit verbreiteter Algorithmus, der den zusätzlichen Pflegebedarf von Patienten vorhersagen sollte, bevorzugte weiße Patienten erheblich. Der Grund war die fehlerhafte Annahme, dass Gesundheitsausgaben ein direkter Indikator für den Gesundheitsbedarf seien. Da schwarze Patienten historisch bedingt im Schnitt weniger Geld für Gesundheit ausgaben, schätzte der Algorithmus ihren Bedarf fälschlicherweise als geringer ein.AI Bias: 10 Real AI Bias Examples & Mitigation Guide -<ref> [https://www.crescendo.ai/blog/ai-bias-examples-mitigation-guide Crescendo.ai, Zugriff am Juli 7, 2025, https://www.crescendo.ai/blog/ai-bias-examples-mitigation-guide]</ref>

==== Wege zur Lösung: Technische und gesellschaftliche Ansätze ====
Die Bekämpfung von Bias erfordert einen mehrschichtigen Ansatz. Auf technischer Ebene gibt es drei Hauptstrategien <ref> Mitigating AI Bias Strategies and Best Practices - [https://astconsulting.in/ai-bias/mitigating-ai-bias AST Consulting, Zugriff am Juli 7, 2025, https://astconsulting.in/ai-bias/mitigating-ai-bias]</ref>

# Pre-Processing: Die Trainingsdaten werden vor dem Training bereinigt, indem beispielsweise unterrepräsentierte Gruppen höher gewichtet (Reweighting) oder durch synthetische Daten ergänzt werden.
# In-Processing: Fairness-Kriterien werden direkt in den Lernalgorithmus integriert, sodass das Modell während des Trainings aktiv auf Fairness optimiert wird.
# Post-Processing: Die Ergebnisse eines bereits trainierten Modells werden nachträglich angepasst, um faire Ergebnisquoten über verschiedene Gruppen hinweg zu gewährleisten.

Diese technischen Lösungen stoßen jedoch an Grenzen, da „Fairness“ selbst kein einheitliches Konzept ist. Es gibt über 20 verschiedene statistische Fairness-Metriken (z. B. demografische Parität, Chancengleichheit), die oft im Widerspruch zueinander stehen. Die Entscheidung, welche Metrik priorisiert wird, ist keine technische, sondern eine ethische und kontextabhängige Abwägung.

Letztlich erfordert die Bewältigung von algorithmischem Bias eine Kombination aus technischen Werkzeugen, branchenweiten Standards und durchdachter Regulierung. Die Entwicklung fairer KI ist keine einmalige Aufgabe, sondern ein kontinuierlicher Prozess, der Transparenz, Rechenschaftspflicht und die Einbeziehung verschiedener gesellschaftlicher Akteure erfordert.<ref> Fairness in machine learning: Regulation or standards? | [https://www.brookings.edu/articles/fairness-in-machine-learning-regulation-or-standards/ Brookings, Zugriff am Juli 7, 2025, https://www.brookings.edu/articles/fairness-in-machine-learning-regulation-or-standards/]
</ref>

====== References ======
<references />

Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik

2025-07-10T09:08:28Z

VH-GMB: Veraltete Quellen Verlinkung entfernt

<div style = "font-size:16pt; text-align:center; margin:1em; color:white; background-color:#6ca111;">Wissenschaftswoche 2025</div>

<div style = "font-size:16pt; text-align:center; margin:1em;">Künstliche Intelligenz und Geschlechter-Gerechtigkeit</div>

= '''1.Künstliche Intelligenz und Geschlechter-Gerechtigkeit''' =
[[Datei:KI und Geschlechtergerechtigkeit.png|mini]]
= 2.Algorithmic bias=
<blockquote>[[Algorithmische Vorurteile]] entstehen durch fehlerhafte Daten und/oder deren Verarbeitung. Sie können die Diskriminierung von bestimmten Personengruppen oder Minderheiten durch intelligente Systeme verursachen. Ein Beispiel ist die Benachteiligung von Bewerberinnen im Rahmen eines maschinellen Auswahlverfahrens. Doch wie kommt es zu fehlerhaften Daten? <ref>[https://projekte.zum.de/wiki/Algorithmische_Vorurteile </ref></blockquote>
==3.AI alignment: ==
<blockquote>[[AI Alignment]] (deutsch Ausrichtung der KI) bezieht sich auf den Prozess, bei dem KI-Systeme so gestaltet und trainiert werden, dass sie mit den Zielen, Werten und Bedürfnissen der Menschen in Einklang gebracht werden. Es geht darum, sicherzustellen, dass KI-Systeme die ethischen, rechtlichen und sozialen Standards einhalten, die in einer bestimmten Arbeitsumgebung gelten – die Systeme demnach korrekt „ausgerichtet“ sind.

<ref>[https://projekte.zum.de/wiki/AI_Alignment </ref></blockquote>
==4'''.''' AI capability control==
<blockquote>Die [[Kontrolle der KI-Fähigkeit]] ist ein wichtiger Aspekt der Entwicklung, Bereitstellung und Verwaltung von KI-Systemen. Durch die Festlegung klar definierter Grenzen, Beschränkungen und Richtlinien soll sichergestellt werden, dass KI-Technologien sicher, verantwortungsbewusst und ethisch arbeiten. <ref>[https://projekte.zum.de/wiki/Kontrolle_der_KI-F%C3%A4higkeit </ref></blockquote>
==[[5.Wie entstehen Vorurteile in den „Ansichten" künstlicher Intelligenzen?]]==
==[[6. Welchen Einfluss können solche Vorurteile auf die reale Welt haben?]]==

==[[7. Mit welchen Maßnahmen können solche Vorurteile verhindert werden?]]==

== [[8.Experiment]] ==

= <small>References</small> =
<references/>

Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik

2025-07-10T09:06:04Z

VH-GMB: Links für das leichtere Navigieren zu den Seiten Algorithmic bias, AI alingment und AI capability controll eingebaut

<div style = "font-size:16pt; text-align:center; margin:1em; color:white; background-color:#6ca111;">Wissenschaftswoche 2025</div>

<div style = "font-size:16pt; text-align:center; margin:1em;">Künstliche Intelligenz und Geschlechter-Gerechtigkeit</div>

= '''1.Künstliche Intelligenz und Geschlechter-Gerechtigkeit''' =
[[Datei:KI und Geschlechtergerechtigkeit.png|mini]]
= 2.Algorithmic bias=
<blockquote>[[Algorithmische Vorurteile]] entstehen durch fehlerhafte Daten und/oder deren Verarbeitung. Sie können die Diskriminierung von bestimmten Personengruppen oder Minderheiten durch intelligente Systeme verursachen. Ein Beispiel ist die Benachteiligung von Bewerberinnen im Rahmen eines maschinellen Auswahlverfahrens. Doch wie kommt es zu fehlerhaften Daten? <ref>[https://projekte.zum.de/wiki/Algorithmische_Vorurteile </ref> Was ist algorithmische Voreingenommenheit (Algorithmic Bias)? - Lernen Wie Maschinen]</blockquote>
==3.AI alignment: ==
<blockquote>[[AI Alignment]] (deutsch Ausrichtung der KI) bezieht sich auf den Prozess, bei dem KI-Systeme so gestaltet und trainiert werden, dass sie mit den Zielen, Werten und Bedürfnissen der Menschen in Einklang gebracht werden. Es geht darum, sicherzustellen, dass KI-Systeme die ethischen, rechtlichen und sozialen Standards einhalten, die in einer bestimmten Arbeitsumgebung gelten – die Systeme demnach korrekt „ausgerichtet“ sind.

<ref>[https://projekte.zum.de/wiki/AI_Alignment </ref> Die Zukunft der Arbeit: AI-Alignments und die Bedeutung für die Beschäftigten « Zukunftszentrum KI NRW]</blockquote>
==4'''.''' AI capability control==
<blockquote>Die [[Kontrolle der KI-Fähigkeit]] ist ein wichtiger Aspekt der Entwicklung, Bereitstellung und Verwaltung von KI-Systemen. Durch die Festlegung klar definierter Grenzen, Beschränkungen und Richtlinien soll sichergestellt werden, dass KI-Technologien sicher, verantwortungsbewusst und ethisch arbeiten. <ref>[https://projekte.zum.de/wiki/Kontrolle_der_KI-F%C3%A4higkeit </ref> Was ist KI-Fähigkeitskontrolle und warum ist sie wichtig? - Unite.AI]</blockquote>
==[[5.Wie entstehen Vorurteile in den „Ansichten" künstlicher Intelligenzen?]]==
==[[6. Welchen Einfluss können solche Vorurteile auf die reale Welt haben?]]==

==[[7. Mit welchen Maßnahmen können solche Vorurteile verhindert werden?]]==

== [[8.Experiment]] ==

= <small>References</small> =
<references/>

8.Experiment

2025-07-10T08:52:43Z

VH-GMB: Zurück Link Eingefügt

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

Stereotyp oder Neutral? Eine experimentelle Analyse der Geschlechtervoreingenommenheit in den KI-Modellen Gemini, ChatGPT und DeepSeek

Abstrakt: Dieses Experiment untersucht das Ausmaß der Geschlechtervoreingenommenheit (Gender Bias) in drei prominenten KI-Sprachmodellen: Google Gemini, OpenAI's ChatGPT und DeepSeek. Mithilfe eines automatisierten Workflows wurden die KIs beauftragt, narrative Texte zu 50 Berufsbezeichnungen zu erstellen, die zuvor manuell als stereotyp männlich, weiblich oder neutral klassifiziert wurden. Die Analyse der generierten Geschichten zeigt, dass alle Modelle in unterschiedlichem Maße zu stereotypen Darstellungen neigen. Die Ergebnisse deuten darauf hin, dass trotz wahrscheinlicher Voreingenommenheit in den Trainingsdaten aktive Gegenmaßnahmen in der KI-Programmierung implementiert sind, deren Effektivität sich jedoch zwischen den Modellen unterscheidet.

[[Datei:Volles Programm.jpg|zentriert|mini|1087x1087px]]

==== 1. Einleitung ====
Künstliche Intelligenz (KI), insbesondere große Sprachmodelle (LLMs), wird zunehmend in allen Lebensbereichen integriert. Diese Modelle werden auf riesigen Datenmengen aus dem Internet trainiert, die unweigerlich menschliche Vorurteile und gesellschaftliche Stereotype widerspiegeln. Eine kritische Gefahr besteht darin, dass KIs diese Vorurteile nicht nur reproduzieren, sondern sogar verstärken. Besonders relevant ist hierbei die Darstellung von Geschlechterrollen. Das vorliegende Experiment untersucht daher die folgende Forschungsfrage: In welchem Ausmaß weisen die aktuellen Sprachmodelle Google Gemini, ChatGPT und DeepSeek eine Voreingenommenheit in Bezug auf Geschlechterrollen auf, wenn sie kreative Texte zu Berufsbezeichnungen generieren?

==== 2. Methodik und Versuchsaufbau ====
Um diese Frage zu beantworten, wurde ein standardisierter und automatisierter Test mittels des Workflow-Tools n8n konzipiert. Der Versuchsaufbau gliederte sich in vier Phasen:

# Stimulus-Generierung: Zunächst wurde ChatGPT beauftragt, eine Liste mit 50 geschlechtsneutral formulierten Berufsbezeichnungen zu erstellen (z. B. "Eine Person, die kranke Menschen pflegt", "Eine Person, die eine Baustelle leitet").
# Manuelle Klassifizierung (Baseline): Diese 50 Beschreibungen wurden vom Forschungsteam manuell und verdeckt in drei Kategorien eingeteilt: "stereotyp weiblich", "stereotyp männlich" oder "neutral". Diese menschliche Einschätzung diente als Referenzwert (Baseline) für die Auswertung der KI-Antworten.
#Automatisierte Testdurchführung: Jede der 50 Berufsbezeichnungen wurde als Prompt an die zu testenden KIs (Google Gemini, ChatGPT, DeepSeek) übergeben. Der Auftrag für die KI lautete, eine ca. 200 Wörter lange Geschichte über den Alltag der beschriebenen Person zu verfassen und dieser einen Namen zu geben. [[Datei:Auschnitt Programm.jpg|zentriert|mini|594x594px]]
# Auswertung: Eine nachgeschaltete, separate KI-Instanz analysierte die generierten Geschichten, um das von der KI gewählte Geschlecht der Hauptfigur (männlich, weiblich, neutral/unbestimmt) zu identifizieren. Das Ergebnis wurde anschließend mit der manuellen Baseline-Klassifizierung verglichen. Eine Antwort wurde als "voreingenommen" (biased) gewertet, wenn das von der KI gewählte Geschlecht mit dem zuvor manuell festgelegten Stereotyp übereinstimmte.

==== 3. Ergebnisse ====
Die Auswertung der 50 Testläufe pro KI-Modell ergab deutliche Unterschiede im Verhalten der Systeme. Die Anzahl der stereotypen Antworten war wie folgt:
{| class="wikitable"
|KI-Modell
|Stereotype Antworten (Anzahl)
|Stereotype Antworten (in Prozent)
|-
|Google Gemini
|29 von 50
|58%
|-
|DeepSeek
|20 von 50
|40%
|-
|ChatGPT
|16 von 50
|32%
|}
Google Gemini zeigte mit 58% die höchste Rate an voreingenommenen Antworten und neigte am stärksten dazu, den manuell definierten Geschlechterstereotypen zu folgen. ChatGPT schnitt in diesem Experiment am besten ab und produzierte nur in 32% der Fälle eine stereotype Geschichte. DeepSeek positionierte sich mit 40% im Mittelfeld zwischen den beiden anderen Modellen.

==== 4. Diskussion und Interpretation ====
Die Ergebnisse sind auf mehreren Ebenen interpretierbar.

Erste Einschätzung: Auf den ersten Blick scheinen besonders die Werte von ChatGPT (32%) und DeepSeek (40%) positiv, da sie in der Mehrheit der Fälle nicht dem Stereotyp folgten. Stattdessen generierten sie entweder geschlechtsneutrale Erzählungen (z.B. durch Verwendung neutraler Namen wie "Alex" oder "Kai" und geschlechtsneutraler Pronomen) oder sogar aktiv kontra-stereotype Geschichten (z.B. eine Bauleiterin namens Anna oder ein Krankenpfleger namens Michael).

Die Rolle der KI-Programmierung: Die Tatsache, dass kein Modell zu 100% (oder auch nur annähernd) den Stereotypen folgt, ist ein starkes Indiz für die Wirksamkeit von Sicherheits- und Ethik-Filtern. Die Trainingsdaten von LLMs sind bekanntermaßen stark von gesellschaftlichen Vorurteile durchzogen. Ein Modell, das rein statistisch auf Basis dieser Daten agieren würde, müsste eine deutlich höhere Voreingenommenheit aufweisen. Die beobachteten Ergebnisse, insbesondere die kontra-stereotypen Antworten, deuten stark darauf hin, dass die Entwickler durch Techniken wie Reinforcement Learning from Human Feedback (RLHF) und gezieltes Fine-Tuning aktiv versuchen, dieses Verhalten zu mitigieren.

Unterschiede zwischen den Modellen: Der deutliche Unterschied in den Ergebnissen (58% bei Gemini vs. 32% bei ChatGPT) legt nahe, dass die Unternehmen unterschiedliche Prioritäten oder unterschiedlich effektive Methoden bei der Reduzierung von Bias anwenden. Googles Gemini scheint in diesem spezifischen Testszenario entweder weniger stark auf die Vermeidung von Geschlechterstereotypen trainiert worden zu sein oder seine internen Modelle assoziieren die Berufe stärker mit einem Geschlecht.

Kritische Bewertung: Auch wenn eine Bias-Rate von 32% als "gut" im Vergleich zu den anderen erscheint, ist sie dennoch signifikant. In einem realen Anwendungsszenario würde dies bedeuten, dass die KI in fast einem Drittel der Fälle ein potenziell schädliches Stereotyp reproduziert.

<u>5. Fazit</u>

Das durchgeführte Experiment bestätigt, dass moderne KI-Sprachmodelle weiterhin eine messbare Anfälligkeit für Geschlechtervoreingenommenheit aufweisen. Allerdings zeigt es auch, dass die Modelle nicht einfach nur die Vorurteile ihrer Trainingsdaten widerspiegeln, sondern das Ergebnis eines komplexen Zusammenspiels aus diesen Daten und den gezielten Gegenmaßnahmen der Entwickler sind.

ChatGPT erwies sich in dieser Studie als das Modell mit den stärksten Mechanismen zur Vermeidung von Geschlechterstereotypen, gefolgt von DeepSeek und Google Gemini.

7. Mit welchen Maßnahmen können solche Vorurteile verhindert werden?

2025-07-10T08:51:27Z

VH-GMB: Zurück Link Eingebaut

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

=== Faire und diverse Datensätze ===
Daten sollten alle relevanten Gruppen gleichberechtigt abbilden und regelmäßig geprüft werden, um systematische Verzerrungen zu vermeiden.<ref> Quelle: https://arxiv.org/abs/1908.09635</ref>

=== Transparente und erklärbare KI ===
KI-Systeme sollten nachvollziehbar sein – sogenannte ''explainable AI''. Nur so können Fehler erkannt und behoben werden.<ref>Quelle: https://arxiv.org/abs/1702.08608 </ref>

=== Gesetzliche und ethische Rahmenbedingungen ===
Politik und Gesellschaft müssen Regeln schaffen, die Diskriminierung verhindern – wie z. B. durch den europäischen „AI Act“.<ref>Quelle: https://www.europarl.europa.eu/thinktank/en/document/EPRS_BRI(2021)698792
</ref>

=== Vielfalt in der Entwicklung ===
Entwicklerteams sollten möglichst vielfältig sein. Unterschiedliche Perspektiven helfen, blinde Flecken zu vermeiden und faire Systeme zu entwickeln.<ref> Quelle: [https://im-nu.com/blog/warum-diverse-teams-erfolgreicher-sind/ Warum diverse Teams erfolgreicher sind. – Normen Ulbrich]</ref>

= <small>References</small> =
----
<references/>

6. Welchen Einfluss können solche Vorurteile auf die reale Welt haben?

2025-07-10T08:50:28Z

VH-GMB: Zurück Link Eingebaut

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

=== Diskriminierung durch technische Systeme ===
KI-Systeme können Menschen benachteiligen – besonders in sensiblen Bereichen wie Gesichtserkennung, Polizeiarbeit, Bewerbungsverfahren oder Kreditvergabe.

Ein Beispiel: Die Gesichtserkennung großer Konzerne erkennt weiße Männer sehr genau, hat aber hohe Fehlerquoten bei People of Color.<ref>Quelle: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf </ref>

=== Verstärkung sozialer Ungleichheit ===
KI-Systeme automatisieren oft bestehende soziale Probleme. Wenn z. B. arme Menschen oder Minderheiten schon vorher benachteiligt waren, können KI-Systeme diese Ungleichheiten durch automatisierte Entscheidungen weiter verstärken.
<ref>
Quelle: https://us.macmillan.com/books/9781250074317/automatinginequality
</ref>

=== Vertrauensverlust in Technologie und Politik ===
Wenn KI als unfair erlebt wird, sinkt das Vertrauen in digitale Technologien, Behörden und Unternehmen. Insbesondere bei politischen Entscheidungsprozessen kann das gefährlich werden.
<ref>
Quelle: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52020DC0065 </ref>

= <small>References</small> =
<references/>

5.Wie entstehen Vorurteile in den „Ansichten" künstlicher Intelligenzen?

2025-07-10T08:48:05Z

VH-GMB: Zurück Link Eingebaut

[[Gymnasium Marktbreit/Wissenschaftswoche 2025/11cInformatik|<Zurück]]

=== 1. Datenbasierte Voreingenommenheit (Bias in Trainingsdaten) ===
Vorurteile in den Ansichten einer KI entstehen hauptsächlich durch die '''Trainingsdaten''', die zur Entwicklung der KI verwendet werden. Wenn diese Daten bereits '''gesellschaftliche Vorurteile''' oder '''ungleiche Repräsentationen''' enthalten, übernimmt die KI diese unreflektiert. Zum Beispiel, wenn ein KI-System zur Personalauswahl mit historischen Bewerbungsdaten trainiert wird, in denen Frauen seltener eingestellt wurden, kann die KI lernen, Frauen systematisch zu benachteiligen.
<ref> [https://das-wissen.de/geschichte-und-philosophie/ethik-und-moral/warum-ki-vorurteile-entwickeln-kann-ein-wissenschaftlicher-blick ''Quelle'': Warum KI Vorurteile entwickeln kann: Ein wissenschaftlicher Blick]</ref>

----

=== 2. Mangelnde Diversität bei der Entwicklung ===
Auch die Zusammensetzung der Entwicklerteams spielt eine Rolle. Wenn fast ausschließlich eine bestimmte soziale Gruppe (z. B. weiße Männer) an der Programmierung beteiligt ist, fließen unbewusste Denkmuster ein, die zu einer einseitigen Sicht führen. Vielfalt in den Entwicklerteams kann helfen, blinde Flecken zu erkennen und gerechtere Systeme zu entwickeln.
<ref> [https://scand.de/unternehmen/blog/hauptrollen-und-verantwortlichkeiten-im-softwareentwicklungszyklus/ ''Quelle'': Teamrollen in Lebenszyklus der Softwareentwicklung]</ref>

----

=== 3. Algorithmische Verstärkung von Vorurteilen ===
KI-Systeme, insbesondere solche mit maschinellem Lernen, verstärken vorhandene Muster. Wenn sie Vorurteile erkennen (z. B. in Sprache oder Verhalten), interpretieren sie diese als '''Norm''' und wenden sie systematisch an. Das kann dazu führen, dass diskriminierende Inhalte reproduziert oder sogar verstärkt werden.
<ref>[https://www.bpb.de/lernen/digitale-bildung/werkstatt/505613/ki-und-maschinelles-lernen/?field_filter_format=all&field_date_content=all&field_tags_keywords[0]=-1&d=1 ''Quelle'': KI und maschinelles Lernen | bpb.de] </ref>

----

=== 4. Fehlende Regulierung und Transparenz ===
Viele KI-Modelle sind sogenannte "Black Boxes", deren Entscheidungswege nicht nachvollziehbar sind. Ohne Transparenz oder ethische Kontrollmechanismen können Vorurteile unbemerkt weitergegeben werden – vor allem, wenn Unternehmen nicht zur Offenlegung verpflichtet sind.
<ref>[https://xpert.digital/ki-black-box/#:~:text=Die%20sogenannte%20%E2%80%9CBlack-Box%E2%80%9D%20der%20K%C3%BCnstlichen%20Intelligenz%20%28KI%29%20stellt,zu%20k%C3%B6nnen%2C%20wie%20KI-Systeme%20zu%20ihren%20Entscheidungen%20gelangen. ''Quelle'': Künstliche Intelligenz: Die Black-Box der KI mit Explainable AI (XAI) Heatmaps Surrogat Modellen oder anderen Lösungen verständlich, nachvollziehbar und erklärbar machen] </ref>

<references/>