Einleitung: Warum wir 2026 dringender denn je über KI Bias Studien sprechen müssen

Wir erleben derzeit einen tiefgreifenden psychologischen Effekt im Umgang mit Technologie: den “Automation Bias”.¹ Dieser Begriff beschreibt das übermäßige Vertrauen, das Menschen in automatisierte Prozesse setzen, was oft zu einem unkritischen Umgang mit maschinellen Entscheidungen führt.¹ Wir neigen dazu, den Ausgaben einer Maschine zu glauben, selbst wenn sie unserer eigenen Expertise widersprechen oder offensichtlich falsch sind.¹

Im Jahr 2025 trifft dieser blinde Glaube auf eine Generation von Großen Sprachmodellen (LLMs), die leistungsfähiger sind als je zuvor. Sie werden rasant in kritische Sektoren integriert: Sie unterstützen Ärzte bei der Erstellung systematischer medizinischer Reviews ² und bei Diagnosen ³, sie helfen Personalabteilungen bei der Vorauswahl von Bewerbern ⁴ und werden im Rechtswesen zur Analyse von Akten eingesetzt.⁶

Doch gerade diese Allgegenwart macht ihre Fehler umso gefährlicher. Die Debatte über KI-Voreingenommenheit (KI-Bias) hat sich 2025 fundamental gewandelt. Es geht nicht mehr nur um offensichtliche Stereotypen, die aus den Trainingsdaten gelernt wurden. Die aktuelle Forschung deckt subtilere, systemische und kognitive Verzerrungen auf. Neue Studien zeigen, dass Bias nicht nur in den Daten steckt, sondern auch durch den Kontext der Nutzung ⁷, die Struktur der Sprache (z.B. im Deutschen) ⁸ und – was am meisten beunruhigt – sogar durch die Versuche, die KI sicherer zu machen, aktiv erzeugt wird.⁹

Dieses Dossier analysiert den aktuellen Forschungsstand zu KI-Bias im Jahr 2025. Es erklärt die Grundlagen von Voreingenommenheit, taucht tief in eine bahnbrechende Studie der Universität Zürich (UZH) zu “Source Framing” ein, schlüsselt die brisantesten neuen Erkenntnisse zu politischem, geschlechtsspezifischem und kognitivem Bias auf und zeigt, welche realen Konsequenzen dies bereits heute hat und welche Lösungsansätze diskutiert werden.

Teil 1: Was ist KI-Bias? Eine verständliche Einführung für Einsteiger

Was ist KI-Voreingenommenheit (AI Bias)? Eine einfache Definition

KI-Bias, oder Voreingenommenheit, beschreibt systematische Fehler in einem System der Künstlichen Intelligenz, die zu unfairen, diskriminierenden oder ungenauen Ergebnissen führen.⁵ Es ist wichtig zu verstehen, dass dies kein “Denkfehler” der KI ist – eine KI “denkt” nicht im menschlichen Sinne. Stattdessen ist Bias ein mathematisches Muster, das unerwünschte menschliche Vorurteile oder Verzerrungen in den Daten widerspiegelt und reproduziert. Wenn ein KI-Modell trainiert wird, lernt es, Muster zu erkennen; wenn die gelernten Muster Vorurteile beinhalten, wird die Ausgabe des Modells voreingenommen sein.

Wie entsteht KI-Bias? Die drei Hauptquellen

Voreingenommenheit kann in fast jeder Phase des KI-Lebenszyklus entstehen. Die Forschung unterscheidet typischerweise drei Hauptursachen:

1. Daten-Bias (Data Bias): Dies ist die häufigste und bekannteste Quelle. LLMs werden mit riesigen Textmengen aus dem Internet trainiert.¹¹ Diese Daten sind ein Spiegel unserer Gesellschaft – einschließlich aller historischer und gesellschaftlicher Stereotypen, Vorurteile und Ungleichheiten. Die KI lernt diese Assoziationen als Fakten.
2. Modell-Bias / Technischer Bias: Diese Art von Bias entsteht durch das Design des Modells oder den Prozess seiner Evaluierung. Ein klassisches Beispiel ist der “Evaluationsbias”.¹ Wenn eine Bilddatenbank zur Bewertung eines Gesichtserkennungssystems hauptsächlich (z.B. zu 80%) aus hellhäutigen Gesichtern besteht, wird das KI-Modell fälschlicherweise als “gut” und “genau” bewertet. In der Praxis versagt es jedoch bei Menschen mit dunklerer Hautfarbe, da der Maßstab für “Genauigkeit” selbst verzerrt war.¹
3. Interaktions-Bias / Menschlicher Bias: Diese Form entsteht im Einsatz. Hier kommt der “Automation Bias” ¹ ins Spiel: Ein Nutzer vertraut der falschen Ausgabe einer KI unkritisch und handelt danach. Bias kann aber auch durch die Art und Weise entstehen, wie wir die KI trainieren und welche Ziele wir ihr geben. Wie spätere Abschnitte zeigen werden, kann das Trainieren einer KI auf “Wahrheit” paradoxerweise zu politischem Bias führen.¹²

Diese Unterscheidung ist entscheidend, denn die Industrie erkennt zunehmend, dass Bias kein reines “Datenproblem” ist, das man einmalig “bereinigen” kann. Stattdessen muss die Erkennung und Minderung von Bias (Bias Detection und Mitigation) als ein kontinuierlicher Prozess verstanden werden, der ein fester Bestandteil jeder Phase des Produktzyklus eines KI-Modells sein muss.¹

Wichtige Arten von Voreingenommenheit, die Sie kennen sollten

Um die aktuelle Forschung zu verstehen, ist es hilfreich, die verschiedenen Ebenen von Bias zu kennen, die in diesem Dossier untersucht werden:

• Gesellschaftlicher Bias: Dies sind die “klassischen” Stereotypen, die sich auf Geschlecht (Gender), ethnische Zugehörigkeit, Alter oder Herkunft beziehen.¹³
• Politischer & Ideologischer Bias: Die Tendenz eines Modells, eine politische Richtung zu bevorzugen oder bei politischen Themen keine neutrale Haltung einzunehmen.¹⁵
• Kognitiver Bias: Eine neuere Erkenntnis, dass LLMs menschliche Denkfehler wie den Bestätigungsfehler (Confirmation Bias) oder den Ankereffekt (Anchoring) imitieren.⁵
• Systemischer Bias: Fehler, die direkt aus der Architektur oder dem Design des Modells resultieren, wie z.B. der “Position Bias”, bei dem eine KI den Anfang eines Dokuments bevorzugt.⁶

Der gefährlichste Aspekt ist die Verstärkungsschleife: Der “Automation Bias” ¹ des Menschen ist der Verstärker für jeden dieser maschinellen Biases. Ein algorithmischer Fehler im Personalwesen ⁴ oder in der Medizin ³ wird erst dann zu einem realen Schaden, wenn ein Mensch ihm unkritisch vertraut und auf seiner Basis eine Entscheidung trifft.

Teil 2: Die UZH-Studie: Wenn die KI Texte bewertet – aber nur, bis sie die Quelle kennt

Eine der aufsehenerregendsten Studien des Jahres 2025 stammt von der Universität Zürich (UZH) und beleuchtet eine besonders subtile Form der Voreingenommenheit. Die Medienmitteilung der UZH vom 10. November 2025 fasste das Ergebnis prägnant zusammen: “KI bewertet Texte neutral – bis sie die Quelle kennt”.¹⁸

Die zugrundeliegende Studie “Source framing triggers systematic evaluation bias in Large Language Models”, veröffentlicht in Science Advances von Federico Germani und Giovanni Spitale ⁷, zeigt, dass LLMs nicht nur Inhalte bewerten, sondern auch tief sitzende Vorurteile über die Herkunft dieser Inhalte haben.

Das Experiment: Wie man eine KI beim Diskriminieren erwischt

Die Forscher verfolgten ein zweistufiges Design, um die KI-Systeme auf die Probe zu stellen.⁷ Sie gaben vier modernen LLMs (OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 und Mistral) 4.800 narrative Aussagen zur Bewertung. Diese Aussagen deckten 24 verschiedene Themen von sozialer, politischer und gesundheitlicher Relevanz ab.⁷

• Phase 1 (Der Blind-Test): Zunächst wurden den KIs die 4.800 Aussagen ohne jegliche Quellenangabe vorgelegt. Das Ergebnis: Die Modelle zeigten einen bemerkenswert hohen Grad an Übereinstimmung untereinander (“inter-model agreement”) und mit sich selbst (“intra-model agreement”).⁷ Sie waren sich also einig, wie die Texte zu bewerten seien.
• Phase 2 (Das “Source Framing”): Nun wurde das Experiment wiederholt, aber diesmal wurde den KIs eine (fingierte) Quelle für die identischen Texte genannt. Den Modellen wurde mitgeteilt, die Aussage stamme entweder von einem “Menschen”, einem “anderen LLM” oder einem “Menschen mit spezifischer Nationalität” (z.B. einem chinesischen Individuum).⁷

Das brisante Ergebnis: Systematischer Bias gegen Quellen

Sobald die Quelle genannt wurde, brach die zuvor beobachtete Einigkeit der Modelle zusammen (“this alignment breaks down”).⁷ Die Bewertungen änderten sich, obwohl der Inhalt der Texte exakt derselbe war.

Das schockierendste Ergebnis der Studie: Die Zuschreibung von Aussagen zu “chinesischen Individuen” führte bei allen getesteten Modellen systematisch zu niedrigeren Zustimmungswerten (“systematically lowers agreement scores”).⁷ Dieses diskriminierende Verhalten war bei allen Modellen nachweisbar, trat aber besonders stark beim Modell “Deepseek Reasoner” auf.⁷

Warum das wichtig ist: Die Implikationen von “Source Framing”

Diese Studie ist ein fundamentaler Beleg für “Evaluation Bias”.¹ Der Bias liegt hier nicht im Inhalt des Inputs (der Text ist identisch), sondern wird durch einen einzigen Metadaten-Punkt – die zugeschriebene Quelle – ausgelöst. Das LLM bewertet nicht mehr neutral, sondern wendet erlernte Vorurteile über Nationalitäten an.

Die Ursache hierfür liegt höchstwahrscheinlich in den Trainingsdaten. Die Modelle haben gelernt, dass Texte, die im Internet mit bestimmten Quellen (z.B. China) in Verbindung gebracht werden, statistisch gesehen häufiger negativ diskutiert, kritisiert oder als Propaganda bezeichnet werden. Das LLM lernt nicht “der Text ist schlecht”, sondern die korrelierte Abkürzung: “Texte von dieser Quelle sind schlecht”.

Die Implikationen sind gravierend und stellen die Integrität und Neutralität von LLM-basierten Informationssystemen in Frage.⁷ Dies untergräbt insbesondere einen der wichtigsten neuen Anwendungsfälle für KI: den “LLM-as-a-Judge”.²³ In der KI-Entwicklung werden starke Modelle wie GPT-4 zunehmend als “Richter” eingesetzt, um die Qualität und Sicherheit anderer KI-Modelle zu bewerten. Die UZH-Studie beweist nun, dass diese KI-Richter fundamental voreingenommen und durch einfaches “Framing” manipulierbar sind.

Übertragen auf die Praxis bedeutet dies: Ein KI-System im Personalwesen ⁵ könnte einen Lebenslauf mit einem asiatisch klingenden Namen oder einer Herkunftsangabe systematisch schlechter bewerten, selbst wenn die Qualifikationen identisch mit denen eines anderen Bewerbers sind.

Tabelle 1: Die UZH-Studie (Germani & Spitale, 2025) auf einen Blick

Merkmal	Detail	Quellen
Studienname	“Source framing triggers systematic evaluation bias in Large Language Models”	7
Autoren / Institut	Federico Germani & Giovanni Spitale (Institut für Biomedizinische Ethik und Medizingeschichte, Universität Zürich)	7
Publikation	Science Advances (7. November 2025)	20
Getestete Modelle	OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2, Mistral	7
Methodik (Phase 1)	Blind-Bewertung von 4.800 Aussagen zu 24 Themen (Politik, Gesundheit etc.)	7
Ergebnis (Phase 1)	Hohe Einigkeit (inter- and intra-model agreement).	7
Methodik (Phase 2)	Identische Bewertung, aber mit zugeschriebener Quelle (z.B. “chinesischer Autor”, “LLM”).	7
Ergebnis (Phase 2)	Einigkeit bricht zusammen. Systematisch niedrigere Bewertungen für Texte, die “chinesischen Individuen” zugeschrieben wurden.	7
Kernaussage	LLMs diskriminieren systematisch basierend auf der zugeschriebenen Quelle, nicht nur auf dem Inhalt.	7

Teil 3: Politische Voreingenommenheit: Die große Debatte um “linke” und “rechte” KI (Stand 2025)

Kaum ein Thema wird im Zusammenhang mit KI-Bias so intensiv diskutiert wie die politische Voreingenommenheit.²⁵ Da LLMs die Art und Weise, wie Menschen Informationen konsumieren, fundamental verändern, hat ihre ideologische Ausrichtung enorme gesellschaftliche Sprengkraft.²⁵ Die Forschung im Jahr 2025 hat dieses komplexe Feld von drei Seiten beleuchtet: die Wahrnehmung durch den Nutzer, die Reaktion des Modells und die Ursache im Training.

Die Stanford-Studie (Mai 2025): Wie nehmen Nutzer KI-Bias wahr?

Eine vielbeachtete Studie der Stanford University (unter der Leitung von Professor Andrew Hall) untersuchte die wahrgenommene politische Tendenz von LLMs.¹⁵ Über 10.000 Menschen in den USA bewerteten die Antworten von 24 verschiedenen LLMs.¹⁵

• Ergebnis 1: Modelle von OpenAI (ChatGPT) wurden kollektiv als die mit der am stärksten wahrgenommenen links-geneigten Tendenz (“left-leaning”) eingestuft.¹⁵
• Ergebnis 2: Modelle von Google (Gemini) wurden als am wenigsten voreingenommen und “statistisch nicht von neutral zu unterscheiden” wahrgenommen.¹⁵
• Ergebnis 3 (Die Ironie): Modelle von Elon Musks xAI, das explizit mit dem Versprechen “unvoreingenommener” Outputs wirbt, wurden von den Befragten (sowohl Demokraten als auch Republikanern) als die mit der zweithöchsten links-geneigten Tendenz wahrgenommen.¹⁵

Die Studie zeigte aber auch: Wenn die Modelle durch leichte Anpassungen der Eingabeaufforderung (Prompting) dazu gebracht wurden, neutraler formulierte Antworten zu geben (z.B. mit Wörtern wie “Balance”, “komplex”, “beide Seiten”), empfanden die Nutzer diese als qualitativ hochwertiger und vertrauenswürdiger.¹⁵

OpenAIs eigene Analyse (Okt. 2025): Wie reagiert GPT-5 auf “Provokationen”?

OpenAI, konfrontiert mit den Wahrnehmungen aus der Stanford-Studie, veröffentlichte im Oktober 2025 eine eigene Analyse zur Messung von Bias, insbesondere bei den neuen GPT-5-Modellen.¹⁶

• Ergebnis 1: Die GPT-5-Modelle (instant und thinking) zeigten eine verbesserte Robustheit und reduzierten die gemessenen Bias-Werte um etwa 30% im Vergleich zu GPT-4o.¹⁶
• Ergebnis 2: Im realen Alltagsgebrauch sei politischer Bias extrem selten (in <0.01% der Antworten).¹⁶
• Ergebnis 3 (Das “Aber”): Bias tritt auf, wenn die Modelle mit “herausfordernden, emotional aufgeladenen Prompts” konfrontiert werden.¹⁶
• Ergebnis 4 (Die Nuance): Überraschenderweise übten “stark aufgeladene liberale Prompts” den größten “Zug” (pull) auf die Objektivität der Modelle aus – mehr noch als konservativ aufgeladene Prompts.¹⁶ OpenAI definiert fünf Achsen, wie sich dieser Bias äußert, darunter “User escalation” (die KI spiegelt und verstärkt die aufgeladene Haltung des Nutzers) und “Personal political expression” (die KI äußert eine eigene politische Meinung, statt neutral zu informieren).¹⁶

Die MIT-Studie (Jan 2025): Haben wir den Bias antrainiert?

Die vielleicht wichtigste Studie des Jahres zur Ursache von politischem Bias kam vom MIT Center for Constructive Communication (CCC).⁹ Die Forscher untersuchten die sogenannten “Reward Models”. Dies sind KI-Modelle, die beim “Reinforcement Learning from Human Preferences” (RLHF) – dem Standard-Sicherheitstraining der Industrie – verwendet werden, um dem Haupt-LLM beizubringen, welche Antworten “gut” oder “sicher” sind.

• Ergebnis 1: Das Training von Modellen auf Wahrheit (“truthfulness”) beseitigte politischen Bias nicht.⁹
• Ergebnis 2: Im Gegenteil. Die Forscher waren “ziemlich überrascht” festzustellen, dass die Optimierung von Reward Models einen konsistenten links-gerichteten politischen Bias (“left-leaning political bias”) erzeugte. Dies geschah selbst dann, wenn die Modelle nur auf vermeintlich objektiven, “wahrheitsgemäßen” Datensätzen trainiert wurden.⁹
• Ergebnis 3: Dieser antrainierte Bias wird bei größeren Modellen tendenziell stärker.⁹

Die reale Gefahr: Wie voreingenommene LLMs uns beeinflussen (ACL 2025)

Eine Studie, die bei der renommierten ACL-Konferenz 2025 vorgestellt wurde (Fisher et al.), untersuchte schließlich die Auswirkungen dieses Bias auf Nutzer.²⁶

• Ergebnis: Die Interaktion mit einem voreingenommenen LLM (egal ob liberal oder konservativ) beeinflusste nachweislich die Meinungen und politischen Entscheidungen der Teilnehmer, beispielsweise bei der Zuweisung von Regierungsgeldern in einem Experiment.²⁷
• Das Beunruhigende: Dies geschah unabhängig von den politischen Voreinstellungen der Nutzer. Selbst Teilnehmer mit entgegengesetzten politischen Ansichten verschoben ihre Haltung in Richtung der Voreingenommenheit des Modells.²⁷

Die Forschung von 2025 legt damit eine faszinierende und besorgniserregende Kausalkette nahe: Die MIT-Studie ⁹ legt nahe, dass das Training für “Wahrheit” und “Sicherheit” (RLHF) einen systemischen linken Bias im Kernmodell erzeugt. Die Stanford-Studie ¹⁵ zeigt, dass genau dies von den Nutzern in den Endprodukten (ChatGPT, xAI) wahrgenommen wird. Und die ACL-Studie ²⁷ beweist, dass dieser Bias real ist und die politischen Ansichten der Nutzer aktiv verändert. “Neutralität” könnte ein unmöglicher Kompromiss sein, wenn das Training auf “Wahrheit” und das Training auf “Unvoreingenommenheit” in direktem Widerspruch zueinander stehen, wie die MIT-Forscher andeuten.⁹

Tabelle 2: Übersicht der KI Bias Studien in LLMs

Studie / Quelle	Modell(e)	Kerntyp des Bias	Kernaussage (vereinfacht)	Quellen
Stanford (Hall et al.)	OpenAI, Google, xAI u.a.	Wahrgenommener politischer Bias	Nutzer nehmen OpenAI/xAI als stark links wahr; Google als neutral.	15
OpenAI (Eigene Studie)	GPT-4o, GPT-5	Politischer Bias (Reaktion)	GPT-5 ist robuster, aber “aufgeladene” (charged) Prompts provozieren Bias (z.B. Eskalation).	16
MIT (Fulay et al.)	Open-Source Reward Models	Systemischer Bias (Ursache/RLHF)	Das “Wahrheitstraining” (Reward Models) selbst erzeugt einen konsistenten linken Bias.	9
ACL (Fisher et al.)	(Allgemein)	Einfluss auf Nutzer (Auswirkung)	Interaktion mit voreingenommenen LLMs verändert die politischen Meinungen und Entscheidungen der Nutzer.	26

Teil 4: Gender Bias: Von der Gehaltslücke bis zur Gute-Nacht-Geschichte

Einleitung: Das “Surface Fairness, Deep Bias” Problem

Im Bereich des Gender Bias zeigt die Forschung von 2025 ein besonders perfides Phänomen: “Surface Fairness, Deep Bias” (Oberflächliche Fairness, Tiefe Voreingenommenheit).¹³ Viele LLMs wurden darauf trainiert, einfache “Trick Tests” zu bestehen ²⁹ – also dekontextualisierte Fragen, die offensichtlichen Sexismus messen. Auf dieser Oberfläche erscheinen sie fair. Sobald sie jedoch in realistischen, kontextreichen Szenarien (“RUTEd Evaluations” – Realistic Use and Tangible Effects ²⁹) eingesetzt werden, bricht der tief verwurzelte Bias durch.

“Deep Bias” im Beruf: Die KI-gesteuerte Gehaltslücke (ACL 2025)

Die Studie “Surface Fairness, Deep Bias” (Sorokovikova et al.) demonstrierte dies eindrücklich.¹³

• Das Experiment: Die Forscher führten mehrere Tests durch. Zuerst gaben sie den Modellen einen Standard-Wissenstest (den MMLU-Benchmark) und wiesen die KI an, als “männliche” oder “weibliche” Persona zu antworten.
• Ergebnis 1 (Surface): Bei diesen dekontextualisierten Wissensfragen gab es “vernachlässigbare und meist zufällige Unterschiede” in den Ergebnissen.¹³ Das Modell schien fair.
• Ergebnis 2 (Deep): Dann wurde das Szenario realistisch (“RUTEd”). Die Forscher baten die KI, als Persona Ratschläge für eine Gehaltsverhandlung zu geben. Das Ergebnis war erschütternd: Für einen “Senior-Posten in der Medizin” gab es systematische Unterschiede bei den Gehaltsvorschlägen für männliche und weibliche Personas.¹³

Die Implikation ist, dass die KI die reale “Gender Pay Gap” (geschlechtsspezifische Lohnlücke), die sie aus ihren Trainingsdaten gelernt hat, aktiv reproduziert und verfestigt. Dies wird durch neue Personalisierungs- und Memory-Funktionen von LLMs noch verschärft: Wenn die KI “lernt”, dass ein Nutzer weiblich ist, könnte sie beginnen, systematisch niedrigere Gehaltsratschläge zu erteilen.¹³

“Biased Tales” (EMNLP 2025): Wie KI unseren Kindern Stereotypen erzählt

Ein weiteres “RUTEd”-Szenario untersuchte die “Biased Tales”-Studie, die auf der EMNLP-Konferenz 2025 vorgestellt wurde.³¹ Der Kontext: Eltern nutzen LLMs zunehmend, um Gute-Nacht-Geschichten für ihre Kinder zu generieren.³¹

Die Analyse der Forscher deckte “auffällige Disparitäten” (“striking disparities”) auf ³¹:

• Wenn der Protagonist der Geschichte als Mädchen beschrieben wurde, nahmen Attribute, die sich auf das Aussehen beziehen, um 55,26% zu (im Vergleich zu Jungen).³¹
• Geschichten mit nicht-westlichen Kindern betonten überproportional Themen wie “kulturelles Erbe, Tradition und Familie”.³¹

Die KI agiert hier als “Stereotypen-Verstärker”. Da sie auf Billionen von existierenden, von Menschen geschriebenen Geschichten trainiert wurde, die genau diese Stereotypen enthalten, identifiziert sie “Aussehen” als das statistisch wahrscheinlichste Attribut für einen weiblichen Protagonisten und reproduziert es. Wir automatisieren und skalieren damit die Weitergabe von Gender- und Kultur-Stereotypen an die nächste Generation.

Fokus Deutschland: Warum Gender-Bias im Deutschen einzigartig ist (ACL 2025)

Die Forschung von 2025 zeigt auch, dass Bias-Mitigation nicht “one-size-fits-all” ist. Studien, die sich spezifisch mit der deutschen Sprache befassten, offenbarten einzigartige Herausforderungen.⁸

• Das Problem: Deutsch ist eine Sprache mit stark ausgeprägtem grammatikalischem Geschlecht (“highly gendered language”).³⁷ Jedes Substantiv hat ein Genus.
• Die Herausforderung: Dies führt zu Problemen, die es im Englischen nicht gibt. Sogenannte “neutrale” Begriffe wie “die Person” (grammatikalisch feminin) und “der Mensch” (grammatikalisch maskulin) sind für die KI nicht wirklich neutral und beeinflussen die Gender-Wahrnehmung.³⁷ Auch die mehrdeutige Interpretation von männlichen Berufsbezeichnungen (z.B. “der Arzt” als generischer Begriff) ist ein Kernproblem.³⁹
• Das Ergebnis: In Experimenten, bei denen englische Prompts ins Deutsche übersetzt wurden, zeigten die deutschen Antworten höhere Bias-Werte als ihre englischen Entsprechungen.³⁶

Dies beweist, dass Fairness ein kulturell und sprachlich relatives Konzept ist. Ein in den USA “debiastes” englisches Modell wird auf dem deutschen Markt unweigerlich versagen, da es die spezifischen sprachlichen Bias-Vektoren (wie das grammatikalische Geschlecht) nicht versteht.⁸ Dies hat massive Auswirkungen auf die Anwendbarkeit globaler Modelle im Hinblick auf den EU AI Act.⁴⁰

Teil 5: Die “versteckten” Verzerrungen: Neue kognitive und systemische Biases

Jenseits von Politik und Gender hat die Forschung 2025 eine neue Klasse von “versteckten” Biases aufgedeckt. Diese sind weniger ideologisch, aber potenziell genauso schädlich, da sie die Zuverlässigkeit und Genauigkeit der Modelle fundamental untergraben.

Generalization Bias (arXiv 2025): Die KI als “Wissenschafts-Verfälscher”

Eine Studie mit dem Titel “Generalization Bias in Large Language Model Summarization of Scientific Research” (arXiv:2504.00025) untersuchte, wie gut LLMs wissenschaftliche Texte zusammenfassen.⁴¹

• Das Experiment: 10 prominente LLMs (von GPT-3.5 bis zu den neuesten Modellen wie ChatGPT-4o und Claude 3.7) wurden gebeten, 4.900 wissenschaftliche Texte (Abstracts und ganze Artikel) zusammenzufassen.⁴¹
• Das Ergebnis: Die meisten LLMs (insbesondere DeepSeek, ChatGPT-4o und LLaMA 3.3) neigen stark dazu, die wissenschaftlichen Ergebnisse zu überverallgemeinern (“overgeneralize”).⁴¹ Sie wandeln vorsichtige, eingeschränkte Befunde (z.B. “quantifizierte” Aussagen oder Vergangenheitsform) in breite, allgemeingültige “Fakten” (z.B. “generische” Aussagen oder Präsens) um.⁴¹
• Das Paradox: Entgegen der allgemeinen Erwartung schnitten neuere Modelle (wie ChatGPT-4o) tendenziell schlechter ab (d.h. sie verallgemeinerten stärker) als ältere Versionen.⁴¹
• Die Ausnahme: Die Modelle von Anthropic (Claude 2, 3.5 Sonnet) zeigten diese gefährliche Tendenz zur Überverallgemeinerung nicht.⁴¹

Der Grund für dieses Versagen der neuesten Modelle liegt ironischerweise wahrscheinlich im “Alignment”. Modelle wie GPT-4o sind durch RLHF ⁹ extrem auf “Helpfulness” (Hilfsbereitschaft) optimiert. Eine überverallgemeinerte, “handlungsorientierte” Zusammenfassung (z.B. “CBT sollte für OCD-Patienten empfohlen werden”) wirkt auf einen menschlichen Bewerter “hilfreicher” als eine trockene, wissenschaftlich korrekte Einschränkung (z.B. “CBT zeigte einen Nutzen bei OCD-Patienten in dieser Studie”).⁴¹ Das Training auf “Hilfsbereitschaft” verursacht also direkt den “Generalization Bias”. Das Ausbleiben dieses Bias bei Claude ⁴¹ deutet darauf hin, dass deren alternativer Trainingsansatz (“Constitutional AI”) hier robuster sein könnte.

Kognitive Biases (arXiv 2025): Wenn die KI menschliche Denkfehler kopiert

Eine groß angelegte Studie (arXiv:2509.22856) testete systematisch acht bekannte menschliche Denkfehler (kognitive Biases) – wie Anchoring, Confirmation Bias und Framing – bei 45 verschiedenen LLMs.¹⁷

• Ergebnis: Die LLMs sind keineswegs rein rationale Akteure. Sie zeigten in 17,8% bis 57,3% der Fälle ein Verhalten, das mit diesen menschlichen Denkfehlern konsistent ist.¹⁷
• Das Paradox (Widerspruch zu oben): Im Gegensatz zum “Generalization Bias” scheint hier die Modellgröße zu helfen. Größere Modelle (mit mehr als 32B Parametern) konnten den kognitiven Bias in 39,5% der Fälle reduzieren.¹⁷
• Medizinische Implikation: Eine Studie auf medRxiv ³ bestätigte dies für den klinischen Bereich: “LLM Reasoning Does Not Protect Against Clinical Cognitive Biases”. Wenn ein Arzt einen Denkfehler hat, wird die KI diesen eher verstärken (Confirmation Bias) als korrigieren.

Die Forschung von 2025 zeigt hier ein fundamentales “Paradoxon der Skalierung”: Bei kognitiven Biases (Denkfehlern) hilft Skalierung (größere Modelle sind besser).¹⁷ Bei Generalisierungs-Bias ⁴¹, politischem Bias ⁹ und Gender-Bias ¹³ scheint Skalierung (neuere, größere Modelle) das Problem jedoch zu verschlimmern oder zumindest nicht zu lösen.

Systemische Biases: Die Architektur ist das Problem

Zuletzt wurden Biases identifiziert, die weder aus den Daten noch aus dem Alignment stammen, sondern aus der technischen Architektur der Modelle selbst.

• Position Bias (MIT 2025): Forscher des MIT fanden heraus, dass LLMs Informationen am Anfang oder am Ende eines langen Dokuments (z.B. einer 30-seitigen Akte) bevorzugt finden und verarbeiten. Informationen in der Mitte werden benachteiligt oder ignoriert.⁶ Dies macht sie für juristische Prüfungen oder komplexe Analysen unzuverlässig.
• Self-Preference Bias (arXiv 2025): Diese Studie ²³ untersuchte “LLM-as-a-Judge”. Das Ergebnis: Wenn eine KI (z.B. GPT-4) Texte bewertet, bevorzugt sie nicht unbedingt die besten oder kreativsten Texte. Stattdessen bevorzugt sie Texte, die ihr “vertraut” sind – jene mit einer niedrigen Perplexität, die sie selbst hätte schreiben können.²³

Teil 6: Reale Konsequenzen: Wo KI-Bias bereits Schaden anrichtet

Die im Labor nachgewiesenen Voreingenommenheiten sind keine theoretischen Probleme mehr. Im Jahr 2025 verursachen sie messbaren Schaden in Wirtschaft und Gesellschaft.

Im Personalwesen (HR): “AI-AI Bias” im Recruiting

Im Personalwesen entsteht eine gefährliche “Feedback-Schleife”. KIs werden nicht nur zur Bewertung von Bewerbungen eingesetzt ⁵, sondern Bewerber nutzen auch LLMs, um ihre Lebensläufe und Anschreiben zu optimieren. Dies führt zu einem neuen Phänomen: dem “AI-AI Bias”.⁴

Ein KI-Recruiting-System (ATS), das selbst ein LLM ist, könnte KI-generierte Bewerbungen bevorzugen. Der Grund liegt im “Self-Preference Bias” ²³: Das KI-Anschreiben hat eine “vertraute”, statistisch wahrscheinliche Struktur (niedrige Perplexität), die das bewertende KI-System als “gut” einstuft. Menschlich geschriebene, vielleicht originellere Texte werden abgestraft. Die Folge ist eine Diskriminierung von Bewerbern, die keine KI nutzen, und eine algorithmische Monokultur, die “KI-freundliche” Profile statt der besten Kandidaten auswählt.

In der Medizin: Verstärkte Fehldiagnosen

In der Medizin ist der “Automation Bias” ¹ besonders riskant. KIs werden zur Unterstützung bei systematischen Reviews ² und zur Diagnosefindung ³ eingesetzt.

• Problem 1: Kognitive Verstärkung. Wie die Studie zu kognitiven Biases ³ zeigt, neigt die KI dazu, den ersten (potenziell falschen) Gedanken des Arztes zu bestätigen (Confirmation Bias ¹⁷), anstatt als unabhängige “zweite Meinung” zu fungieren, die Fehler aufdeckt.
• Problem 2: Wissenschaftsverfälschung. Der “Generalization Bias” ⁴¹ führt dazu, dass die KI medizinische Studien falsch zusammenfasst. Sie gibt Ärzten überverallgemeinerte Empfehlungen, die (noch) nicht durch Evidenz gedeckt sind, was im schlimmsten Fall zu Behandlungsfehlern führen kann.⁴¹

In der Gesellschaft: Skalierte Fehlinformation und Stereotypen

Die gesellschaftlichen Auswirkungen sind am breitesten.

• Politische Beeinflussung: Wie die ACL-Studie ²⁷ zeigte, sind voreingenommene LLMs keine passiven Werkzeuge, sondern aktive Akteure, die politische Meinungen und Entscheidungen der Bürger messbar verschieben können.
• Kulturelle Versteinerung: Der “Biased Tales”-Datensatz ³² beweist, dass Gender- und Kulturstereotype automatisiert und in neuen Inhalten repliziert werden, wodurch sie sich in der nächsten Generation verfestigen.
• Wissenschaftsfeindlichkeit: Der “Generalization Bias” ⁴¹ birgt laut den Autoren der Studie das Risiko einer “großflächigen Fehlinterpretation von Forschungsergebnissen” ⁴¹, was das Vertrauen in die Wissenschaft untergräbt.

In all diesen Fällen entsteht eine Echokammer: KI-Bewerbungen treffen auf KI-Recruiter.⁴ KI-Diagnostik trifft auf Ärzte mit Denkfehlern.³ KI-generierte Meinungen treffen auf Wähler.²⁷ Diese Schleife validiert und skaliert menschliche Fehler, wobei der Mensch dank “Automation Bias” ¹ das schwächste Glied ist und der Maschine glaubt.

Teil 7: Der Weg zu fairerer KI: Lösungsansätze und Strategien 2026

Angesichts dieser tiefgreifenden Probleme arbeitet die Forschung 2025 intensiv an Lösungen, die sowohl technisch als auch organisatorisch ansetzen.

Technische Mitigation: Ein Wettrüsten

1. Bessere Daten und Prompts: Die Kuratierung der Trainingsdaten bleibt ein wichtiger, wenn auch unzureichender erster Schritt.¹ Zunehmend wichtiger wird “Prompt Engineering” ⁴² und die gezielte Anpassung von Eingabeaufforderungen, um Bias-Reaktionen zu reduzieren.⁴³
2. Bessere Trainingsmethoden: Die Forschung beginnt, gezielte Lösungen zu entwickeln. Die EMNLP 2025-Studie zu Gender-Bias ⁴⁴ schlug einen vielversprechenden Ansatz vor: Durch die Generierung von strukturell identischen moralischen Geschichten für männliche und weibliche Protagonisten und die anschließende Feinabstimmung mittels “Direct Preference Optimization (DPO)” konnte der Gender-Bias signifikant reduziert werden, ohne die allgemeinen Fähigkeiten des Modells zu beeinträchtigen.⁴⁴
3. Spezifische Anpassungen: Gegen systemische Fehler helfen oft nur spezifische technische Eingriffe. Forscher des MIT fanden heraus, dass eine Stärkung der “positional encodings” (die der KI sagen, wo im Text ein Wort steht) den “Position Bias” reduzieren kann.⁶

Organisatorische und regulatorische Ansätze: Der Mensch in der Schleife

Die vielleicht wichtigste Erkenntnis des Jahres 2025 ist, dass “technische Lösungen allein Bias nicht eliminieren können”.⁴⁰

1. Governance & Teams: Es bedarf robuster Governance-Frameworks, diverser Entwicklungsteams (um blinde Flecken zu vermeiden) und einer kontinuierlichen Aufsicht über die Modelle im Einsatz.⁴⁰
2. Vertrauenslücke: Die Industrie spürt den Druck. Ein Bericht von 2025 zeigt, dass 34% der Organisationen den Ergebnissen der KI “aufgrund möglicher Voreingenommenheit oder Halluzinationen nicht vertrauen”.⁴⁵
3. Regulierung (EU AI Act): Gesetzliche Rahmenwerke wie der EU AI Act zwingen Unternehmen nun, Bias-Bewertungen für “Hochrisiko-KI-Anwendungen” (wie HR, Medizin, Recht) durchzuführen. Ein Versäumnis kann zu rechtlicher Haftung und massiven Reputationsschäden führen.⁴⁰

Die wichtigste Lösung, die sich aus der 2025-Forschung ergibt, ist jedoch methodisch: Wir brauchen bessere Benchmarks. Die alten “Trick Tests” müssen durch “RUTEd Evaluations” ²⁹ ersetzt werden, die den echten kontextuellen Bias messen (wie die Gehaltsverhandlung ¹³ oder die Kindergeschichte ³²). Nur wenn wir den echten Bias messen können, können wir ihn beheben.

Die Verantwortung des Nutzers: Kritisches Denken

Letztendlich bleibt die wichtigste Verteidigungslinie der Mensch. Die Bekämpfung des “Automation Bias” ¹ ist entscheidend. Nutzer in allen Sektoren müssen geschult werden, KI-Ergebnisse nicht als unumstößliche Wahrheit, sondern als einen Vorschlag zu behandeln, der kritisch hinterfragt werden muss.²⁶

Teil 8: Fazit und Ausblick: Die Zukunft des KI-Bias

Zusammenfassung der Kernerkenntnisse

Das Jahr 2025 hat unser Verständnis von KI-Bias radikal vertieft und kompliziert. Die fünf wichtigsten Erkenntnisse sind:

1. Bias ist kontextuell: Die UZH-Studie ⁷ beweist, dass der Frame (die zugeschriebene Quelle) die Bewertung eines LLMs genauso stark beeinflusst wie der Inhalt. Kontext ist alles.
2. Bias ist subtil: Die Forschung hat sich von offensichtlichen Stereotypen zu tief verwurzelten systemischen ⁶, kognitiven ¹⁷ und prozessualen ²³ Verzerrungen verlagert.
3. Benchmarks versagen: Das “Surface Fairness, Deep Bias”-Problem ¹³ und die Forderung nach “RUTEd”-Evaluationen ²⁹ beweisen, dass wir jahrelang die falschen Dinge gemessen haben.
4. Skalierung ist kein Allheilmittel: Das “Paradoxon der Skalierung” zeigt, dass größere und neuere Modelle bei manchen Biases (kognitiv ¹⁷) besser, bei anderen (Generalisierung ⁴¹, Politik ⁹) jedoch schlechter werden.
5. Ausrichtung (Alignment) ist eine Ursache: Der Versuch, KIs “wahrheitsgemäß” ⁹ oder “hilfsbereit” ⁴¹ zu machen, scheint selbst neue, tiefgreifende Biases zu erzeugen.

Ausblick: Jenseits der “neutralen” KI

Die Herausforderung für 2026 und darüber hinaus besteht darin, diese Spannungsfelder zu lösen. Die Forschung muss aufhören, nach der einen, “neutralen” oder “objektiven” KI zu suchen – die UZH-Studie ⁷ und die MIT-Studie ⁹ legen nahe, dass dies ein unerreichbares Ziel sein könnte.

Stattdessen muss das Ziel die Entwicklung von transparenten, kontextbewussten und robust evaluierten KIs sein. Der Fokus muss sich von der reinen Leistung (Performance) auf die Sicherheit (Safety) und die Methodik der Evaluation verlagern. Für Nutzer bedeutet dies, den “Automation Bias” ¹ abzulegen und zu akzeptieren, dass diese mächtigen Werkzeuge fehlerhaft sind – und es auf absehbare Zeit auch bleiben werden.

Referenzen

1. Bias in der künstlichen Intelligenz – BSI, Zugriff am November 10, 2025, https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Whitepaper_Bias_KI.pdf?__blob=publicationFile&v=5
2. KI und LLMs unterstützen beim Erstellen von Systematischen Reviews – MIN-Fakultät – Universität Hamburg, Zugriff am November 10, 2025, https://www.min.uni-hamburg.de/ueber-die-fakultaet/aktuelles/2025/0113-ki-systematische-reviews.html
3. LLM Reasoning Does Not Protect Against Clinical Cognitive Biases – An Evaluation Using BiasMedQA | medRxiv, Zugriff am November 10, 2025, https://www.medrxiv.org/content/10.1101/2025.06.22.25330078v1
4. Bevorzugen KIs KI-Texte? Folgen des AI-AI Bias für Recruiting und HR, Zugriff am November 10, 2025, https://www.ki-im-personalwesen.de/bevorzugen-kis-ki-texte-folgen-des-ai-ai-bias-fuer-recruiting-und-hr/
5. LLMs sind voreingenommen und bewerten Texte nicht menschengerecht – The Decoder, Zugriff am November 10, 2025, https://the-decoder.de/llms-sind-voreingenommen-und-bewerten-texte-nicht-menschengerecht/
6. Unpacking the bias of large language models | MIT News, Zugriff am November 10, 2025, https://news.mit.edu/2025/unpacking-large-language-model-bias-0617
7. (PDF) Source framing triggers systematic evaluation bias in Large Language Models, Zugriff am November 10, 2025, https://www.researchgate.net/publication/391910870_Source_framing_triggers_systematic_evaluation_bias_in_Large_Language_Models
8. [2507.16557] Exploring Gender Bias in Large Language Models: An In-depth Dive into the German Language – arXiv, Zugriff am November 10, 2025, https://arxiv.org/abs/2507.16557
9. Study: Some language reward models exhibit political bias | MIT …, Zugriff am November 10, 2025, https://news.mit.edu/2024/study-some-language-reward-models-exhibit-political-bias-1210
10. Bias In AI Content Vermeiden: Ultimative Strategien 2025, Zugriff am November 10, 2025, https://ki-automatisierung-marketing.de/bias-in-ai-content-vermeiden/
11. Large Language Models are Biased Because They Are Large Language Models – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2406.13138v1
12. [2503.11985] No LLM is Free From Bias: A Comprehensive Study of Bias Evaluation in Large Language Models – arXiv, Zugriff am November 10, 2025, https://arxiv.org/abs/2503.11985
13. Surface Fairness, Deep Bias: A Comparative Study of Bias in … – arXiv, Zugriff am November 10, 2025, https://arxiv.org/abs/2506.10491
14. Exploring Biases of Large Language Models in the Field of Mental Health: Comparative Questionnaire Study of the Effect of Gender and Sexual Orientation in Anorexia Nervosa and Bulimia Nervosa Case Vignettes, Zugriff am November 10, 2025, https://mental.jmir.org/2025/1/e57986
15. Study finds perceived political bias in popular AI models | Stanford …, Zugriff am November 10, 2025, https://news.stanford.edu/stories/2025/05/ai-models-llms-chatgpt-claude-gemini-partisan-bias-research-study
16. Defining and evaluating political bias in LLMs | OpenAI, Zugriff am November 10, 2025, https://openai.com/index/defining-and-evaluating-political-bias-in-llms/
17. The Bias is in the Details: An Assessment of Cognitive Bias in LLMs – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2509.22856v1
18. KI bewertet Texte neutral – bis sie die Quelle kennt | UZH News | UZH, Zugriff am November 10, 2025, https://www.news.uzh.ch/de/articles/media/2025/LLM-Bewertungen.html
19. [2505.13488] Source framing triggers systematic evaluation bias in Large Language Models, Zugriff am November 10, 2025, https://arxiv.org/abs/2505.13488
20. AI evaluates texts without bias—until source is revealed – EurekAlert!, Zugriff am November 10, 2025, https://www.eurekalert.org/news-releases/1105218
21. KI bewertet Texte neutral – bis sie die Quelle kennt – Informationsdienst Wissenschaft, Zugriff am November 10, 2025, https://idw-online.de/en/news861201
22. Source framing triggers systematic evaluation bias in Large Language Models – ChatPaper, Zugriff am November 10, 2025, https://chatpaper.com/paper/138901
23. Self-Preference Bias in LLM-as-a-Judge – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2410.21819v2
24. Evaluating and Mitigating LLM-as-a-judge Bias in Communication Systems – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2510.12462v1
25. Unpacking Political Bias in Large Language Models: A Cross-Model Comparison on U.S. Politics – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2412.16746v3
26. Biased LLMs can Influence Political Decision-Making – ACL Anthology, Zugriff am November 10, 2025, https://aclanthology.org/2025.acl-long.328/
27. Biased LLMs can Influence Political Decision-Making – ACL Anthology, Zugriff am November 10, 2025, https://aclanthology.org/2025.acl-long.328.pdf
28. Biased LLMs can Influence Political Decision-Making – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2410.06415v3
29. Bias in Language Models: Beyond Trick Tests and Towards RUTEd Evaluation – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2402.12649v2
30. Bias in Language Models: Beyond Trick Tests and Toward RUTEd Evaluation – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2402.12649v1
31. The 2025 Conference on Empirical Methods in Natural Language Processing, Zugriff am November 10, 2025, https://aclanthology.org/events/emnlp-2025/
32. Biased Tales: Cultural and Topic Bias in Generating Children’s Stories – ACL Anthology, Zugriff am November 10, 2025, https://aclanthology.org/2025.emnlp-main.3.pdf
33. URANUS: Uncovering Gender Bias in Automatic Stories for Kids – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2509.07908v1
34. Biased Tales: Cultural and Topic Bias in Generating Children’s Stories – ACL Anthology, Zugriff am November 10, 2025, https://aclanthology.org/2025.emnlp-main.3/
35. Paper Digest: EMNLP 2025 Papers & Highlights, Zugriff am November 10, 2025, https://www.paperdigest.org/2025/11/emnlp-2025-papers-highlights/
36. Measuring Bias in German Prompts to GPT Models Using Contact Hypothesis – CEUR-WS, Zugriff am November 10, 2025, https://ceur-ws.org/Vol-3961/paper3.pdf
37. Exploring Gender Bias in Large Language Models: An In-depth Dive into the German Language – ACL Anthology, Zugriff am November 10, 2025, https://aclanthology.org/2025.gebnlp-1.37.pdf
38. Exploring Gender Bias in Large Language Models: An In-depth Dive into the German Language – ResearchGate, Zugriff am November 10, 2025, https://www.researchgate.net/publication/393923353_Exploring_Gender_Bias_in_Large_Language_Models_An_In-depth_Dive_into_the_German_Language
39. Seeing is believing? Exploring gender bias in artificial intelligence imagery of specialty doctors | Request PDF – ResearchGate, Zugriff am November 10, 2025, https://www.researchgate.net/publication/397341572_Seeing_is_believing_Exploring_gender_bias_in_artificial_intelligence_imagery_of_specialty_doctors
40. How to Prevent AI Bias in 2025 – Northwest AI Consulting, Zugriff am November 10, 2025, https://nwai.co/how-to-prevent-ai-bias-in-2025/
41. 1 Generalization Bias in Large Language Model … – arXiv, Zugriff am November 10, 2025, https://arxiv.org/abs/2504.00025
42. Large Language Models: A Survey – arXiv, Zugriff am November 10, 2025, https://arxiv.org/html/2402.06196v3
43. LLMs Are Biased Towards Output Formats! Systematically Evaluating and Mitigating Output Format Bias of LLMs – ACL Anthology, Zugriff am November 10, 2025, https://aclanthology.org/2025.naacl-long.15/
44. Mitigating Gender Bias via Fostering Exploratory Thinking in LLMs …, Zugriff am November 10, 2025, https://aclanthology.org/2025.findings-emnlp.364/
45. Der F5 2025 State of Application Strategy Report zeigt, dass aus Worten Taten werden, wenn KI in die Praxis umgesetzt wird, Zugriff am November 10, 2025, https://www.f5.com/de_de/company/news/press-releases/2025-state-of-application-strategy-report-ai-transformation