Noch kein Mitglied? Dann wählen Sie hier aus verschiedenen Mitgliedschaften:
Künstliche Intelligenz ist in kurzer Zeit zu einem festen Bestandteil unseres Alltags geworden. Sie hilft beim Schreiben von E-Mails, beantwortet Suchanfragen, unterstützt bei Finanzentscheidungen und gibt sogar Ratschläge zu Beziehungsfragen. Große Sprachmodelle (Large Language Models, LLMs) liefern schnell strukturierte und oft erstaunlich überzeugende Antworten.
Genau darin liegt ihre Stärke, aber auch ihr Risiko.
Denn obwohl KI-Antworten häufig objektiv und rational wirken, sind sie keineswegs neutrale Werkzeuge. Sie beruhen auf riesigen Mengen von Internetdaten. In diesen Daten steckt nicht nur Wissen, sondern auch eine lange Geschichte gesellschaftlicher Vorurteile, Stereotype und Ungleichheiten.
Wer KI unkritisch als objektiven Maßstab nutzt, riskiert deshalb, bestehende Verzerrungen nicht nur zu übernehmen, sondern weiter zu verstärken.
Wann hast du zuletzt eine Antwort einer KI wirklich hinterfragt?
Sprachmodelle prägen heute zentrale Bereiche unseres Lebens, von alltäglichen Suchanfragen über Chatbots und Gesundheitsdaten bis hin zur Personalbeschaffung. Ihre Antworten wirken geordnet, sachlich und professionell. Genau dieses Auftreten schafft Vertrauen.[1]
Die Forschung beschreibt dieses Phänomen als Automation Bias: Menschen neigen dazu, automatisierten Empfehlungen stärker zu vertrauen und die eigene kritische Reflexion zurückzufahren.[2]
Hinzu kommt ein zweiter Effekt: Sykophantie. Damit ist die Tendenz gemeint, dass KI-Modelle Nutzer:innen nach dem Mund reden, um hilfreich zu erscheinen. Dabei kann es passieren, dass logische Konsistenz oder faktische Genauigkeit in den Hintergrund geraten. Paradoxerweise stärkt das oft sogar das Vertrauen in die Systeme.[3]
Zusätzlich spielt der sogenannte Beauty-Bias eine Rolle. KI-Systeme nutzen oft Emojis, übersichtliches Formatting oder sprachlich besonders „glatte“ Formulierungen. Solche visuellen und stilistischen Elemente wirken als Aufmerksamkeitslenker: Nutzer:innen bewerten die Qualität einer Antwort dadurch häufig stärker nach ihrer Präsentation als nach ihrer tatsächlichen inhaltlichen Qualität. Dadurch können selbst schwächere oder fehlerhafte Antworten überzeugender wirken, wenn sie professionell oder ansprechend dargestellt sind.[4]
Je selbstverständlicher wir KI nutzen, desto größer wird ihr Einfluss. Wenn wir KI-Modelle unkritisch verwenden, räumen wir ihnen damit erhebliche Macht als Entscheidungsarchitekten über unsere Überzeugungen, Arbeitsprozesse und zentralen Lebensentscheidungen ein.[5]
Studien zeigen jedoch, dass KI-Modelle versteckte Biases enthalten. Was uns als objektive Antworten und hilfreiche Unterstützung erscheint, kann in Wirklichkeit das Ergebnis systematischer Verzerrungen sein.
Unter Bias in Sprachmodellen versteht man systematische Fehler in Trainingsdaten oder Modellarchitektur, die zu unfairen und unausgewogenen Ergebnissen führen können.
Diese Verzerrungen treten in unterschiedlichen Formen auf. Besonders problematisch wird es dort, wo KI bestimmte Gruppen benachteiligt, etwa aufgrund von Geschlecht, Alter oder ethnischer Herkunft.[6] Wenn Vorhersagen oder Entscheidungen eines KI-Modells bestimmte Personen oder Gruppen aufgrund geschützter Merkmale ungerechtfertigt benachteiligen, findet Diskriminierung statt.[7]
Der Grund dafür liegt im Training der Modelle. Große Sprachmodelle werden mit enormen Mengen an Texten trainiert. Darin enthalten sind wissenschaftliche Erkenntnisse, Nachrichten, Bücher und Alltagskommunikation aber ebenso stereotype Inhalte und historisch gewachsene Vorurteile.
KI wird damit zu einer Spiegelung gesellschaftlicher Denkmuster. Sie reproduziert die Strukturen der Daten, auf denen sie basiert.
In der Forschung zu Bias in großen Sprachmodellen unterscheiden Xinru Lin und Luyang Li (2025) zwei zentrale Arten von Verzerrungen in KI-Modellen:
Viele heutige Systeme verfügen über Schutzmechanismen, die offensichtliche diskriminierende Aussagen blockieren. Das bedeutet jedoch nicht, dass Bias verschwindet.
Gerade implizite Verzerrungen wirken oft im Hintergrund weiter.
Eine Studie von Shashank Gupta et al. (2023) zeigt dies anschaulich. [9] Wird ein Sprachmodell direkt gefragt, ob Menschen mit dunkler Haut schlechter in Mathematik seien, weist es diese Annahme meist zurück. Wird dem Modell jedoch ein bestimmtes persönliches Attribut zugewiesen, verändert sich das Ergebnis. In der Studie sank die Genauigkeit logischer und mathematischer Ausgaben, wenn das Modell angewiesen wurde, die Rolle einer Person mit dunkler Haut einzunehmen. [10]
Dieses Beispiel verdeutlicht, dass implizite Biases in großen Sprachmodellen oft unsichtbar im Hintergrund wirken. Gerade deshalb ist es wichtig, sie zu verstehen, zu erkennen und kritisch zu hinterfragen.
Die impliziten Biases tauchen in vielen Bereichen auf – bei Bildern, Texten und konkreten Entscheidungen.
Ein bekanntes Beispiel stammt aus der Bildgenerierung. In einer Studie wurde eine KI gebeten, einen “CEO” darzustellen. In 97 Prozent der Fälle zeigte das Ergebnis einen weißen Mann.[11] Umgekehrt wurden bei dem Begriff ‘Secretary‘ Personen zu 99 Prozent als weiblich dargestellt.[12]
Solche Ergebnisse lassen sich nicht allein mit realen Repräsentationsunterschieden erklären. Sie bilden gesellschaftliche Realität nur verzerrt ab und zeigen vielmehr, wie KI-Systeme bestehende Stereotype nicht nur widerspiegeln, sondern aktiv verstärken und reproduzieren.
Die impliziten Biases wirken sich auch auf die Verarbeitung von Texten aus. Genau hier wirken gelernte Assoziationen oft wie eine unsichtbare Brille, die Inhalte verzerrt interpretieren kann.
Wenn eine KI einen von dir hochgeladenen Text analysiert, beeinflussen gelernte – und potenziell verzerrte – Assoziationen, wie das Material verarbeitet, interpretiert und eingeordnet werden kann, was potenziell zu Fehlinterpretationen führt.
Studien zeigen etwa, dass Pronomen aufgrund von Geschlechterstereotypen häufig falsch zugeordnet werden. So wird etwa automatisch angenommen, dass “Ärzte” männlich seien oder “Kochen” primär weiblich konnotiert sei.
Zudem werden nicht standardisierte Dialekte häufiger fälschlicherweise negativ bewertet, und regionale Sprachvarianten werden oft schlechter verstanden.[13]
Wenn KI selbst Texte erzeugt, können gesellschaftliche Vorurteile durch Wortwahl, Stil und inhaltliche Rahmung reproduziert werden. Besonders problematisch ist, dass dabei ganze Bevölkerungsgruppen einseitig oder klischeehaft dargestellt werden – vor allem marginalisierte Gruppen.
Studien zeigen etwa, dass Sprachmodelle Frauen häufiger als „emotional“ und Männer häufiger als „stark“ beschreiben. Zudem reproduzieren sie regionale Stereotype, indem Afrika häufig als überwiegend dörflich dargestellt wird, während urbane Lebensrealitäten kaum sichtbar sind.
Bei Karrierefragen werden Männern häufiger technische oder naturwissenschaftliche Laufbahnen vorgeschlagen, Frauen dagegen eher kreative oder soziale Berufe. Dadurch werden bestehende Ungleichheiten nicht nur abgebildet, sondern weiter verstärkt.
Darüber hinaus werden Nachrichten aus Minderheitenregionen seltener angezeigt, während Inhalte in dominanten Sprachen bevorzugt werden. Dies führt dazu, dass lokale Perspektiven marginalisiert werden und ein globales „Einheitsdenken“ gefördert wird.
Sogar bei Zusammenfassungen zeigen sich Verzerrungen. Sprachmodelle überbetonen traditionelle Geschlechterrollen, lassen kulturell relevante Details aus und stellen globale Ereignisse häufiger aus westlicher Perspektive dar. Das beeinflusst, welche Perspektiven sichtbar werden und welche im Hintergrund bleiben.[14]
Ähnliche Muster zeigen sich nicht nur in Inhalten, sondern auch in der technischen Leistung selbst. KI-Systeme funktionieren je nach Nutzergruppe unterschiedlich gut. Gesichtserkennung ist etwa häufig bei Männern genauer als bei Frauen, und Spracherkennungssysteme machen bei Schwarzen Sprecher:innen häufiger Fehler. Im Alltag führt das zu einer systematischen Benachteiligung bestimmter Gruppen.[15]
Die häufigsten Verzerrungen, die in den Sprachmodellen auftauchen, sind
Werden solche Stereotypen-Darstellungen oder verzerrte Zuschreibungen immer wieder reproduziert, entstehen Repräsentationsschäden. Diese können gesellschaftliche Ungleichheiten verfestigen und marginalisierte Gruppen weiter benachteiligen.[16]
Die entscheidende Frage ist daher, welche Folgen diese Verzerrungen haben, wenn KI-Systeme nicht nur Inhalte erzeugen, sondern zunehmend auch reale Entscheidungen in zentralen Lebensbereichen beeinflussen.
Trotz ihrer impliziten Biases werden KI-Modelle heute in vielen persönlichen und professionellen Bereichen eingesetzt. Problematisch wird es vor allem dann, wenn sie als objektive Entscheidungsgrundlage verstanden und benutzt werden.
Ein bekanntes Beispiel ist der Fall von Amazon. Im Jahr 2018 nahm die Firma ein KI-basiertes Rekrutierungstool vom Netz, nachdem bekannt wurde, dass das System Frauen benachteiligte. Es war überwiegend mit Lebensläufen weißer Männer trainiert worden und hatte diese Muster übernommen.[17]
Weitere Studien zeigen, dass Sprachmodelle Bewerber:innen mit schwarz-, hispanisch-, asiatisch- oder arabisch klingenden Namen häufiger für Positionen mit niedrigerem Status empfehlen, während weiß klingende Namen häufiger mit höher rangigen Positionen verbunden werden.[18]
Auch in der Medizin zeigen sich problematische Effekte.
Studien deuten darauf hin, dass GPT-4 bei Patient:innen mit dunkler Haut seltener teure Diagnoseverfahren empfiehlt.[19] Zudem liefern KI-basierte Werkzeuge zur Hautkrebsdiagnostik bei unterschiedlichen Hauttönen teilweise ungenauere Ergebnisse.[20]
Solche Verzerrungen sind besonders kritisch, weil sie unangemessene Behandlungsempfehlungen begünstigen und bestehende gesundheitliche Ungleichheiten zwischen demografischen Gruppen weiter verschärfen können.[21]
Ähnlich gravierende Folgen zeigen sich im Justizsystem. Eine Analyse von ProPublica zum US-amerikanischen COMPAS-System, das Rückfallwahrscheinlichkeiten prognostizieren soll, zeigte, dass afroamerikanische Angeklagte systematisch benachteiligt wurden, indem sie deutlich häufiger als „Hochrisikofälle“ eingestuft wurden – selbst ohne Vorstrafen.[22]
Das zentrale Problem der aktuellen KI-Entwicklung ist nicht nur die technische Fehlerrate. Entscheidend sind die tief verankerten, oft unsichtbaren Verzerrungen.
Weil KI-Modelle auf menschlichen Daten basieren, spiegeln sie gesellschaftliche Vorurteile wider und verstärken sie durch ihre enorme Reichweite.
Die Folgen reichen deshalb weit über technische Fragen hinaus. KI beeinflusst zunehmend, wer Zugang zu Chancen erhält, welche Informationen sichtbar werden und welche Weltbilder sich langfristig verfestigen.
Biases in großen Sprachmodellen sind keine Randerscheinung. Sie gehören zu den zentralen gesellschaftlichen Fragen der aktuellen KI-Entwicklung.
Neue Forschung zeigt, dass sich das Problem von Biases in großen Sprachmodellen nicht einfach durch technischen Fortschritt löst. Mit zunehmender Modellgröße werden Verzerrungen oft subtiler, schwerer erkennbar und tiefer in den Systemen verankert.[23]
Zwar reduzieren eingebaute Filter offen problematische Inhalte wie explizite Biases. Gleichzeitig entsteht jedoch ein Paradox: Mit zunehmender Größe und stärkerer Sicherheitsausrichtung zeigen Modelle häufig mehr implizite Biases sowie eine stärkere Tendenz zu menschlich wirkender Irrationalität.[24]
Zudem sind neuere Modelle zunehmend darauf optimiert, Nutzende zufriedenzustellen. Dadurch bestätigen sie fehlerhafte Annahmen eher, anstatt problematische Anfragen kritisch zu hinterfragen.[25] Der Fokus verschiebt sich dabei von offenen Vorurteilen hin zu systemischen Effekten wie übermäßiger Anpassung an Nutzer:innen.[26]
Die Auseinandersetzung mit Biases ist deshalb nicht nur eine technische Aufgabe, sondern eine gesellschaftliche Notwendigkeit.
Nur wenn wir die Funktionsweise, Grenzen und Risiken von KI verstehen, können wir Autonomie, Fairness und Vielfalt in einer zunehmend KI-geprägten Welt sichern.
Wenn wir eine Zukunft wollen, in der mehr Menschen gleiche Chancen haben, müssen wir verhindern, dass KI die tief verankerten Vorurteile unserer Gegenwart unreflektiert reproduziert.
MALOU RYBORG hält einen Bachelor in Philosophie sowie einen Master in Cross-Cultural Studies der Universität Kopenhagen. In ihrer Arbeit bewegt sie sich an der Schnittstelle von Philosophie, Linguistik und Kulturwissenschaften. Ihr Fokus liegt auf der Untersuchung des Zusammenspiels von Kultur, Sprache und ethischer Urteilsbildung. Dabei analysiert sie insbesondere den Umgang mit kulturellen Differenzen und unterschiedlichen Weltanschauungen im Kontext globaler Konflikte und internationaler Problemlösungen.