BIAS-AI: Neues DFG-Projekt untersucht Verzerrungen in KI-generierten Gesundheitsinformationen

Enlarge

Am 1. Juli 2026 startete unter der Leitung von Dr. Anne Reinhardt am
Lehrstuhl für Gesundheitskommunikation das DFG-geförderte Projekt
“Structural Bias and Confirmation Effects in AI-generated Health
Information (BIAS-AI)". Ausgangspunkt des Projekts ist die zunehmende
Mensch-Computer-Interaktion in der Gesundheitskommunikation, in der KI eine
wachsende Rolle als Gesundheitsratgeber einnimmt. Doch wie hilfreich und
“neutral” sind durch KI-generierte Informationen eigentlich für die
Nutzer:innen? In anderen Worten: Erhalten alle Nutzenden auf vergleichbare
Gesundheitsfragen auch vergleichbar gute Antworten? Oder reproduzieren
KI-Systeme bestehende gesellschaftliche Ungleichheiten, etwa auf Basis von
Geschlecht oder Herkunft? Und wie geht die KI damit um, wenn ein User
persistent einen Gesundheitsmythos verteidigt?

Im Fokus der Untersuchung stehen zwei Formen systematischer Verzerrungen:
(1) Algorithmic Bias, mit besonderem Fokus auf Rassismus und Sexismus, und
(2) Confirmation Bias - die Tendenz, bestehende Überzeugungen der
Nutzenden zu bestätigen und zu verstärken statt diese ggf. zu
korrigieren. Untersucht wird, inwieweit generative KI-Chatbots Algorithmic
Bias und Confirmation Bias in der Gesundheitskommunikation reproduzieren,
wie sie zusammenhängen und welche Folgen sich daraus für Fairness,
Vertrauenswürdigkeit, Inklusivität und Chancengleichheit ergeben.

Um diesen Fragen nachzugehen, verfolgt das Projekt eine
nutzer:innenbasierte Perspektive mit einem methodisch innovativen
AI-Audit-Ansatz: In einem groß angelegten Vignettenexperiment werden
systematisch variierte Gesundheitsfragen an generative KI-Chatbots gestellt
und deren Antworten anschließend automatisiert inhaltsanalytisch
ausgewertet. Ergänzend analysiert das Projekt simulierte Dialogverläufe,
um zu untersuchen, wie KI-Systeme auf wiederholte oder hartnäckige
Äußerungen (z. B. im Kontext von Impfskepsis) der Nutzer:innen
reagieren.

Ziel ist es, systematisch Muster zu identifizieren, die potentiell
Vertrauen, Gesundheitsentscheidungen und letztlich Gesundheitsgerechtigkeit
beeinflussen können.

Durchgeführt wird das Projekt von:
Dr. Anne Reinhardt (Leitung, IfKW, LMU München)
Kiara Bör, M.A. (IfKW, LMU München)