Die rasante Entwicklung von Künstlicher Intelligenz (KI) beeinflusst zahlreiche wissenschaftliche und medizinische Bereiche. Doch während KI-Systeme enormes Potenzial bieten, bergen sie auch Herausforderungen, insbesondere im Hinblick auf geschlechtsspezifische Datenlücken und algorithmische Verzerrungen. Ein zentrales Problem ist der Gender Data Gap in der Medizin, der u. a. dem geschuldet ist, dass Frauen – vor allem in der Vergangenheit – in vielen klinischen Studien unterrepräsentiert waren. Gleichzeitig zeigen moderne KI-Modelle, darunter Large Language Models (LLMs), oft sogenannte geschlechtsspezifische Biases oder Verzerrungen, die bestehende gesellschaftliche Ungleichheiten verstärken könnten. Andererseits hat KI auch dazu beigetragen, geschlechtsspezifische Symptome aufzudecken.

Ein drastisches Beispiel sind Herzinfarktdiagnosen: Traditionell wurden Herzinfarkt-Symptome anhand von Daten analysiert, die hauptsächlich aus männlichen Patientenpopulationen stammen. Erst durch die Anwendung von Machine Learning konnten spezifische Prädiktoren für Frauen identifiziert werden, die eine bessere medizinische Versorgung ermöglichen (1). In den 1990er Jahren rückten die unterschiedlichen Wirkungen und Nebenwirkungen von Medikamenten in den Fokus, da Frauen zuvor aus klinischen Studien ausgeschlossen wurden (2). Zwischen 1997 und 2000 wurden acht von zehn untersuchten Medikamenten in den USA vom Markt genommen, weil erst nach der Zulassung festgestellt wurde, dass sie für Frauen ein höheres Gesundheitsrisiko bergen als für Männer (3–4). Dies verdeutlicht die Notwendigkeit, geschlechtsspezifische Analysen bereits in der frühen Entwicklungsphase von Medikamenten zu integrieren. Trotz wachsender Sensibilisierung für das Problem bleiben viele klinische Studien in Bezug auf den Faktor Geschlecht unausgewogen (5).

Generative KI-Algorithmen werden auf riesigen Datensätzen aus dem Internet trainiert, die bestehende gesellschaftliche Vorurteile widerspiegeln. So bevorzugen KI-generierte Bilder oft männliche Merkmale, da die Trainingsdatensätze eine größere Menge an männlichen Darstellungen enthalten oder männlich codierte Eigenschaften überrepräsentiert sind (6).

Aber genauso wie KI das Potenzial hat, bestehende Ungleichheiten zu verstärken, kann sie auch positive Auswirkungen auf das Gesundheitssystem haben. In der Medizin könnten KI-gestützte Systeme, die spezifische Daten für Frauen und diverse Geschlechtsidentitäten berücksichtigen, dazu beitragen, personalisierte Behandlungsstrategien zu entwickeln. Beispielsweise wird an Methoden gearbeitet, um Trainingsdaten diverser zu gestalten oder Modelle so zu justieren, dass sie unterschiedliche demografische Gruppen fairer repräsentieren (7).

Neben den zugrundeliegenden Daten müssen auch die Metadaten hinsichtlich ihrer Diversität berücksichtigt werden, da auch in internationalen Standards und Terminologien, die digitale Daten standardisieren und ihre Interoperabilität sicherstellen, diskriminierende Verzerrungen verborgen sein können (8). Diese Biases können sich aus kulturellen, sprachlichen und systemischen Einflüssen in den Metadatenstrukturen ergeben. Daher ist es unerlässlich, diese auch regelmäßig auf Verzerrungen zu überprüfen und sicherzustellen, dass sie repräsentativ und inklusiv sind, um faire und unvoreingenommene Datennutzung zu gewährleisten.

E-Mail: nina.haffer@charite.de

sylvia.thun@bih-charite.de