Warum KI mehr Vielfalt braucht

Es ist besser geworden, gewiss, aber gut ist es noch lange nicht. Fragte man die KI vor zwei Jahren nach der Darstellung einer queeren Person, bekam man immer Menschen mit pinken Haaren gezeigt. Heute spuckt der Bildgenerator auf dieselbe Frage hin das Bild einer jungen, freundlich dreinblickenden Person aus, mit bunten Haaren, Regenbogentattoos und Regenbogenbildern im Hintergrund.

„Wenn wir von vornherein Diversität und Inklusion mitdenken, dann denken wir auch realistischer über technische Anforderungen nach.“

Ein Stereotyp weiterhin, na klar! Und das kann auch gar nicht anders sein. Schließlich basiert die Darstellung auf dem statistischen Durchschnitt einer großen, aber inhaltlich begrenzten Datenmenge, in der queere Personen unterrepräsentiert bleiben. Und so, wie queere Personen in Regenbogenoptik gezeigt werden, werden erfolgreiche Geschäftsleute in der Regel als weiße, mittelalte Männer im Anzug dargestellt. Marginalisierte Gruppen, wie zum Beispiel Menschen mit dunkler oder sehr heller Hautfarbe, Kinder, Ältere und Menschen mit Behinderungen, sind in den gängigen Sprach- und Bildmodellen von Google, Meta und OpenAI nicht ausreichend vertreten. Die Stereotype sind systembedingt, die KI reproduziert und verstärkt sie.

Dr. Martin Mundt ärgert das. Nicht nur als Wissenschaftler, als Professor für lebenslanges maschinelles Lernen an der Universität Bremen, einer Mitgliedseinrichtung der U Bremen Research Alliance, der sich mit nachhaltiger und partizipativer Gestaltung von KI-Systemen beschäftigt. Sondern auch als jemand, der sich selbst als queer identifiziert und sich im Rahmen der internationalen Initiative „Queer in AI“ engagiert.

Wie solch ein KI-System entsteht und wie es verbessert werden kann, hat der Informatiker gemeinsam mit Kolleg:innen in einem kürzlich publizierten Artikel am Beispiel eines Kuchens erläutert – von der Beschaffung der Zutaten (Daten), der Konzeption der Rezepte (Anweisungen), dem Backprozess (Training) über die Verkostung bis zum Verkauf des Kuchens (siehe Kasten am Ende des Textes). „Dieser Backprozess ist sehr einseitig“, erläutert Mundt. „Und wenn der Kuchen einmal gebacken ist, dann ist es sehr schwierig, diesen zu ändern.“

Doch eben an der Erweiterung der Zutatenliste forscht seine Arbeitsgruppe, um einen Backprozess zu erlauben, der die Vielfalt der Gesellschaft besser abbildet. „Wenn wir von vornherein Diversität und Inklusion mitdenken, dann denken wir auch realistischer über technische Anforderungen nach. Dann entstehen sinnvollere, robustere Systeme, die auch mit sich widersprechenden Informationen und Meinungen umgehen können“, wirbt Mundt.

So arbeitet seine Gruppe an Tools, die es ermöglichen, bestehende Systeme upzudaten, indem zum Beispiel neue Daten hinzugefügt werden können. Technisch ist dieses Feedbacksystem herausfordernd. Denn mit dem simplen Hinzufügen von Daten ist es nicht getan. „Es ist unglaublich schwer ein System zu bauen, das alle möglichen Bevölkerungsgruppen abdeckt“, räumt Mundt ein und ergänzt: „Eine universell faire Lösung kann es nicht geben; es bestehen immer Zielkonflikte zwischen den einzelnen Bevölkerungsgruppen.“

Für eine diversere KI braucht es seiner Ansicht nach nicht nur technische Lösungen, sondern auch den Dialog mit und das Engagement von Gruppen, die ihre Sichtweisen einbringen, die Awareness erzeugen und auch Druck auf Gesetzgeber und Unternehmen ausüben. „Diese Community-Aktivitäten haben eine Signalfunktion“, ist Mundt überzeugt. Sie würden auch dazu beitragen, dass Informationen etwa von Chatbots differenzierter werden. „Eine Bottom-up-Struktur ist essenziell“, betont der 36 Jährige. Nicht von oben herab, sondern adaptiv im Dialog sollten KI-Systeme entwickelt werden. „Wir als Forschende können dabei helfen, Brücken zu bauen, indem wir Mechanismen zur Partizipation zur Verfügung stellen.“

Die Nutzer:innen stärker zu beteiligen, ihre Bedürfnisse mehr ins Zentrum zu stellen, das würde sich auch Dr. Saskia Müllmann wünschen. Die Wissenschaftlerin arbeitet an einer weiteren Mitgliedseinrichtung der U Bremen Research Alliance, dem Leibniz-Institut für Präventionsforschung und Epidemiologie – BIPS. Im Leibniz ScienceCampus Digital Public Health forscht sie unter anderem zu Barrieren bei der Nutzung von digitalen Gesundheitstechnologien, die bei der Prävention, Erkennung, Überwachung oder Behandlung von Krankheiten unterstützen sollen. Grundsätzlich, sagt die 38-Jährge, bieten diese Systeme viele hilfreiche Informationen, nur profitierten eben nicht alle Bevölkerungsgruppen gleichermaßen von ihnen. „Ältere Menschen oder solche mit geringen Deutschkenntnissen sind trotz der Übersetzungstools vielfach digital exkludiert. Die Angebote sind besonders für diejenigen vorteilhaft, die ohnehin bessergestellt sind“, sagt sie.

„Viele müssen erstmal lernen, dass Google nicht ihr Freund oder ihre Freundin ist und sie nicht automatisch alle Cookies akzeptieren sollten. Das Bewusstsein für einen kritischen Umgang mit den Daten existiert oft gar nicht.“

Ein Beispiel für die wachsende digitale Kluft ist aus ihrer Sicht die jüngst eingeführte elektronische Patientenakte. „Viele Gruppen haben den Eindruck, sie sei ihnen einfach übergestülpt worden, sie fühlen sich übergangen“, erklärt Saskia Müllmann. Trotz einer durchaus vorhandenen Offenheit für neue Dinge verstärke dies das Gefühl, ausgeschlossen zu sein. „Man muss sie daher mitnehmen, schon weil vielfach die Kompetenzen fehlen, die App überhaupt zu installieren.“

Neben technischen Barrieren ist auch der Umgang mit den KI-Systemen eine Herausforderung. Das beginnt mit der Formulierung der Fragen, um die gewünschte Information zu bekommen, und geht weiter bis zu deren Bewertung. Sind die Angaben vertrauenswürdig? Was ist die Quelle? „Viele müssen erst einmal lernen, dass Google nicht ihr Freund oder ihre Freundin ist und sie nicht automatisch alle Cookies akzeptieren sollten. Das Bewusstsein für einen kritischen Umgang mit den Daten existiert oft gar nicht“, so die Gesundheitswissenschaftlerin.

Müllmann arbeitet eng mit den Menschen zusammen, unter anderem im Leibniz Living Lab in Osterholz, einem der diversesten Stadtteile Bremens. Die Gesundheitswerkstatt unterhält enge Verbindungen zu Schulen, Kultureinrichtungen und Mütterzentren. Es ist ein Ort des Austauschs, auch von Schulungen, die Bürger:innen sind also aktiv in die Forschung zur digitalen Gesundheitskompetenz einbezogen. 

„Wir entwickeln zwar nicht selbst Algorithmen, aber wir können an die Entwickler:innen zurückspielen, wie ihre Systeme ankommen, und damit technische Aspekte auch beeinflussen“, sagt Saskia Müllmann, die sich wünscht, dass die Systeme einfacher zu handhaben und zugänglicher wären.

Damit unterschiedliche Bevölkerungsgruppen teilhaben können an den digitalen Möglichkeiten und ihrer Entwicklung, braucht es interdisziplinäre Teams und gut vernetzte Standorte, die an verschiedenen Themen arbeiten. „Das ist in Bremen der Fall“, freut sich Saskia Müllmann. Eines dieser Netzwerke ist die U Bremen Research Alliance, die die Universität Bremen mit 13 außeruniversitären Forschungseinrichtungen verbindet. Von der Grundlagenforschung bis zu Anwendungen in der Robotik oder der Gesundheitsförderung bringt es Expert:innen zusammen.

Teilhabe und Diversität bei der KI-Entwicklung seien ein Dauerthema. Sie bräuchten aktive, kontinuierliche Arbeit über Jahre hinweg, betont Martin Mundt. Auch auf der weltweit ältesten und einer der renommiertesten Konferenzen für KI, der International Joint Conference on Artificial Intelligence (IJCAI) im August in Bremen mit mehreren Tausend Teilnehmenden wird über die partizipative Gestaltung von KI-Systemen debattiert werden. Dafür sorgt nicht zuletzt Martin Mundt als Chair für Diversität und Inklusion.