4 KI-Expertinnen, die algorithmische Voreingenommenheit bekämpfen

Benötigte Lesezeit: 5 Minuten

„Es ist nicht nur möglich, sich mit KI zu beschäftigen, es ist tatsächlich entscheidend, dass Sie es tun.“ Mit diesem Satz möchte Rachel Thomas, Gründerin der Organisation fast.ai, Menschen mit den verschiedensten beruflichen Hintergründen motivieren, sich für künstliche Intelligenz zu begeistern. Wir stellen euch vier KI-Expertinnen und ihre Projekte vor.

1. Rachel Thomas – Gründerin von Fast.ai, Autorin und Sprecherin

Die Doktorin der Mathematik und KI Forscherin wurde kürzlich vom Forbes Magazin zu einer der 20 unglaublichsten Frauen der KI-Branche gekürt. Ihr Unternehmen, Fast.ai, unterstützt gemeinnützige Projekte und Organisationen mit Wissen und der Implementierung von künstlicher Intelligenz. Die Expertin möchte die Exklusivität der KI Forschung aufheben und Weiterbildungen über Deep Learning und intelligente Systeme kostenlos zur Verfügung stellen. Rachels Begeisterung für die Weitergabe von Informationen, wurde durch ihren eigenen Werdegang inspiriert.

„Wir brauchen mehr unpassende Menschen im KI-Feld.“

Rachel Thomas

Die Doktorin der Mathematik sah sich selbst stets als Außenseiterin und wurde häufig mit Sexismus, Schikanierungen und Isolation während ihres Studiums in einer Männerdomäne konfrontiert. Ihr Doktorvater sagte ihr gar, sie sei zu feminin um erfolgreich zu sein und stoppte die Zusammenarbeit. Als Datenwissenschaftlerin und KI Forscherin wechselte sie später in die Tech-Industrie und erlebte auch diese Umgebung als “giftig”. Die Expertin sieht ein hohes Risiko in dem Umstand, dass Menschen – die solch ein toxisches Arbeitsumfeld verantworten – nun mächtige KI Technologien entwickeln. Daher setzt sich Rachel Thomas für mehr Vielfalt in der Tech-Industrie ein.

“Wir möchten Deep Learning so gut wie möglich zugänglich machen – auch für Benutzer, die uncoole Sprachen wie C #, uncoole Betriebssysteme wie Windows, uncoole Datasets verwenden (viel kleiner als bei Google und in Bereichen, die Sie als obskur empfinden) und mit uncoolen Hintergründen (vielleicht sind Sie nicht nach Stanford gegangen).”

Rachel Thomas

Sie spricht daher insbesondere Menschen an, die sich nicht zutrauen, KI zu verstehen oder gar zu implementieren. Egal, ob Mathe als größte Schwäche empfunden wird oder die Ausbildung zweitklassig ist: Nicht ins Bild zu passen, kann ein Vorteil sein. Jeder Mensch verfügt über einzigartiges Wissen und eine individuelle Perspektive. Diese wertvollen Ressourcen können entweder intelligente Systeme selbst verbessern oder in Kombination mit KI ungeahnten Mehrwert schaffen.

2. Joy Boulamwini – Informatikerin und Aktivistin, Gründerin der Algorithmic Justice League

Die ghanaisch-amerikanische Informatikerin ist auf einer Mission, eine unsichtbare, stärker werdende Kraft zu stoppen. Eine Kraft, die sie selbst als “codierten Blick” bezeichnet, auch bekannt unter dem Begriff “algorithmische Voreingenommenheit”. Bereits als Studentin an der Georgia Tech Universität entwickelte Joy Boulamwini einen sozialen Roboter, um mit ihm das aus Kindheitstagen bekannte Kuckuck-Spiel zu spielen. Das Erkennen des Gesichts ist ein essentielle Bestandteil dieser Posse. Doch es gab ein Problem: Der Roboter konnte sein Gegenüber nicht erkennen. Der jungen Stipendiatin gelang es die Herausforderung zu umgehen, indem sie der intelligenten Maschine ihre Mitbewohnerin gegenüber setzte. Und vergaß das Problem anschließend wieder.

“Es spielt eine Rolle wer programmiert, wie wir programmieren und warum wie programmieren.”

Joy Boulamwini

Jahre später, nutzte die Programmiererin eine allgemeine Gesichtserkennungs-Software zur Entwicklung eines unterhaltsamen, intelligenten Tools. Es stellte sich heraus, dass die Software nur dann reagierte, wenn die dunkelhäutige Expertin eine weiße Maske aufsetzte. Nach genauerem Hinschauen erkannte Boulamwini, dass in beiden Fällen dieselbe (weltweit verbreitete) Technologie verwendet wurde. Die zugrundeliegende ML-Algorithmen wurden anhand eines einseitigen Datensatzes trainiert und lernten daher nie, wie ein dunkelhäutiges Gesicht aussieht. Das Ergebnis: Die Software konnte nur bestimmte – im Trainingsdatensatz enthaltene – Hauttypen und Gesichter identifizieren.

„Sozialer Wandel muss Priorität haben und nicht erst nachträglich passieren.“

Joy Boulamwini

Solche Algorithmen kommen zur Zeit bei der Identifizierung verdächtiger Personen oder der Auswahl von Bewerbern zum Einsatz. Boulamwini erkannte das gefährliche Potenzial und beschloss etwas dagegen zu unternehmen. Sie lancierte die Algorithmic Justice League – eine Plattform des MIT Media Labs, um Vorurteile durch Erfahrungsaustausch zu identifizieren. Ihr Motto: Jeder kann helfen, den codierten Blick zu bekämpfen. Auf codedgaze.com können interessierte Menschen Vorurteile melden oder zum Tester von intelligenten Systemen werden. Neben der Bekämpfung der algorithmischen Voreingenommenheit, launchte die Unternehmerin verschiedene andere Projekte, unter anderem die Service Year Initiative zur Einführung von Code4Rights, die Jugendliche bei der Entwicklung sinnvoller Technologien für ihre Gemeinden unterstützt.

3. Kate Crawford und Meredith Whittaker – Gründerinnen von AI Now, Forscherinnen bei Google und Microsoft

Kate Crawford ist der lebende Beweis dafür, dass ein Einstieg in den Fachbereich künstliche Intelligenz jederzeit möglich ist. Die heutige KI-Forscherin startete ihre Karriere in den 1990er Jahren als Teil des australischen Elektro-Musik Duos “B(if)tek”. Quasi nebenberuflich, machte Kate 2008 ihren Doktor an der Universität von Sydney und widmete sich fortan der Erforschung von Technologien und deren Einfluss auf soziale Aspekte unseres Lebens. Heute arbeitet sie u.a. als Professorin am MIT, der NYU und University of New South Wales sowie als Mitgründerin verschiedener Stiftungen. Ihr aktueller Forschungsschwerpunkt liegt auf Daten-Diskriminierung und künstlicher Intelligenz sowie algorithmischer Verantwortlichkeit.

„Neue ethische Rahmenbedingungen für die KI müssen über die Eigenverantwortung hinausgehen, um mächtige Interessen der Industrie, der Regierung und des Militärs bei der Gestaltung und Anwendung von KI zur Rechenschaft zu ziehen“

AI Now Institute

Im Jahr 2016 arbeitete Kate Crawford für Microsoft Research und die New York University. Ihre Kollegin Meredith Whittaker hatte zur selben Zeit eine ähnliche Position bei Google Open Research. Die beiden Forscherinnen schlossen sich mit dem Büro für Wissenschaft und Technologie des Weißen Hauses sowie dem National Economic Council und dem Information Law Institute der NYU zusammen. Gemeinsam veranstalteten sie das “AI Now” Symposium, um die zukünftigen Auswirkungen der KI zu untersuchen. Daraus entstand 2017 das AI Now Institute, welches den Einfluss und aktuellen technologischen Status intelligenter Systeme erforscht. Derzeit konzentrieren sich die Forschungsarbeiten auf vier Schlüsselbereiche: Rechte und Freiheiten, Arbeit und Automatisierung, Befangenheit und Einbeziehung sowie Sicherheit und kritische Infrastruktur. Zahlreiche Dokumente, Vorträge und Studienergebnisse stehen frei zur Einsicht zur Verfügung.

Fazit

Es ist ermutigend und faszinierend zugleich, was aus Wissen, Willenskraft und Leidenschaft entstehen kann. Rachel, Joy, Kate und Meredith sind ohne Zweifel Vorreiterinnen auf dem Gebiet der Bekämpfung von Diskriminierung durch künstliche Intelligenz. Ihr Werk trägt bereits Früchte und inspirierte die Entstehung ähnlicher Institutionen, wie etwa die des britischen Ada Lovelace Institutes (benannt nach der Begründerin des Programmierens) im Jahr 2018. Die individuellen Geschichten der vier Expertinnen beweisen, dass KI für jeden zugänglich und verständlich sein kann und muss, um eine Veränderung zu erreichen. Wir alle können die technologische Entwicklung beeinflussen. Intelligente Systeme stecken noch in den Kinderschuhen und müssen viel lernen. Es ist an uns zu entscheiden, was das ist.  

Bild: DALLE 2