Was haben automatisierte Prozesse mit Geschlechtergerechtigkeit zu tun?

15. Dezember 2020

Daten sind das Futter der Digitalisierung. Wer Daten hat, hat Macht. Entscheidungsmacht, Prozesse zu gestalten, Strukturen zu verändern oder Systeme zu implementieren. Die interessanten Fragen sind also, wer hat diese Macht inne, aus welcher Perspektive und in wessen Interesse wird entschieden? Fragestellung, die all jenen, die sich mit Geschlechtergerechtigkeit oder Vielfaltsperspektiven befassen, nicht neu sind. Zeit also mit jenen zu sprechen, die Chancengerechtigkeit und Digitales zusammendenken. 

Drei Gründe: Implicit Bias & Künstliche Intelligenz

Die Beispiele dafür, dass automatisierte Prozesse verzerrte Entscheidungsgrundlagen produzieren, sind zahlreich: Vom rassistischen Seifenspender zur Recruitingsoftware, die weibliche Bewerberinnen aussortiert. Woran liegt das? Sind die Entwickler:innen sexistische Rassist:innen? Wohl kaum. Vielmehr lassen sich mindestens an drei Stellen des KI-basierten Innovationsprozesses implizite Wahrnehmungsverzerrungen festmachen:

1) Trainingsdaten basieren auf vergangenen oder aktuellen Zusammensetzungen z.B. von Entscheidungsträger:innen in Unternehmen. Hier wissen wir, dass in vielen Branchen der Anteil männlicher Führungskräfte größer ist als der weiblicher. Trainingsdaten, die eine geschlechterungerechte Wirklichkeit abbilden, werden demnach lernen, dass Frauen keine geeigneten Führungskräfte sind.

2) Der Frauenanteil in der IT-Branche beträgt 17 Prozent und nur 12 Prozent der KI-Forschung wird von weiblichen Wissenschaftlerinnen betrieben. Das gibt Anzeichen darauf, dass die Perspektive derer, die am Design-Prozess eines automatisierten Entscheidungsprozesses häufig eine männliche ist.

3) Die Frage des Einsatzes von KI-basierten Systemen bzw. die Entscheidung darüber, wie die Umsetzung erfolgt, kann auch eine verzerrte Geschlechterperspektive beinhalten. Use-Cases werden von Entscheider:innen definiert – und die sind sowohl in Wirtschaft, Wissenschaft und Politik vor allem männlich. 

Online-Event: Geschlechterperspektive und Digitales

Technologische Entwicklungen und gesellschaftliche Realitäten hängen also zusammen – und das nicht erst seit wir über Digitalisierung oder Künstliche Intelligenz sprechen. Beim Online-Event „Frauen* und Künstliche Intelligenz – Geschlechterpolitische Veränderungen durch neue Technologien“ sind verschiedene Speakerinnen der Frage nachgegangen, welche Chancen die Thematik birgt. Neben einer Keynote zur notwendigen Entmystifizierung von Künstlicher Intelligenz und einer Einladung, gesellschaftliche Diskurse interdisziplinär dazu mitzugestalten, ging es themenbezogen weiter. In zwei Panels mit Expertinnen ging es um Unternehmen und Arbeit sowie Zivilgesellschaft und Politik. Im ersten Panel konnten wir zu Arbeitsbedingungen in Zeiten der Digitalisierung sprechen und dem Potenzial von automatisierten Anwendungen für Weiterbildungen und Qualifikation. Im zweiten Gespräch ging es vor allem darum, wie Prozesse gestaltet werden müssen, um demokratischen Kriterien zu entsprechen. Schlüsselbegriffe des Events waren themenübergreifend: Transparenz, Mitgestalten, Dialog und Perspektivenvielfalt. Im Mai 2021 ist eine Folgeveranstaltung geplant.

 To be continued: Sichtbarkeit und Mitgestalten

Neben publikumswirksamen Austausch und schillernden Begriffen, ist es, so meine Überzeugung, von zentraler Bedeutung, all jene, die sich seit Jahrzehnten für Fragen der Gleichstellung und Chancengerechtigkeit einsetzen, die Ries:innen auf deren Schultern auch ich stehen darf, zu ermutigen, ihre Expertise und Fragen gesellschaftlicher (Entscheidungs-)Machtungleichverhältnisse auch in vermeintlich technische Diskurse einzubringen. Ich bin davon überzeugt, dass Macht, Design und soziale Gerechtigkeit dynamisch miteinander verwoben sind und dass Gesellschaft und Technik immer zusammengedacht werden müssen. Fragestellungen, die nicht nur unsere gemeinsame Zukunft, sondern vor allen Dingen auch unsere gemeinsame Gegenwart betreffen, sollten nicht nur technische, sondern vor allem gesellschaftliche und gemeinwohlorientierte Antworten bekommen. Es geht nicht um Science Fiction oder blaue Roboter-Magie, sondern darum, wie wir unser Zusammenleben gestalten wollen. Dafür brauchen wir nicht nur Antworten aus der IT-Abteilung, sondern solche, die sich aus gesellschaftlichen Debatten und einem gemeinsamen Werteverständnis ableiten. Dann werden auch die großartigen Chancen, die interdisziplinäre Expertise und demokratische Mitgestaltungsmöglichkeiten sichtbar(er).

Autorin: Hanna Völkle

Hanna Völkle ist Sozialwissenschaftlerin und arbeitet für die EAF Berlin zu den Themen Vielfalt, Digitalisierung und Organisationsentwicklung. Ihre Arbeitgeberin setzt sich als gemeinnützige Organisation seit knapp 25 Jahren für Chancengerechtigkeit in Wirtschaft, Wissenschaft und Politik ein. Für KoKI hat sie in der Arbeitsgruppe „Ethik & Recht“ eingebracht.

Hanna auf Twitter: @HannaVoelkle

Weitere Beiträge

Podcast (Erwachsenen)Bildung und Digitalisierung ist online

Podcast (Erwachsenen)Bildung und Digitalisierung ist online

Bildung und der Zugang zur Bildung sind zentrale Themen - nicht nur in Zeiten von Corona. Der Zugang zur Bildung muss gewährleistet sein. Aber was genau bedeutet das? Reicht es aus, wenn Bibliotheken und Schulen geöffnet sind? 2 Personen, 3 Meinungen: Unter Bildung...

Ergebnis des Deep Dive der AG Bildung & Lernen

Ergebnis des Deep Dive der AG Bildung & Lernen

Bei der Abschlussveranstaltung der #KOKI-Initiative am 16. März 2021 hatten wir in unserem Deep Dive der AG Bildung & Lernen unsere Ergebnisse kurz in einer Präsentation zusammengefasst. In aller Kürze ging es darum, aufzuzeigen, dass es durchaus Potenziale von KI für das Lernen gibt, sofern diese seitens der lernenden Menschen selbstbestimmt für ihre persönlichen Lernzwecke genutzt werden können – und weniger als externes Machtinstrument seitens eines herrschaftlichen Bildungsverständnisses den Menschen aufoktroyiert werden.