Was haben automatisierte Prozesse mit Geschlechtergerechtigkeit zu tun?

15. Dezember 2020

Daten sind das Futter der Digitalisierung. Wer Daten hat, hat Macht. Entscheidungsmacht, Prozesse zu gestalten, Strukturen zu verändern oder Systeme zu implementieren. Die interessanten Fragen sind also, wer hat diese Macht inne, aus welcher Perspektive und in wessen Interesse wird entschieden? Fragestellung, die all jenen, die sich mit Geschlechtergerechtigkeit oder Vielfaltsperspektiven befassen, nicht neu sind. Zeit also mit jenen zu sprechen, die Chancengerechtigkeit und Digitales zusammendenken. 

Drei Gründe: Implicit Bias & Künstliche Intelligenz

Die Beispiele dafür, dass automatisierte Prozesse verzerrte Entscheidungsgrundlagen produzieren, sind zahlreich: Vom rassistischen Seifenspender zur Recruitingsoftware, die weibliche Bewerberinnen aussortiert. Woran liegt das? Sind die Entwickler:innen sexistische Rassist:innen? Wohl kaum. Vielmehr lassen sich mindestens an drei Stellen des KI-basierten Innovationsprozesses implizite Wahrnehmungsverzerrungen festmachen:

1) Trainingsdaten basieren auf vergangenen oder aktuellen Zusammensetzungen z.B. von Entscheidungsträger:innen in Unternehmen. Hier wissen wir, dass in vielen Branchen der Anteil männlicher Führungskräfte größer ist als der weiblicher. Trainingsdaten, die eine geschlechterungerechte Wirklichkeit abbilden, werden demnach lernen, dass Frauen keine geeigneten Führungskräfte sind.

2) Der Frauenanteil in der IT-Branche beträgt 17 Prozent und nur 12 Prozent der KI-Forschung wird von weiblichen Wissenschaftlerinnen betrieben. Das gibt Anzeichen darauf, dass die Perspektive derer, die am Design-Prozess eines automatisierten Entscheidungsprozesses häufig eine männliche ist.

3) Die Frage des Einsatzes von KI-basierten Systemen bzw. die Entscheidung darüber, wie die Umsetzung erfolgt, kann auch eine verzerrte Geschlechterperspektive beinhalten. Use-Cases werden von Entscheider:innen definiert – und die sind sowohl in Wirtschaft, Wissenschaft und Politik vor allem männlich. 

Online-Event: Geschlechterperspektive und Digitales

Technologische Entwicklungen und gesellschaftliche Realitäten hängen also zusammen – und das nicht erst seit wir über Digitalisierung oder Künstliche Intelligenz sprechen. Beim Online-Event „Frauen* und Künstliche Intelligenz – Geschlechterpolitische Veränderungen durch neue Technologien“ sind verschiedene Speakerinnen der Frage nachgegangen, welche Chancen die Thematik birgt. Neben einer Keynote zur notwendigen Entmystifizierung von Künstlicher Intelligenz und einer Einladung, gesellschaftliche Diskurse interdisziplinär dazu mitzugestalten, ging es themenbezogen weiter. In zwei Panels mit Expertinnen ging es um Unternehmen und Arbeit sowie Zivilgesellschaft und Politik. Im ersten Panel konnten wir zu Arbeitsbedingungen in Zeiten der Digitalisierung sprechen und dem Potenzial von automatisierten Anwendungen für Weiterbildungen und Qualifikation. Im zweiten Gespräch ging es vor allem darum, wie Prozesse gestaltet werden müssen, um demokratischen Kriterien zu entsprechen. Schlüsselbegriffe des Events waren themenübergreifend: Transparenz, Mitgestalten, Dialog und Perspektivenvielfalt. Im Mai 2021 ist eine Folgeveranstaltung geplant.

 To be continued: Sichtbarkeit und Mitgestalten

Neben publikumswirksamen Austausch und schillernden Begriffen, ist es, so meine Überzeugung, von zentraler Bedeutung, all jene, die sich seit Jahrzehnten für Fragen der Gleichstellung und Chancengerechtigkeit einsetzen, die Ries:innen auf deren Schultern auch ich stehen darf, zu ermutigen, ihre Expertise und Fragen gesellschaftlicher (Entscheidungs-)Machtungleichverhältnisse auch in vermeintlich technische Diskurse einzubringen. Ich bin davon überzeugt, dass Macht, Design und soziale Gerechtigkeit dynamisch miteinander verwoben sind und dass Gesellschaft und Technik immer zusammengedacht werden müssen. Fragestellungen, die nicht nur unsere gemeinsame Zukunft, sondern vor allen Dingen auch unsere gemeinsame Gegenwart betreffen, sollten nicht nur technische, sondern vor allem gesellschaftliche und gemeinwohlorientierte Antworten bekommen. Es geht nicht um Science Fiction oder blaue Roboter-Magie, sondern darum, wie wir unser Zusammenleben gestalten wollen. Dafür brauchen wir nicht nur Antworten aus der IT-Abteilung, sondern solche, die sich aus gesellschaftlichen Debatten und einem gemeinsamen Werteverständnis ableiten. Dann werden auch die großartigen Chancen, die interdisziplinäre Expertise und demokratische Mitgestaltungsmöglichkeiten sichtbar(er).

Autorin: Hanna Völkle

Hanna Völkle ist Sozialwissenschaftlerin und arbeitet für die EAF Berlin zu den Themen Vielfalt, Digitalisierung und Organisationsentwicklung. Ihre Arbeitgeberin setzt sich als gemeinnützige Organisation seit knapp 25 Jahren für Chancengerechtigkeit in Wirtschaft, Wissenschaft und Politik ein. Für KoKI hat sie in der Arbeitsgruppe „Ethik & Recht“ eingebracht.

Hanna auf Twitter: @HannaVoelkle

weitere Beiträge

Chancengleichheit in der Bildung

Chancengleichheit in der Bildung

Die Agenda 2030 besteht aus fünf maßgeblichen Dimensionen: Menschen, Wohlstand, Planet, Partnerschaft und Frieden. Der traditionelle Ansatz der nachhaltigen Entwicklung besteht aus den drei Kernelementen soziale Inklusion, wirtschaftliches Wachstum und Umweltschutz. Die Agenda 2030…

Wir sind einfach dankbar!

Wir sind einfach dankbar!

Liebe Herzensmenschen, am 19. Dezember 2019 hat alles begonnen. Wir waren beflügelt von der Initiative „KI in Kommunen“ (kurz #KoKI). Aus der Laune heraus haben wir kurzer Hand vor der Auftaktveranstaltung der Initiative in Berlin den Verein Co:Lab gegründet. “Wir”,...

KI in der (kommunalen) Bildung – eine aktuelle Einschätzung

KI in der (kommunalen) Bildung – eine aktuelle Einschätzung

Im Rahmen der #KOKI-Initiative des Co:Labs hat sich die AG Bildung & Lernen mit der Frage beschäftigt, welchen Einfluss künstliche Intelligenz auf "die Bildung" und "das Lernen" ausüben kann und was bereits genutzt wird. Aufgrund der aktuellen Dringlichkeit des...