KI und Facing Fears

Sie sind gekommen, um zu bleiben: Künstliche Intelligenz (KI) lernende Maschinen, Algorithmen und Roboter sind angetreten, unser Leben zu verändern. Sie sind nicht vom Himmel gefallen. Wir haben sie erdacht, programmiert, erbaut und ins Leben gerufen. Nun ist es zu einer gesamtgesellschaftlichen Herausforderung und Aufgabe geworden, das neue Zusammenleben mit ihnen zu gestalten.

Bisher führten KI und Roboter ein recht beschauliches Dasein – ausgedacht, entworfen und entwickelt von Expert:innen und existent bisher zumeist in Nischen, in denen sich lediglich Forscher und Nerds bewegten. Weitestgehend unbemerkt von der Öffentlichkeit, welche zwar die Existenz der KI-Forschung zur Kenntnis nahm, nicht aber mit einem flächendeckenden Durchbruch in der Anwendung oder gar gesellschaftsverändernder Relevanz in den nächsten Jahrzehnten gerechnet hatte.
Bisher lag das öffentliche Augenmerk lediglich auf smarten 4.0-Kollegen in Werkhallen. Intelligente Sensoren & Co. schienen auf ihr Wirken in der Industrie begrenzt zu sein. Doch jetzt treten KI und Roboter verstärkt aus den Laboren heraus in die Welt, sie verschmelzen zunehmend mit dem Alltag der Menschen.

Daher gilt es, das Verhältnis von Mensch und Maschine ganz bewusst neu auszuloten. Wir stehen damit vor einer neuen Dimension der Verantwortung, die gesamtgesellschaftlich wahrzunehmen ist. Das bedingt einen breiten öffentlichen Diskurs, der nicht allein durch “Technikfreaks” zu führen ist. Gleichermaßen zieht die technische Fortschrittsdynamik die Notwendigkeit nach sich, aus unserem Wissen auch allgemeingültige Kriterien der Gestaltung zu destillieren, auf deren Grundlage wir dieses neue Zusammenleben mit KI ausgestalten wollen.

Eine bestimmte Reaktion ist hierbei ebenso weit verbreitet wie einfach menschlich: die Angst vor zuviel Automatisierung und vor diesem neuen, unbekannten Miteinander. Dazu gehören auch die Furcht und Sorge, bisher leblose Materie könnte schlauer werden als der Mensch und ihm bald sogar überlegen sein. Selbst das Erlangen von Bewusstsein wird den Maschinen in Aussicht gestellt und angesichts der rasenden Entwicklung als konkrete Zukunft möglich. Rutscht der Mensch im Rang womöglich hinter die Maschine?

Momentan ist der Mensch selbst sehr cleveren Maschinen noch weit voraus, doch die Entwicklung schreitet so rasend schnell voran, dass sie uns möglicherweise bald eingeholt haben. Ob die Technik durch ganz neuartige, wirklich intelligente Algorithmen eines Tages tatsächlich eine Form der “Superintelligenz” erreichen wird? Selbst Expert:innen streiten sich, ob oder wann dies wirklich der Fall sein wird. Genau diese Unsicherheit trägt ihren Teil dazu bei, dass sich Ängste verselbständigen und ausbreiten.

Veränderung als Auslöser von KI-Skeptizismus und Angst

Eine skeptische gesellschaftliche Grundhaltung gegenüber Transformation, insbesondere in der digitalisierten Welt, ist daher absolut nachvollziehbar. Eben, weil die “visionäre Ordnung” nur wenige oder gar keine neuen Ankerpunkte vermittelt. Aufbruch in neue Welten? Aber wohin und wie und wozu? Legitimiert durch welche politischen Instanzen? Und wird sich einfach alles durch KI verändern? Bleibt noch irgendetwas von gestern erhalten?

Gewohnheiten, Fixpunkte und die Offenlegung von Zielen sind in Veränderungsprozessen wichtig, denn sie bieten Vertrautheit und Vertrauen. Um dies zu gewährleisten, muss das Fortschreiten dieser technischen – und schließlich auch gesellschaftlichen – Veränderungen besondere Rücksicht auf Transparenz nehmen. Eingelöst wird das Versprechen nach Durchschaubarkeit durch konkrete Maßnahmen, wenn beispielsweise die Grundlagen, Regeln und Abläufe bei der KI-Entscheidungsfindung verdeutlicht und deren Ergebnis nachvollziehbar und ebenfalls interpretierbar wird. Eine andere Perspektive: In vielen Anwendungsbereichen von KI, Data Science oder maschinellem Lernen fehlen heutzutage handfeste und glaubhafte Visionen. Wohin geht die Reise? Was wird morgen besser sein als gestern?

Eine konkrete Antwort oder eine Begrenzung auf das kalkulierbar Eintretende gibt es heute meist nicht mehr – und sie ist auch in einer vernetzten Welt kaum mehr greifbar. An diese Stelle ist vielmehr die Notwendigkeit getreten, dass angesichts des “KI- getriebenen Entwicklungsturbos” die Frage zur Gestaltung der Zukunft offen gestellt wird. Wir stehen vor der grundsätzlichen Dimension einer neuen Verantwortung, wie es beispielsweise der Philosoph Hans Jonas in “Das Prinzip Verantwortung” formuliert hat. Bisher sind kaum Narrative entstanden, die aus dem Aufkommen von KI und Robotern ein visionäres, inspirieren des Zukunftsbild entwickeln, das uns Menschen positiv mitnimmt. Dystopische Erzählungen mit deutlich negativer Tendenz scheinen leichter beschreibbar zu sein und sind daher heute vielfältig vorhanden.

Um wirklich fundiert positive Zukunftsbilder zu entwerfen, ist es wichtig, existierende Ängste nicht zu ignorieren. Vielmehr ist es ratsam, zunächst ganz bewusst einen offenen Blick auf sie zu werfen. Genau das ist ein wichtiger erster Schritt, um damit konstruktiv umzugehen.

Umgang mit Angst: Akzeptanz statt Ignoranz

Wichtig für den Umgang mit Ängsten vor KI und für deren Abbau sind die Gewährleistung von Transparenz, die Benennung der Ängste sowie der ehrliche und auch öffentliche Umgang mit ihnen.

Zunächst geht es erst einmal darum, die Existenz solcher Ängste zu akzeptieren. Sie “wegzuignorieren” funktioniert nicht. “Sich einfach mal zusammenreißen”, die Ängste sozusagen per Dienstanordnung herunterschlucken? Auch das ist kein Weg, der Erfolg verspricht. Ganz grundsätzlich hilft es – sowohl mit Blick auf Bürger:innen wie auch auf die Beschäftigten in den Rat-, Kreis- und Gemeindehäusern, dass vorhandene Ängste, die aus der jeweils individuellen Bewertung einer Situation entstehen können (hier: “KI kommt!”) , akzeptiert und ernst genommen werden.

Als grundsätzliche Methode für den Umgang mit Angst empfiehlt sich das sogenannte 4A- Prinzip: Akzeptanz, Anschauen, Austausch, Aktion. Über das Miteinandersprechen können Menschen schließlich in die aktive und selbstwirksame Veränderung kommen. Welche Ängste können es sein? Schauen wir hin. Zu den Ängsten vor KI und ihren möglichen Auswirkungen gehören inbesondere diese und angrenzende negative Erwartungen:

• Kontroll- und teilweise auch Machtverlust
• Fremdbestimmung und Unterdrückung
• Verminderte Teilhabe an Entscheidungsprozessen
• Gefühl des Ausgeschlossensein (“Kann ich das bewältigen?”)
• Ausnutzung bis hin zum Verlust von Vermögen oder Existenz
• Entblößung persönlicher Geheimnisse oder soziale Ächtung
• KI wird aufgewertet, Menschlichkeit verschwindet

Raus aus der Ungewissheit: Verstehen und Freiheit

Es ist meist genau dieses “diffuse schlechte Gefühl”, aus dem heraus sich Angst nährt. Sie beim Namen zu nennen, sie zu differenzieren und konkret zu machen, ihre Existenz zu akzeptieren, darüber mit anderen Menschen in den Austausch zu gehen, vielleicht dabei von diesen Mitmenschen, Kolleg:innen zu lernen – all das nimmt der Angst oft schon viel von ihrem Schrecken. Damit sind wichtige Grundlagen geschaffen, um ins Handeln zu kommen und sich auf den Weg der Bewältigung von Angst machen zu können.

Um beispielsweise der Angst vor Kontrollverlust sowie der zugrundeliegenden fehlenden Transparenz zu begegnen, könnte die Beantwortung folgender Fragen für deutlich mehr Nachvollziehbarkeit und Verstehbarkeit sorgen: Wo (in welchen Prozessen), wie (nach welchen Regeln beziehungsweise Algorithmen), warum, also auf welcher Grundlage (Gesetze, Verfahrensvorschriften) und vor allem: wozu (beispielsweise mit der Zielstellung von gesteigerter Effizienz oder Genauigkeit) entscheidet eine Maschine?

Neben der Beschreibung solcher Grundlagen und Absichten kann die Akzeptanz neuer Technologien in der Verwaltung auch dadurch verbessert werden, dass Strategien und konkrete Sicherheitsmechanismen aufgezeigt werden. Die Erfahrungen aus der – hier thematisch naheliegenden – Handhabung von Datenschutzfragen können als Blaupause für den Umgang mit KI-Verfahren dienen. Als Strategien wären beispielsweise denkbar:

• Einrichtung einer zentralen KI-Ombudsstelle
• Widerspruchsmöglichkeit mit Hinweis auf resultierende Verfahrensfragen
• Recht auf alternative, persönliche Bearbeitung und Erteilung des Bescheids

Allgemeiner beschreiben es die Software-Entwickler und Ethik-Forscher Justin W. Flory und Michael Nolan mit dem auf der FOSDEM2020 vorgestellten Konzept der “Drei Freiheiten für ethisch-vertretbare KI” und diesen Forderungen.

1. Die Freiheit, maschinelle Entscheidungen zu verstehen

Diese Forderung umfasst die oben bereits benannte Transparenz und schließt nicht nur die berechnenden Algorithmen mit ein, sondern bezieht sich auch auf die Daten, mit denen das KI-System vorab “trainiert wurde”. Diese erste Freiheit bildet das Fundament für das Verständnis der beiden folgenden Maximen.

2. Die Freiheit, Entscheider für ihre Systeme zur Rechenschaft zu ziehen

Eigentlich ist dies weniger eine Freiheit des Betroffenen, sondern vielmehr wird hier die Verantwortung der Betreiber adressiert. Diese sollen also wirklich verantwortlich für die Entscheidungen ihrer KI-Systeme sein. Das deutsche Verwaltungsrecht würde sich mit dieser eindeutigen Verantwortungszuweisung an Kommunen als Betreiberin in Einklang bringen lassen.

3. Die Freiheit, KI-Entscheidungen anzufechten

KI-Entscheidungen sollen immer anfechtbar beziehungsweise hinterfragbar sein. Solch ein Widerspruch darf dabei nur von einem Menschen bearbeitet werden. Die letzte Forderung ist nicht nur wegen der Kontrollfunktion essentiell, sondern auch deshalb, weil der Mensch die notwendige – und bei der primären Entscheidung vermisste – Empathie mit einbringt.

Motivation und Perspektiven für Kommunen

Es gibt eine Vielzahl von Einsatzmöglichkeiten für unterstützende KI die Potenzial für Kommunen bieten und dadurch gleichzeitig möglichen Ängsten entgegenwirken: In Zeiten von Personalknappheit und parallel gestiegenen Anforderungen an Qualität wie Quantität von Aussagen und Entscheidungen der Verwaltung können sinnvoll eingesetzte KI-Systeme neue Freiräume schaffen. Insbesondere in zeitintensiven und kognitiv nur wenig anspruchsvollen Prozessen können Beschäftigte entlastet werden, wodurch sie Zeit gewinnen für Arbeitsfelder, die echte Menschen erfordern (beispielsweise Beratungssituationen). Durch ein konsequent nutzerorientiertes Zusammenspiel von Mensch und Maschine können somit die gestiegenen Ansprüche der Bürger:innen sowie auch von Unternehmen an echte Smart Citys immer besser erfüllt werden. Hierbei sind unterstützende KI-Systeme willkommen, wenn sie zeigen, wie sehr sie im Dienste des Menschen stehen. Auch dadurch kann Berührungsängsten mit KI wie auch grundsätzlichen Befürchtungen vor deren Auswirkungen positiv begegnet werden.

Ein anderes Potenzial liegt im finanziellen Wirkungsgrad: Während ressourcenstarke Kommunen sich die Beschäftigung und Implementie- rung von individuellen und damit kostspieligen KI-Systemen bisher potenziell erlauben können, sind viele andere Kommunen – noch – auf die standardisierten Angebote der tradierten Softwareanbieter angewiesen. Genau dies ist jedoch bei dem Einsatz von KI nicht unbedingt notwendig. KI-Tools basieren häufig auf frei zugänglichen Software-Bibliotheken. Die notwendigen Trainingsdaten liegen in den Registern der Verwaltung. Die erforderliche Rechenpower ist über die kommunalen Datenzentrale per se ebenso verfügbar. Somit wäre die technische Kombination günstiger Produktionsfaktoren für den KI-Einsatz prinzipiell vorhanden.

Daten, Algorithmen und Rechenpower sind allerdings nicht alles. Entscheidend ist das erforderliche Know-how für ein sinnvolles Zusammenwirken dieser Komponenten. Deshalb kommt es darauf an, Kommunen in die Lage zu versetzen, möglichst klug mit der Steuerung und Prioritätensetzung umzugehen. Die Kommune trägt die Verantwortung (vgl. oben “Freiheit Nr. 2”), weshalb sie auch entscheiden muss. Die Verwaltungen sollten also entsprechende KI- und auch Datenkompetenz aufbauen.
Um diese Forderungen zu erfüllen, sollte die Verwaltung entweder selbst Kompetenz entwickeln oder sie ggf. Dritten überlassen, welche nachweisbar das Vertrauen für die erforderliche Sorgfalt bewiesen haben oder nachweisen können.

KI-Kompetenz ist Daseinsvorsorge und nicht reine Technikfolgenabschätzung. Wird dieser Grundsatz nicht beachtet, resultiert der Einsatz von KI womöglich in fehlender Bürgernähe und die Gestaltungsmacht entgleitet den Kommunen. Positiv formuliert wiederum kann hier eine wichtige Grundlage für Entscheidungs- und Handlungsfähigkeit aufgebaut werden.

Motivation für die Gesellschaft

Ob und warum eine Gesellschaft den Einsatz von mathematischen Algorithmen und KI-Systemen akzeptieren sollte, ist primär davon geprägt, welchen Nutzen sie daraus ziehen kann. Laufen das soziale Miteinander, die Verkehrsströme reibungsloser oder muss die Gesellschaft weniger Kriminalität ertragen und kann sie Waren und Dienstleistungen wirtschaftlich besser produzieren? Dies sind für alle Beteiligten nachvollziehbare Nutzenversprechen, die tatsächlich durch KI unterstützt werden können. Und diese Potenziale und Ziele wiederum sollten sich in einer Vision widerspiegeln, die es zu finden, zu formulieren und zu transportieren gilt.
Dabei geht es zunächst ganz grundsätzlich um die Frage, wie wir als Menschen zusammenleben wollen. Welche Rolle die Verwaltung dabei einnehmen kann und wie Künstliche Intelligenz dafür sinnvoll, hilfreich, effizient und effektiv eingesetzt werden kann – das kommt erst im zweiten Schritt.

Es gilt auch hier das Prinzip des “Golden Circle” (nach Simon Sinek): Zuerst kommt das WHY, dann das HOW und zum Schluss erst das WHAT. Innovationen und neue Regelungsansätze aus der KI werden üblicherweise von einzelnen wirtschaftlichen Akteuren hervorgebracht und der Gesellschaft mit den entsprechenden Nutzenversprechen offeriert – die gerne auch durch attraktives Marketing angereichert werden. Transparenz, Nachvollziehbarkeit und Zustimmung erfolgen dabei nicht stets im erforderlichen Maß. Fehlen jedoch eben diese Grundlagen, so können daraus – wie oben beschrieben – Unsicherheit und Angst entstehen. Genau deshalb ist es wichtig, das oben genannte WHY (“Warum und wozu wollen wir KI ein- setzen?”) ebenso in der Politik wie in der umsetzenden Verwaltung als auch gleichermaßen “bei deren Kundinnen und Kunden”, also in der Gesellschaft, verstehbar zu machen – um die damit beabsichtigten Vorteile tatsächlich auf der Grundlage von Akzeptanz und Verständnis über Einsatzzweck, Einsatzweise, Wirkung und resultierenden Nutzen realisieren zu können.

Hierfür ist auf vielerlei Ebenen das Potenzial gegeben, um damit positive Effekte zu erzielen. Gleichermaßen ist es auf ähnlich vielen Ebenen – von der Verwaltungsleitung bis hin zum einzelnen Mitarbeitenden – erforderlich, dass Sinn und Zweck (WHY), die Art und Weise des Vorgehens (HOW) und schließlich die konkreten Maßnahmen (WHAT) beim Einsatz von KI verstanden werden, um all dies auch gegenüber
Bürger:innen kommunizieren zu können. Wenn dieses Verständnis – von der Vision über die Mission über Ziele bis hin zu konkreten Maßnahmen – zunächst innerhalb der Verwaltung aufgebaut und dann in die Gesellschaft hinein transportiert wird, kann dadurch eine Klarheit geschaffen werden, die einer möglichen Angst vor KI positiv entgegenwirkt.

Sich mit KI zu beschäftigen kann zusätzlich auch dazu führen, dass wir Menschen uns unserer eigenen (humanen) Intelligenzen in ihrer Vielfalt erst wirklich bewusst werden. Dieses Bewusstsein spiegelt sich schon heute in der Annahme wider, dass gerade KI und ihre Anwendungen auch in der Weiterentwicklung all das in Frage stellen könnten, was wir uns als Kulturtechniken angeeignet haben. Hierzu gehören das Denken und die Logik. Wir ahnen aber heute schon, dass ein schlauer Rechner dies künftig schneller und fehlerfreier wird handhaben können. Lernende Systeme, Datenauslese, Mustererkennung, sie werden es besser machen als wir. Wir stehen vor einer epochalen Wende.

Vielleicht ist es daher geboten, all das immer wieder hervorzuheben, was den Menschen eben ausmacht und von Maschinen unterscheidet: Er ist ein Wesen mit Gefühlen, Sinnen und Bewusstsein. Eine dieser tiefgreifenden menschlichen Gefühlsfähigkeiten ist die Angst. Geben wir ihr also im Prozess der Entwicklung und Nutzung von KI und seiner lernenden Intelligenz immer wieder Raum, um Fragen zu stellen und zu überprüfen, an welcher Stelle der Moderne und Zukunft wir uns befinden. Und ob der Mensch dabei noch im Zentrum steht.