KI und Recht

Autor: Wilfried Bernhardt

Auch ohne Erwähnung des Digitalen, der KI oder der Blockchain, gelten aber die prinzipiellen Wertentscheidungen des Grundgesetzes auch im digitalen Zeitalter. So hat das Bundesverfassungsgericht 1983 im sogenannten Volkszählungsurteil aus dem allgemeinen Persönlichkeitsrecht (Art. 2 Abs. 1 GG) in Verbindung mit der Menschenwürdegarantie (Art. 1 Abs. 1 GG) das Grundrecht auf informationelle Selbstbestimmung und 2008 das Grundrecht auf Gewährleistung der Vertraulichkeit und Integrität informationstechnischer Systeme (das sogenannte IT-Grundrecht) abgeleitet. Diese Grundrechte haben die Entwicklung des Datenschutzrechts und die rechtliche Zulässigkeit staatlicher Überwachungssoftware stark beeinflusst und setzen auch dem Einsatz von KI Grenzen. Aus der Europäischen Grundrechtecharta hat das BVerfG das Grundrecht auf Achtung des Privat- und Familienlebens (Art. 7 GG) und das Grundrecht auf Schutz personenbezogener Daten (Art. 8 GG) als Prüfungsmaßstab herangezogen und in der Europäischen Datenschutzgrundverordnung (DSGVO) eine Konkretisierung dieser Grundrechte gesehen.

Wesentliches regelt in diesem Zusammenhang Art. 22 DSGVO: Demnach hat eine betroffene Person „das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt“. In Absatz 2 dieses Artikels sind die Ausnahmen normiert: Eine automatisierte Entscheidung ist demnach zulässig, wenn sie für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem Datenverantwortlichen erforderlich ist, auf der Einwilligung der betroffenen Person beruht oder aufgrund einer speziellen EU-Norm oder einer mitgliedstaatlichen Norm ausdrücklich zugelassen wird.

Die Ausnahmenormen müssen dann allerdings wiederum angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person enthalten; mindestens muss die betroffene Person „ein Recht auf Erwirkung des Eingreifens“, auf Darlegung des eigenen Standpunkts und auf Anfechtung der Entscheidung wahrnehmen können.

Entscheidend für die Bewertung des KI-Rechtsrahmens ist auch die Frage, wer durch die Verfassung, insbesondere durch die Grundrechte gebunden wird. In ihrem Ursprung fungieren die Grundrechte als Abwehrrechte der Bürger:innen gegenüber dem Staat. Das BVerfG hat darüber hinaus aber bereits 1958 in den Grundrechten auch eine objektive Wertordnung gesehen sowie eine mittelbare Wirkung der Grundrechte im Privatrecht über die Auslegung sogenannter Generalklauseln (wie „Sittenwidrigkeit“, „Treu und Glauben“) bejaht. Bestimmten Grundrechten hat der Staat eine Schutzwirkung zugesprochen, die den Staat zu einem aktiven Handeln verpflichtet, um bestimmten Gefährdungen der grundrechtlichen Positionen durch Private entgegenzuwirken (etwa die Pflicht des Staates, das ungeborene Leben gegen einen ungerechtfertigten Schwangerschaftsabbruch zu verteidigen).

Das Recht auf informationelle Selbstbestimmung verpflichtet den Staat, gesetzgeberisch die Daten Privater gegen den Missbrauch durch andere Private zu schützen. Ähnliche teilweise in das Privatrecht hineinragende Grundrechtswirkungen sind zum Teil auch den Landesverfassungen zu entnehmen. Explizit regelt etwa Art. 5 der Landesverfassung Brandenburg, dass die Grundrechte Gesetzgebung, vollziehende Gewalt und Rechtsprechung binden „und, soweit diese Verfassung das bestimmt, auch Dritte als unmittelbar geltendes Recht“. Dementsprechend regelt Art. 7 Abs. 2 der Landesverfassung: „Jeder schuldet jedem die Anerkennung seiner Würde.“

Die Kommune ist bei der Wahrnehmung kommunaler Aufgaben an die Grundrechte gebunden, unabhängig davon, in welcher Rechtsform sie handelt. Dies gilt auch, wenn sie für ihre Aufgabenwahrnehmung auf das Zivilrecht, etwa durch privatwirtschaftliche Organisation von kommunalen Unternehmen zurückgreift. Eine Flucht aus der Grundrechtsbindung in das Privatrecht mit der Folge, dass der Staat unter Freistellung von Art. 1 Abs. 3 Grundgesetz als Privatrechtssubjekt zu begreifen wäre, ist ihm – so das Bundesverfassungsgericht – verstellt. Auch gemischtwirtschaftliche Unternehmen in Privatrechtsform unterliegen einer unmittelbaren Grundrechtsbindung. Wenn die Kommune selbst private Dienstleistungen in Anspruch nimmt, dann sind die Privaten (von den dargestellten Ausnahmen abgesehen) nicht grundrechtsverpflichtet, wohl aber die Kommune, wenn sie diese Dienste für eigene Zwecke verwertet.

Der Einsatz von KI in der Kommune verletzt die Menschenwürde, wenn Instrumente genutzt werden, um Erkenntnisse aus dem Innersten der menschlichen Persönlichkeit durch Datensammlungen zu einer konkreten Person zu gewinnen und Scoring-Wertungen bis hin zu Predictive Analytics vorzunehmen. Dies würde zu einer Degradierung des Menschen zu einem Objekt staatlichen Handelns führen und wäre unzulässig.

Auf dem Kern des Menschenwürdeschutzes, die Subjektqualität des Menschen zu bewahren und ihn nicht zum Objekt staatlichen Handelns zu degradieren, beruht auch die einfachrechtliche Ausgestaltung in § 35a VwVfG: Demnach kann ein Verwaltungsakt (nur) dann vollständig durch automatische Einrichtungen erlassen werden, wenn dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht. Ermessensentscheidungen und der Gebrauch eines Beurteilungsspielraums bei der Auslegung unbestimmter Rechtsbegriffe bedürfen daher weiterhin eines menschlichen Handelns.

Das aus dem Rechtsstaatsgrundsatz zu entnehmende Prinzip der Funktionsfähigkeit und Effektivität der Verwaltung kann aber auch dazu verpflichten, verfügbare technische Instrumente (etwa KI) einzusetzen, um Sach- und Rechtslage in einem Verwaltungsverfahren (etwa in einem Baugenehmigungsverfahren) optimal aufzubereiten und den Entscheider zu unterstützen. Der Schutz der Menschenwürde ist aber auch bestimmend bei der Frage, ob in kommunalen Einrichtungen für Hilfsbedürftige die zu betreuenden Menschen durch Pflegeroboter ersetzt werden dürfen.

Das grundgesetzliche Rechtsstaatsprinzip (Art. 20 Abs. 3 GG) beinhaltet unter anderem das Transparenzgebot: Die Öffentlichkeit muss in der Lage sein, staatliches Handeln zu kontrollieren. Transparenz schafft das für die Akzeptanz staatlicher Entscheidungen unabdingbare Maß an Vertrauen. Wenn eine durch ein algorithmisches Entscheidungssystem getroffene Entscheidung nicht erkennen lässt, wie sie zustande gekommen ist, verstößt dies gegen das Transparenzprinzip. Algorithmische Entscheidungen können auf der Grundlage vorher festgelegter und klarer, insoweit leicht transparent zu machender, Regeln ergehen. Algorithmen können aber auch ihre Entscheidungsregeln selbständig ableiten, was dann besondere Herausforderungen für die Herstellung von Transparenz bedeutet und zur weiteren Konsequenz führen kann, dass Fehler bei der Eingabe von Daten und Programmierungsfehler unentdeckt bleiben. Das verfassungsrechtlich fundierte Transparenzgebot verpflichtet auch staatliche Organisation zur Bereitstellung und Nutzung von Instrumentarien, die die Transparenz des Einsatzes von KI herstellen, etwa Transparency by Design und by Default, Transparenz-Rechenschaftspflichten oder Transparenz-Zertifizierungen.

Fehler können auf unzureichende Dateneingaben, unklare Gewichtungsregelungen etwa beim Scoring oder Programmierungsfehler zurückzuführen sein und auch zu Diskriminierungen führen, etwa wenn bestimmte Entscheidungen über Bewerbungen an die Wohnsituation der Bewerber:innen anknüpfen, weil es in eine zugrundeliegende Algorithmik eingeflossen ist, oder geschlechterdiskriminierendes Datenmaterial Eingang in die KI-Programmierung gefunden hat. Allerdings richten sich die drei Absätze des Art. 3 Grundgesetz, die die allgemeine Gleichheit, die Gleichheit von Frauen und Männern sowie den Grundsatz des Verbots der Benachteiligung oder Bevorzugung aus Gründen des Geschlechtes, der Abstammung, der Rasse, der Sprache, der Heimat und Herkunft, des Glaubens, der religiösen oder politischen Anschauungen sowie des Verbots der Diskriminierung wegen der Behinderung zum Inhalt haben, an den Staat.

Das Bundesverfassungsgericht sieht zwar weiterhin in Art. 3 Grundgesetz kein allgemeines, objektives auch für das Privatrechtssystem bindendes Verfassungsprinzip, denn es gehöre weiterhin zur Freiheit jeder Person, nach eigenen Präferenzen darüber zu bestimmen, mit wem sie wann unter welchen Bedingungen welche Verträge abschließen. Es hat aber in seiner Stadionverbot-Entscheidung vom 11. April 2018 auch festgestellt, ein Privater dürfe aus einem Monopol oder die aus einer strukturellen Überlegenheit resultierende Entscheidungsmacht nicht dazu nutzen, bestimmte Personen ohne sachlichen Grund von einem Ereignis auszuschließen, das sich in einer „Teilhabe am gesellschaftlichen Leben“ ausdrücke. Aus der Entscheidung des Bundesverfassungsgerichts könnte geschlossen werden, dass auch bei einer Marktmacht durch Hersteller algorithmischer Systeme beziehungsweise Einsatz von Algorithmen auf großen Plattformen (Intermediären) solche Tatbestände erwachsen, die zu unzulässigen Diskriminierungen von privaten Bürger:innen führen, etwa wenn deren Angewiesenheit auf eine Leistung provoziert, verstärkt oder ausgenutzt wird. Ferner gilt das Allgemeine Gleichbehandlungsgesetz (AGG), das auch private Diskriminierungen wegen des Alters oder der sexuellen Ausrichtung verbietet.

Zwar kommt dem AGG kein verfassungsrechtlicher Charakter zu, es beruht aber auf dem vorrangig geltenden EU-Recht, nämlich mehreren EU-Gleichbehandlungsrichtlinien aus den Jahren zwischen 2000 und 2004 wie die Antirassismusrichtlinie (2000/43/EG), die Rahmenrichtlinie Beschäftigung (2000/78/EG), die „Gender-Richtlinie“ (2002/73EG) und die Richtlinie zur Gleichstellung der Geschlechter auch außerhalb der Arbeitswelt (2004/113/ EG), die damit in nationales Recht umgesetzt werden. Der Einsatz von KI muss diesen rechtlichen Vorgaben genügen. Darüber hinaus kann für staatliche und kommunale Institutionen die Pflicht erwachsen, rechtliche und technische Barrieren gegen Diskriminierungen durch KI (Algorithmic Bias) zu errichten. Zuletzt hat der Einsatz Künstlicher Intelligenz bei der Verteilung des Corona-Impfstoffs durch ein Unternehmen im Auftrag des US-Gesundheitsministeriums wegen der dabei zutage getretenen Diskriminierungen für Aufsehen gesorgt .[1]

Der Einsatz von in die Algorithmen hineinprogrammierten Anti-Bias als Maßnahme gegen in die die gleichermaßen enthaltenen unbewussten Vorteile (Unconscious Biases) dürfte demgegenüber verfassungsrechtlich problematisch sein, weil sich mutmaßlich die Ergebnisse nicht so „aussteuern“ lassen, dass neue Diskriminierungen vermieden werden können. Auch weiteren Grundrechten kommt eine Aussagekraft beim Einsatz von KI durch Behörden zu. So muss KI die Meinungsäußerungsfreiheit (Art. 5 GG) achten, indem allein missliebige (nicht beleidigende) Meinungsäußerungen durch Löschen oder Zugangssperren verhindert werden. Die Eigentumsfreiheit im Sinne des Schutzes geistigen Eigentums darf nicht ohne verfassungsrechtliche Legitimierung durch Verbreitung von urheberrechtswidrigen Inhalten verletzt werden. Wenn Unternehmen mehr und mehr ihre Geschäftsfelder auf digitalen Instrumenten aufbauen, digital mit der Verwaltung, etwa im Rahmen von Genehmigungsverfahren, kommunizieren und dann auf eine Verwaltung treffen, die auf die Digitalisierung nicht eingerichtet ist und verfügbare Automatisierungsinstrumente nicht nutzt, kann dies in die Berufsfreiheit (Art. 12 GG) eingreifen.

[1] https://www.sueddeutsche.de/digital/usa-palantir-corona-impfung-diskriminierung-kapitalismus-1.5158261