Hessen Grüne Hessen schlagen bundesweit erstes KI-Gesetz vor
An vielen Stellen in der öffentlichen Verwaltung kommt bereits Künstliche Intelligenz zum Einsatz. Doch eine einheitliche Rechtsgrundlage dafür gibt es bislang nicht. Die Grünen im Landtag wollen das ändern. Das hessische Digitalministerium sieht keinen Handlungsbedarf.
Wer sich auf einen möglichen Rechtsstreit vorbereiten und dafür Präzedenzfälle im Internet recherchieren möchte, der findet oft: nichts. Denn ob ein Urteil veröffentlicht wird, hängt derzeit stark vom Zufall ab - oder besser gesagt: von der Bereitschaft der zuständigen Gerichte.
Der Grund: Um ein Urteil öffentlich einsehbar zu machen, muss es aus Datenschutzgründen vorher anonymisiert werden. Das passiert von Hand und ist sehr zeitaufwändig. Bisher. Dank der Software "Jano" (kurz für "Justiz-Anonymisierung"), die seit gut einem Monat als Prototyp im Landgerichtsbezirk Hanau getestet wird, könnte dieser Prozess bald effektiver und auch nutzerfreundlicher werden.
Urteile sollen leicht verständlich sein
In Jano steckt Künstliche Intelligenz (KI), die die seitenlangen Gerichtsurteile durchforstet und personenbezogene Daten nicht nur schwärzt, sondern durch sinnvolle Pseudonyme ersetzt. "Das heißt, wir ersetzen den Namen durch die Rolle im Prozess: Klägerin, Beklagte, Sachverständiger, Zeuge", so der Hanauer Landgerichtspräsident Frank Richter. "Dadurch wird der Text besser lesbar und einfacher zu begreifen."
Derzeit werden laut Richter in Deutschland nur ein bis zwei Prozent aller Urteile veröffentlicht. Die KI-Software Jano hat das Landgericht Hanau gemeinsam mit dem Landgericht Mannheim (Baden-Württemberg) und dem Unternehmen IBM entwickelt. Gefördert wird das Projekt mit Bundesmitteln. Die Erfahrungen seien bisher sehr positiv, so Richter. "Wir haben eine Lösung geschaffen, um eine Arbeit, die sehr aufwendig und sehr unbeliebt ist, zu ersetzen durch die KI."
Grüne wollen KI-Einsatz einheitlich regeln
Aktuell gibt es deutschlandweit kein Gesetz, das den Einsatz von KI-Systemen wie Jano einheitlich regelt. Deshalb muss für jeden Einzelfall eine Rechtsgrundlage geschaffen werden. Die Grünen im Hessischen Landtag wollen das ändern und haben am Dienstag in Wiesbaden den nach eigenen Angaben bundesweit ersten KI-Gesetzentwurf vorgelegt.
Das vorgeschlagene Gesetz soll regeln, wie KI in der öffentlichen Verwaltung genutzt, aber auch kontrolliert werden kann. "Durch den Einsatz von KI können Bearbeitungszeiten deutlich verkürzt, die Verwaltung bürgerfreundlicher gestaltet und Mitarbeitende von Routinetätigkeiten entlastet werden", erklärte der Grünen-Fraktionsvorsitzende Mathias Wagner.
Vielfältige Einsatzmöglichkeiten in der Verwaltung
Die Grenzen der KI mussten die Grünen allerdings bereits am eigenen Leib erfahren: Eine bei der Pressekonferenz im Hintergrund abgebildete Bildcollage sollte eigentlich eine KI erstellen. Doch das Ergebnis gefiel den Abgeordneten nicht - also musste zusätzlich ein Grafiker ran. Auch der Gesetzestext sei "echte Handarbeit", versprach die grüne KI-Sprecherin Nina Eisenhardt. Lediglich in einem Satz in der Begründung habe KI die Formulierung optimiert.
In der öffentlichen Verwaltung sehen die Grünen vielfältige Einsatzmöglichkeiten von KI. Zum Beispiel:
- wenn Antworten auf wiederkehrende Bürgeranfragen geschrieben werden müssen,
- wenn es um die Beurteilung von umfangreichen Förderanträgen geht,
- oder wenn ausländische Berufsabschlüsse anerkannt werden sollen.
"Wir Grüne wollen, dass KI nur dort eingesetzt wird, wo sie effizientere Arbeit und schnelles Handeln ermöglicht", so Eisenhardt. Doch blind vertrauen wollen die Grünen der KI nicht. Sie sprechen deshalb von einer "Gratwanderung zwischen Ermöglichen und Regulieren".
EU-Verordnung als Basis für KI-Gesetz
Das KI-Gesetz sieht folglich bestimmte Kontrollmechanismen vor:
- soll ein Transparenzregister darüber informieren, wie die KI arbeitet und wo sie eingesetzt wird.
- regelt das Gesetz auf Basis einer KI-Verordnung der Europäischen Union die Fälle, in denen die KI nicht alleine entscheiden darf. Heißt konkret, wenn Grundrechte betroffen sind, muss immer auch ein Mensch draufschauen.
- können Bürger beispielsweise gegen Bescheide, die von einer KI erstellt wurden, Widerspruch einlegen, wenn sie glauben, dass ein Fehler vorliegt. Die so genannte formlose "KI-Rüge" führt dann dazu, dass ein Mitarbeiter noch einmal alles prüft.
Die Möglichkeit, Behördenbescheiden zu widersprechen, gibt es zwar jetzt schon, doch löse ein solcher Widerspruch oft ein aufwändiges Verfahren aus, sagen die Grünen. Die KI-Rüge hingegen sei unbürokratisch und für die Bürger kostenlos.
Grüne machen Druck auf Landesregierung
Es ist schon das dritte Gesetzesvorhaben der oppositionellen Grünen innerhalb eines Monats. Nach ihren Entwürfen zur Bürgerbeteiligung bei Wind- und Solarparks und zu Kita-Fachkräften wollen sie auch mit ihrem Vorstoß zur KI-Regulierung die schwarz-rote Landesregierung unter Druck setzen. "Wo die Regierung Lücken lässt, wollen wir sie gerne füllen", so Fraktionsvorsitzender Wagner mit dem Hinweis, dass aus dem Digitalministerium bisher keine Initiative zu einem eigenen KI-Gesetz gekommen sei.
Digitalministerin Kristina Sinemus (CDU) verteidigt sich auf hr-Nachfrage. "Der Einsatz von KI ist für die Landesregierung ein zentraler Baustein zum Auf- und Ausbau einer modernen, effizienten öffentlichen Verwaltung." In der Vergangenheit sei bereits ein ressortübergreifender Leitfaden zur KI-Nutzung in der Landesverwaltung entwickelt und verteilt worden.
KI biete viele Chancen, aber es gebe noch viele Fragezeichen, so Sinemus. "Ich denke, es ist wichtig, dass wir unseren Verwaltungsmitarbeiterinnen und -mitarbeitern eine Leitlinie geben, dass sie niedrigschwellig schlichtweg mal ausprobieren können". Der Leitfaden sei dabei ein erster Schritt.
Kein eigenes KI-Gesetz der Regierung geplant
Ein eigener Entwurf der Landesregierung für ein KI-Gesetz ist derzeit aber offenbar nicht geplant. So schreibt das Digitalministerium: "Selbstverständlich halten wir uns an die gesetzlichen Vorgaben unter Berücksichtigung der KI-VO" (KI-Verordnung der EU, Anm. d. Red.).
Sollte sich darüber hinaus gesetzlicher Regelungsbedarf ergeben, werde man sich dieser Thematik annehmen. Einzelne Aspekte des grünen Gesetzentwurfs hält das Ministerium für "wichtig, allerdings ist nach unserer ersten Einschätzung zu bezweifeln, ob dafür eine Gesetzgebung die geeignete Ebene ist".
Dass es auch ohne einheitliche Gesetzesgrundlage geht, sieht auch Justizminister Christian Heinz (CDU) so. Gerade in der Justiz gebe es gute Beispiele für den Einsatz von KI. Neben dem Pilotprojekt Jano am Landgericht Hanau wurden testweise auch am Amtsgericht Frankfurt Fluggastrechteverfahren mit Hilfe von KI bearbeitet.
Denn allein für diese Verfahren würde derzeit die Arbeitskraft von 40 Richterstellen benötigt. "KI birgt eine große Chance, vorhandene Ressourcen effizienter einzusetzen“, so Heinz. Die endgültigen Entscheidungen müssten aber weiterhin von Menschen getroffen werden.
KI-Experte: "KI ist Co-Pilot, nicht Autopilot"
So sieht es auch Alexander Moutchnik, Professor für Medienwirtschaft an der Hochschule Rhein-Main. Da die Ergebnisse einer KI immer im Namen einer Institution veröffentlicht würden, müssten sie kontrolliert werden. "KI ist wie Strom, sie ist unsichtbar, mächtig, überall und kann gefährlich sein, wenn man sie falsch einsetzt", so Moutchnik.
Er warnt vor Risiken wie Datenschutzproblemen, Intransparenz und Fehlentscheidungen. Deshalb dürfe KI nur eingesetzt werden, wenn der Umgang verantwortungsvoll, nachvollziehbar und rechtlich abgesichert sei. "Die KI ist Co-Pilot, nicht Autopilot und es ist wichtig, dass wir die Kontrolle behalten über die Technik und ihre Folgen."
Am Landgericht Hanau überwiegt bislang der Blick auf die Chancen der eingesetzten KI. Das Jano-Pilotprojekt läuft noch bis Mitte Juni und wurde gerade auf andere Landgerichtsbezirke ausgeweitet. Ab Herbst könnte Jano flächendeckend in allen Gerichten in Hessen und Baden-Württemberg genutzt werden.
Derzeit wird aber noch kontrolliert, ob das, was Jano geschrieben hat, plausibel ist oder ob etwas übersehen wurde. "Die Verantwortlichkeit für das Urteil liegt also weiterhin bei den Menschen", so Landgerichtspräsident Frank Richter. Das letzte Worte hat also nicht die Technik.
