Europäisches KI-Gesetz einfach erklärt

Digitalisierung und der Einsatz künstlicher Intelligenz (KI) bergen ein enormes Potenzial: Für die Wirtschaft ist der Einsatz im Interesse der Wettbewerbsfähigkeit alternativlos; für die Verwaltung geht es im Interesse der Bürger:innen um die Verbesserung der Verwaltungsleistungen. Gerade in Zeiten zunehmenden Arbeitskräftemangels kann die Digitalisierung von Arbeitsabläufen sowohl Wirtschaft als auch Verwaltung helfen – Immerhin sehen Hamburger Unternehmen im Fachkräftemangel eines der größten Geschäftsrisiken, so ein Ergebnis des aktuellen Konjunkturbarometers der Handelskammer Hamburg. Für den Standort Hamburg ist es unerlässlich, digitale Entwicklungen zu unterstützen und voranzubringen.

Der Einsatz technischer Innovationen birgt zweifellos große Chancen. Doch für die Bürger:innen ist neben wirtschaftlicher Stabilität und zufriedenstellenden Verwaltungsleistungen, der verantwortungsvolle Umgang mit KI von zunehmender Bedeutung. Umfragen wie „Verbraucher:innen fordern gesetzliche Regeln für künstliche Intelligenz“ des TÜV Verband e. V. von Ende letzten Jahres zeigen, dass Bürger:innen die wirtschaftlichen und gesellschaftlichen Potenziale sowie mögliche Erleichterungen für den Alltag würdigen (86 %). Zugleich bestehen große Sorgen vor Diskriminierung durch dem missbräuchlichen Einsatz von KI (66 %). In Zusammenhang mit Chat GPT hat die Diskussion in den letzten Monaten noch einmal Fahrt aufgenommen.

Neben der Förderung von Digitalisierung der Verwaltung und Stärkung des Wirtschaftsstandortes Hamburg und seiner Unternehmen durch den Einsatz von KI wird es also – will man das Vertrauen und die Verlässlichkeit von KI-Systemen stärken – um den gesellschaftlich verantwortlichen Einsatz von KI gehen, auch Responsible AI (RAI) genannt. RAI bewegt sich in der Schnittmenge von Recht und Technik. Der verantwortliche Einsatz von KI wird u. a. daran gemessen, ob:

• nachvollziehbar ist, wie das Ergebnis der KI zustande kommt, Stichwort Erklärbarkeit
• der KI-Einsatz im Einklang mit europäischen Wertevorstellungen und rechtlichen Anforderungen steht, Stichwort Ethik und Recht
• es nicht zu Diskriminierung kommt, Stichwort Fairness und Nachhaltigkeit
• Ausfälle und Fehlfunktionen minimiert werden, Stichwort Robustheit und Sicherheit
• es eindeutige Prozesse und Zuständigkeiten für Entwicklung und Betrieb von KI-Anwendungen gibt, Stichwort Ablauforganisation 

Von diesen Grundsätzen ausgehend, hat die europäische Kommission mit dem 2021 vorgelegten Verordnungsentwurf des KI-Acts den Ansatz gewählt, rechtlich verbindliche Mindestanforderungen für den Einsatz von KI für alle europäischen Mitgliedstaaten in einem risikobasierten Ansatz je nach Eingriffsintensität zu formulieren. Der Entwurf geht von vier Gruppen von Anwendungen aus:

• verbotene Produkte
• Produkte mit hohem Risiko (beispielsweise biometrische Identifizierung, Anwendungen, die den Betrieb kritischer Infrastruktur betreffen oder Rekrutierung bzw. Leistungsbeurteilung von Beschäftigten übernehmen)
• Produkte mit geringem Risiko (etwa Chat-Ports)
• Anwendungen, die kein Risiko in sich bergen

Der Entwurf richtet sich an alle relevanten Akteur:innen entlang der Wertschöpfungskette, wie etwa Entwickler:innen, Hersteller:innen von KI-Systemen, Händler:innen, Anwender:innen oder Nutzer:innen. Aktuell befindet sich der KI-Act im Trilogverfahren, also in der Abstimmung zwischen Kommission, europäischem Rat und europäischen Parlament. Mit Änderungen ist somit zu rechnen, doch Ende des Jahres dürfte der KI-Act in Kraft treten und zwei Jahre später unmittelbare Wirkung entfalten. Verstöße gegen den KI-Act sollen mit Geldbußen geahndet werden. Ergänzend sollen vor dem Hintergrund der neuen Technologien Schadensersatzansprüche durch eine geplante KI-Haftungsrichtlinie erleichtert sowie die Produkthaftungsrichtlinie entsprechend angepasst werden.

Der KI-Act zielt darauf ab, den gesellschaftlich verantwortlichen Einsatz von KI insbesondere im Bereich der Hochrisikoanwendungen zu gewährleisten, das Vertrauen in den Einsatz der KI zu stärken und damit die Wettbewerbsfähigkeit der Wirtschaft gerade gegenüber der außereuropäischen Konkurrenz zu fördern. Wirtschaft und Verwaltung sind gut beraten, sich schon jetzt auf die Anforderungen des KI-Acts und die Grundsätze von RAI einzustellen.

Hamburg, seine Unternehmen und Verwaltung, können Vorreiter für den gesellschaftlich verantwortlichen Einsatz von KI sein und schon jetzt die Umsetzung der Schritte einleiten, die in zwei, zweieinhalb Jahren vom KI-Act gefordert werden. Tatsächlich hat die Stadt bereits früh Studien beim Artificial Intelligence Center Hamburg e. V. (ARIC) und dem Law Com Institute in Auftrag gegeben, die Herausforderungen und Chancen des Einsatzes von KI für Unternehmen und Verwaltung identifizieren und entsprechende Handlungsempfehlungen geben. Ein Dreiklang aus Technologie, Transformation und gesellschaftlicher Verantwortlichkeit ist eine Chance für den Standort Hamburg, national, international, auch im außereuropäischen Wettbewerb!

Ein Gastbeitrag von Friedrich-Joachim Mehmel, Gesellschafter beim LawCom Institute

Lesen Sie auch die weiteren Teile unserer KI-Serie:

Teil 1: IT-Experte Alois Krtil: Hamburg ist ganz klar ein KI-Hotspot

Teil 2: KI-Summit 20223: Doom oder Boom?