Im Zentrum der Diskussionen um den AI-Act standen zwei grundsätzliche Bestrebungen: Einerseits potenzielle Gefahren bei KI-Anwendungen frühzeitig einzudämmen, während anderseits eine innovations- und wettbewerbshemmende Überregulierung vermieden werden sollte. Alois Krtil, Gründer und CEO des Artificial Intelligence Center Hamburg (ARIC), zeigt sich mit dem erzielten Kompromiss zufrieden: „Die Einigung ist ein wesentlicher Schritt hin zu mehr Responsible AI. Wir brauchen einen verantwortungsvollen Umgang mit KI, um sichere, skalierbare und robuste Systeme zu entwickeln, die uns dann einen Wettbewerbsvorteil gegenüber ‚unsicheren‘ Systemen verschaffen.“ Der AI-Act biete den dazu nötigen Rechtsrahmen – wobei der Betriff ‚Rechtsrahmen‘ Krtil zu sehr nach Beschränkung klingt. Ihm ist wichtig zu betonen, dass sich die EU nun auf Rahmenbedingungen geeinigt hat, die Innovationen befördern können, nicht verhindern.
Transparenzvorgaben für die Entwicklung generativer KI-Modelle, wie Chat GPT, oder Regeln zur biometrischen Echtzeiterfassung waren einige der Themen, um die bis zuletzt bei den Diskussionen um den AI-Act auf EU-Ebene hart gerungen wurde. Teilweise sah es so aus, als könne das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz (KI) noch scheitern. Doch schließlich kam es am 2. Februar 2024 zu einer einstimmigen Entscheidung aller 27 EU-Mitgliedsstaaten für den AI-Act und damit zu einer Einigung auf Standards für den sicheren und verantwortungsvollen Einsatz von KI-Technologien in Europa. Am Mittwoch (13. März) wurde das Gesetz vom Europäischen Parlament verabschiedet. Hamburg News sprach mit dem KI-Experten Alois Krtil über den erzielten Kompromiss.
Der AI-Act: sicher, aber nicht wettbewerbsfeindlich
AI-Act erlaubt Rechtsicherheit für Innovationen
„Nehmen wir das Beispiel generativer KI, ein Feld, das ganz neue Anwendungs- und Geschäftsmodelle eröffnet“, so der Experte. Die große Dynamik in der Entwicklung einer Technologie, die selbstständig Texte und Bilder produziert, sei mitten in die Verhandlungen um den AI-Act geplatzt und musste quasi ‚on the run‘ mitverhandelt werden – auch wegen der vielfältigen Stimmen, die eine Regulierung der neuen KI-Generation forderten. Die Erwartung kommender Regelungen, kombiniert mit der Befürchtung drohender Haftungsrisiken, hätte zum Abwarten der Akteur:innen führen können. „Das hätte uns im internationalen Wettbewerb ins Hintertreffen gebracht“, ist Krtil überzeugt. „Der AI-Act schafft nun die nötige Rechtsicherheit, die neue Produkte und Dienstleistungen, kurz gesagt Innovationen, ermöglicht.“
AI-Act befördert KI-Reifegrad
Zudem wirkt die Regelung einer Tendenz entgegen, die Krtil als ‚gefährlichen Wildwuchs‘ beschreibt, nämlich, dass große KI-Modelle unausgereift auf den Markt kommen. Gemeint sind Probleme, die im Zuge des Trainings von KI-Modellen auftreten, wenn durch sogenanntes Overfitting beispielsweise komplette Datensätze ‚auswendig gelernt‘ werden. „Das kann dazu führen, dass der Algorithmus die vollständig gelernten Datensätze ausgibt und so etwa personenbezogene Daten preisgegeben werden“, erläutert Krtil. Overfitting zu vermeiden und Sicherheitsmaßnahmen zu implementieren erfordert einen gewissen Aufwand – den das neue Gesetz einfordert. „Der AI-Act führt dazu, potenzielle Gefahren bei der Entwicklung von KI-Anwendungen von Anfang an ernster zu nehmen.“ Krtil verspricht sich davon eine Verbesserung des KI-Reifegrads, also einen Anstieg der Qualität – und damit eben auch einen Wettbewerbsvorteil.
Der AI-Act und KMU
Die Anforderungen des AI-Acts treffen Unternehmen allerdings unterschiedlich stark. Gerade auf kleine und mittlere Unternehmen (KMU) kommt zusätzlicher Aufwand zu, während größere Unternehmen mit bestehenden Compliance-Abteilungen neue Richtlinien einfacher implementieren können. Doch ein Zuwachs an Vertrauen in sichere Systeme, den der AI-Act gewährleisten soll, könnte gerade auch KMU zugutekommen, die dadurch bislang skeptische Zielgruppen erschließen können – so die Überlegung der Gesetzesbefürworter.
Der AI-Act als Wettbewerbsvorteil
Speziell für Hamburg sieht der ARIC-Geschäftsführer eine Riesenchance durch den AI-Act. „Hamburg ist ein KI-Hotspot, allein mehr als 120 Startups beschäftigen sich maßgeblich mit KI. Damit liegt die Stadt deutschlandweit auf Platz 3, nach Berlin und München.“ Und da Hamburg stark im Bereich KI-Anwendungen für B2B-Umgebungen sei, kommen die verschärften Sicherheitsvorgaben des neuen Gesetzes dem Standort zugute. „KI-Lösungen für Verwaltung, erneuerbare Energien, Hafen oder Logistik müssen einer besonderen Sorgfalt unterliegen. Da wird der Sicherheits- und Qualitätsanspruch des KI-Acts quasi automatisch zum Wettbewerbsvorteil“, erklärt Krtil. Ein starker Fokus auf Sicherheit gelte natürlich immer bei der KI-Entwicklung. „Aber das Schadenspotenzial von KI-Anwendungen beim Einsatz in einer kritischen Infrastruktur ist nun mal ein anderes als bei einem Lifestyle-Produkt.“
Europäische Gesetze – immer eine Auslegungssache
Für Prüfung, Durchsetzung und Überwachung des AI-Acts sollen die europäischen Mitgliedstaaten sorgen. „Bei Verstößen sind Bußgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes angedacht“, so Krtil. Zumindest theoretisch. EU-Gesetze sind immer auch ein Stück weit Auslegungssache. „Das ist der Weg, der noch vor uns liegt. Der AI-Act muss nun umgesetzt und dann gelebt werden.“
ys/sb
Lesen Sie auch die weiteren Teile unserer KI-Serie:
1) IT-Experte Alois Krtil: Hamburg ist ganz klar ein KI-Hotspot
2) KI-Summit 2023: Doom oder Boom?
3) Europäisches KI-Gesetz einfach erklärt
4) Wie KI die (medizinische) Welt verändern könnte
5) Responsible AI – Kann Europa mit USA und China konkurrieren?
6) So erobert KI das Radio-Mikro
7) Revolutioniert generative KI die Contenterstellung?
Quellen und weitere Informationen
Ähnliche Artikel
Otto Group entwickelt internen KI-Assistenten
KI oder keine KI, das ist hier die Frage
Hamburger Schulbehörde fördert KI-Projekte mit 50.000 Euro
