Die Europäische Union hat einen vorläufigen Konsens über das “Artificial Intelligence Act” erreicht, ein Regelwerk, das darauf abzielt, Grundrechte, Demokratie, Rechtsstaatlichkeit und Umweltschutz im Umgang mit risikoreichen KI-Systemen zu schützen und gleichzeitig Innovation zu fördern und Europa in diesem Bereich zum Vorreiter zu machen. Die Gesetzgebung schafft Verpflichtungen für Künstliche Intelligenz basierend auf potenziellen Risiken und Auswirkungsgraden.
Der Gesetzgeber erkennt die Bedrohung, die von bestimmten KI-Anwendungen für die Bürgerrechte und die Demokratie ausgehen kann, und hat sich daher auf ein Verbot folgender Systeme geeinigt:
Die Verhandlungsführer haben sich auf strenge Sicherheitsvorkehrungen und eng begrenzte Ausnahmen für die Verwendung von biometrischen Identifikationssystemen in öffentlich zugänglichen Räumen für Strafverfolgungszwecke geeinigt. Diese sind an eine vorherige gerichtliche Genehmigung gebunden und auf eine genau definierte Liste von Verbrechen beschränkt. Die “post-remote” Verwendung dieser Systeme dient der gezielten Suche nach einer Person, die eines schweren Verbrechens verurteilt oder verdächtigt wird.
Diese Kategorie umfasst Systeme, die ein signifikantes Schadenspotenzial für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaat aufweisen. Zu diesen Verpflichtungen gehört auch eine obligatorische Grundrechte-Folgenabschätzung, die auch für den Versicherungs- und Bankensektor gilt. KI-Systeme, die Einfluss auf Wahlergebnisse und Wählerverhalten nehmen könnten, gelten ebenfalls als hochriskant. Bürger haben das Recht, Beschwerden über KI-Systeme einzureichen und Erklärungen über Entscheidungen zu erhalten, die auf der Grundlage hochriskanter KI-Systeme getroffen werden und ihre Rechte beeinflussen.
Um der Vielfalt der Aufgaben, die durch KI-Systeme bewältigt werden können, sowie der schnellen Erweiterung ihrer Fähigkeiten Rechnung zu tragen, wurde festgelegt, dass allgemeine KI-Systeme und die zugrunde liegenden GPAI-Modelle Transparenzanforderungen erfüllen müssen. Dazu gehört die Erstellung technischer Dokumentationen, die Einhaltung des EU-Urheberrechts und die Verbreitung detaillierter Zusammenfassungen des für das Training verwendeten Inhalts.
Für GPAI-Modelle mit systemischem Risiko wurden strengere Verpflichtungen festgelegt. Sollten diese Modelle bestimmte Kriterien erfüllen, müssen sie Modellbewertungen durchführen, systemische Risiken beurteilen und mindern, adversatives Testen durchführen, der Kommission über schwerwiegende Vorfälle Bericht erstatten, Cybersicherheit gewährleisten und über ihre Energieeffizienz Bericht erstatten. Zudem bestanden die Abgeordneten darauf, dass GPAIs mit systemischem Risiko auf Verhaltenskodizes zurückgreifen können, um den Vorschriften zu entsprechen, bis harmonisierte EU-Standards veröffentlicht werden.
Die Europaabgeordneten wollen sicherstellen, dass Unternehmen, insbesondere KMUs, KI-Lösungen entwickeln können ohne unangemessenen Druck von Branchenriesen, die die Wertschöpfungskette kontrollieren. Zu diesem Zweck fördert die Vereinbarung regulatorische Sandkästen und Tests unter realen Bedingungen, die durch nationale Behörden eingerichtet werden, um innovative KI vor der Markteinführung zu entwickeln und zu trainieren.
Nichteinhaltung der Regeln kann zu Bußgeldern von bis zu 35 Millionen Euro oder bis zu 7% des weltweiten Umsatzes bzw. bis zu 7,5 Millionen Euro oder 1,5% des Umsatzes führen, je nach Verstoß und Unternehmensgröße.
Brando Benifei (S&D, Italien) erklärte nach der Einigung, dass der Einsatz und die korrekte Umsetzung des ersten weltweiten horizontalen Gesetzes zur künstlichen Intelligenz entscheidend sein wird und das Europäische Parlament weiterhin darauf achten wird, dass es Unterstützung für neue Geschäftsideen mit Sandboxes gibt und effektive Regeln für die mächtigsten Modelle bestehen.
Dragos Tudorache (Renew, Rumänien) unterstrich, dass die EU als erste weltweit eine robuste KI-Regulierung implementiert und sie so in eine menschenzentrierte Richtung lenkt. Er hebt die starken Sicherheitsmechanismen für Bürger und Demokratien gegen Missbrauch durch öffentliche Behörden hervor und betont den Schutz für KMUs und die Stärkung der Innovations- und Führungskapazität im KI-Bereich.
Einzelheiten zu einer gemeinsamen Pressekonferenz, die nach den Verhandlungen von führenden MEPs, der Staatssekretärin für Digitalisierung und KI Carme Artigas und Kommissar Thierry Breton abgehalten wurde, sind über die jeweiligen Links abrufbar.
Der vereinbarte Text muss nun vom Parlament und Rat formell angenommen werden, um EU-Recht zu werden. Die zuständigen Ausschüsse des Parlaments werden in einer der nächsten Sitzungen über die Vereinbarung abstimmen.
Image by rawpixel.com on Freepik