Nach dreitägigen „Marathon“-Gesprächen haben die Ratspräsidentschaft und die Verhandlungsführer des Europäischen Parlaments eine vorläufige Einigung über den Vorschlag für harmonisierte Regeln zur künstlichen Intelligenz (KI), das sogenannte Künstliche-Intelligenz-Gesetz, erzielt. Der Verordnungsentwurf soll sicherstellen, dass KI-Systeme, die auf den europäischen Markt gebracht und in der EU verwendet werden, sicher sind und die Grundrechte und Werte der EU respektieren. Dieser wegweisende Vorschlag zielt auch darauf ab, Investitionen und Innovationen im Bereich KI in Europa anzuregen.
Dies ist eine historische Errungenschaft und ein großer Meilenstein für die Zukunft! Mit der heutigen Vereinbarung wird eine globale Herausforderung in einem sich schnell entwickelnden technologischen Umfeld in einem Schlüsselbereich für die Zukunft unserer Gesellschaften und Volkswirtschaften angegangen. Und bei diesem Unterfangen ist es uns gelungen, ein äußerst heikles Gleichgewicht zu wahren: Innovation und Einführung künstlicher Intelligenz in ganz Europa voranzutreiben und gleichzeitig die Grundrechte unserer Bürger uneingeschränkt zu respektieren.Carme Artigas, spanische Staatssekretärin für Digitalisierung und künstliche Intelligenz
Das KI-Gesetz ist ein Flaggschiff Gesetzgebungsinitiative mit dem Potenzial, die Entwicklung und Einführung sicherer und vertrauenswürdiger KI im gesamten EU-Binnenmarkt sowohl durch private als auch öffentliche Akteure zu fördern. Die Hauptidee besteht darin, die KI auf der Grundlage ihrer Fähigkeit zu regulieren, der Gesellschaft Schaden zuzufügen „risikobasiert“ Ansatz: Je höher das Risiko, desto strenger die Regeln. Als erster Gesetzesvorschlag dieser Art weltweit kann er einen setzen globaler Standard für die KI-Regulierung in anderen Gerichtsbarkeiten, so wie es die DSGVO getan hat, und fördert so den europäischen Ansatz zur Technologieregulierung auf der Weltbühne.
Die wichtigsten Elemente der vorläufigen Vereinbarung
Im Vergleich zum ursprünglichen Kommissionsvorschlag lassen sich die wichtigsten neuen Elemente der vorläufigen Einigung wie folgt zusammenfassen:
Regeln an leistungsstarke Allzweck-KI-Modelle Dies kann in der Zukunft zu systemischen Risiken sowie zu hohen Risiken führen KI-Systeme
ein überarbeitetes System von Governance mit einigen Durchsetzungsbefugnissen auf EU-Ebene
Erweiterung der Liste von Verbote aber mit der Möglichkeit zur Nutzung biometrische Fernidentifizierung durch Strafverfolgungsbehörden im öffentlichen Raum unter Einhaltung von Sicherheitsvorkehrungen
Besserer Schutz der Rechte durch die Verpflichtung für Betreiber von KI-Systemen mit hohem Risiko, eine durchzuführen Folgenabschätzung der Grundrechte bevor ein KI-System zum Einsatz kommt.
Konkret umfasst die vorläufige Vereinbarung folgende Aspekte:
Definitionen und Geltungsbereich
Um sicherzustellen, dass die Definition Obwohl die Definition eines KI-Systems hinreichend klare Kriterien zur Unterscheidung von KI von einfacheren Softwaresystemen bietet, gleicht die Kompromissvereinbarung die Definition an den von der OECD vorgeschlagenen Ansatz an.
In der vorläufigen Einigung wird außerdem klargestellt, dass die Verordnung nicht für Bereiche außerhalb des Geltungsbereichs des EU-Rechts gilt und in keinem Fall die Zuständigkeiten der Mitgliedstaaten beeinträchtigen sollte nationale Sicherheit oder jede Stelle, die mit Aufgaben in diesem Bereich betraut ist. Darüber hinaus gilt das KI-Gesetz nicht für Systeme, die ausschließlich für Zwecke genutzt werden Militär or Verteidigung Zwecke. Ebenso sieht die Vereinbarung vor, dass die Verordnung nicht für KI-Systeme gelten würde, die ausschließlich für den Zweck verwendet werden Forschung und Innovationoder für Personen, die KI aus nichtberuflichen Gründen nutzen.
Werbung
Einstufung von KI-Systemen als risikoreiche und verbotene KI-Praktiken
Die Kompromissvereinbarung sieht vor: a horizontale Schutzschicht, einschließlich einer Hochrisikoklassifizierung, um sicherzustellen, dass KI-Systeme, die voraussichtlich keine schwerwiegenden Grundrechtsverletzungen oder andere erhebliche Risiken verursachen, nicht erfasst werden. Nur KI-Systeme präsentieren begrenztes Risiko würde sehr viel Licht ausgesetzt sein Transparenzpflichten, beispielsweise die Offenlegung, dass der Inhalt KI-generiert wurde, damit Benutzer fundierte Entscheidungen über die weitere Verwendung treffen können.
Eine breite Palette von hohes Risiko KI-Systeme wären zugelassen, unterliegen aber einer Reihe von Anforderungen und Verpflichtungen, um Zugang zum EU-Markt zu erhalten. Diese Anforderungen wurden von den Mitgesetzgebern präzisiert und so angepasst, dass sie umfangreicher sind technisch machbar und weniger belastend B. in Bezug auf die Datenqualität oder in Bezug auf die technische Dokumentation, die von KMU erstellt werden sollte, um nachzuweisen, dass ihre Hochrisiko-KI-Systeme den Anforderungen entsprechen.
Da KI-Systeme über komplexe Wertschöpfungsketten entwickelt und vertrieben werden, enthält die Kompromissvereinbarung Änderungen zur Klarstellung Verteilung der Verantwortlichkeiten und Rollen der verschiedenen Akteure in diesen Ketten, insbesondere Anbieter und Nutzer von KI-Systemen. Außerdem wird das Verhältnis zwischen den Verantwortlichkeiten nach dem KI-Gesetz und den Verantwortlichkeiten, die bereits nach anderen Rechtsvorschriften bestehen, wie beispielsweise den einschlägigen EU-Datenschutz- oder Branchengesetzen, geklärt.
Für einige Anwendungen von KI wird ein Risiko berücksichtigt nicht akzeptabel und daher werden diese Systeme aus der EU verboten. Das vorläufige Abkommen verbietet beispielsweise kognitive Verhaltensmanipulation, das Ungezielte Verschrottung von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen, Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, soziale Wertung, biometrische Kategorisierung um auf sensible Daten wie sexuelle Orientierung oder religiöse Überzeugungen zu schließen, und in einigen Fällen von prädiktive Polizeiarbeit für Einzelpersonen.
Ausnahmen für die Strafverfolgung
Unter Berücksichtigung der Besonderheiten von Strafverfolgungsbehörden und der Notwendigkeit, ihre Fähigkeit zu bewahren, KI bei ihrer lebenswichtigen Arbeit einzusetzen, wurden mehrere Änderungen am Kommissionsvorschlag in Bezug auf den Einsatz von KI-Systemen für Strafverfolgungszwecke vereinbart. Vorbehaltlich angemessener SchutzmaßnahmenDiese Änderungen sollen der Notwendigkeit Rechnung tragen, die Vertraulichkeit sensibler Betriebsdaten im Zusammenhang mit ihren Tätigkeiten zu wahren. Beispielsweise wurde ein Notfallverfahren eingeführt, das es Strafverfolgungsbehörden ermöglicht, ein hochriskantes KI-Tool einzusetzen, das die Prüfung nicht bestanden hat Konformitätsbewertung Verfahren in dringenden Fällen. Allerdings wurde auch ein spezieller Mechanismus eingeführt, um dies sicherzustellen Grundrechte werden ausreichend vor einem möglichen Missbrauch von KI-Systemen geschützt.
Darüber hinaus, was die Nutzung von Echtzeit betrifft biometrische Fernidentifizierung Systeme in öffentlich zugänglichen Räumen werden in der vorläufigen Vereinbarung die Ziele klargestellt, bei denen eine solche Nutzung für Strafverfolgungszwecke unbedingt erforderlich ist und für die es den Strafverfolgungsbehörden daher ausnahmsweise gestattet sein sollte, solche Systeme zu nutzen. Die Kompromissvereinbarung sieht vor zusätzliche Sicherungen und beschränkt diese Ausnahmen auf Fälle von Opfern bestimmter Straftaten, die Abwehr echter, gegenwärtiger oder vorhersehbarer Bedrohungen wie Terroranschläge und die Suche nach Personen, die der schwersten Straftaten verdächtigt werden.
Allzweck-KI-Systeme und Basismodelle
Es wurden neue Bestimmungen hinzugefügt, um Situationen zu berücksichtigen, in denen KI-Systeme für viele verschiedene Zwecke verwendet werden können (Allzweck-KI) und bei dem die Allzweck-KI-Technologie anschließend in ein anderes Hochrisikosystem integriert wird. Die vorläufige Vereinbarung befasst sich auch mit den spezifischen Fällen von Systemen der allgemeinen KI (GPAI).
Es wurden auch spezifische Regeln vereinbart Gründungsmodelle, große Systeme, die in der Lage sind, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen, z. B. das Erzeugen von Videos, Texten und Bildern, das Konversieren in lateraler Sprache, das Rechnen oder das Erzeugen von Computercode. Die vorläufige Vereinbarung sieht vor, dass Stiftungsmodelle bestimmte Anforderungen erfüllen müssen Transparenzpflichten bevor sie auf den Markt gebracht werden. Für wurde eine strengere Regelung eingeführt „hohe Wirkung“ Fundamentmodelle. Hierbei handelt es sich um Basismodelle, die mit großen Datenmengen trainiert werden und deren Komplexität, Fähigkeiten und Leistung weit über dem Durchschnitt liegen und die systemische Risiken entlang der Wertschöpfungskette verbreiten können.
Eine neue Governance-Architektur
Aufgrund der neuen Regeln für GPAI-Modelle und der offensichtlichen Notwendigkeit ihrer Durchsetzung auf EU-Ebene wurde ein KI-Büro Innerhalb der Kommission besteht die Aufgabe, diese fortschrittlichsten KI-Modelle zu überwachen, zur Förderung von Standards und Testpraktiken beizutragen und die gemeinsamen Regeln in allen Mitgliedstaaten durchzusetzen. A wissenschaftliches Gremium unabhängiger Experten wird das AI Office zu GPAI-Modellen beraten, indem er zur Entwicklung von Methoden zur Bewertung der Fähigkeiten von Fundamentmodellen beiträgt, bei der Benennung und Entstehung hochwirksamer Fundamentmodelle berät und mögliche Materialsicherheitsrisiken im Zusammenhang mit Fundamentmodellen überwacht.
Das KI-Board, Das Gremium würde aus Vertretern der Mitgliedsstaaten bestehen, als Koordinierungsplattform und Beratungsgremium der Kommission fungieren und den Mitgliedsstaaten eine wichtige Rolle bei der Umsetzung der Verordnung, einschließlich der Gestaltung von Verhaltenskodizes für Stiftungsmodelle, zuweisen. Endlich ein Beratungsforum Für Stakeholder wie Industrievertreter, KMU, Start-ups, Zivilgesellschaft und Wissenschaft wird ein Forum eingerichtet, um dem AI Board technisches Fachwissen zur Verfügung zu stellen.
Strafen
Die Bußgelder für Verstöße gegen das KI-Gesetz wurden als Prozentsatz des weltweiten Jahresumsatzes des betreffenden Unternehmens im vorangegangenen Geschäftsjahr oder als vorher festgelegter Betrag festgesetzt, je nachdem, welcher Betrag höher ist. Bei Verstößen gegen die verbotenen KI-Anwendungen wären dies 35 Millionen Euro oder 7 %, bei Verstößen gegen die Pflichten des KI-Gesetzes 15 Millionen Euro oder 3 % und bei der Bereitstellung unrichtiger Informationen 7,5 Millionen Euro oder 1,5 %. Das vorläufige Abkommen sieht jedoch Folgendes vor angemessenere Obergrenzen über Bußgelder für KMU und Start-ups bei Verstößen gegen die Bestimmungen des KI-Gesetzes.
In der Vergleichsvereinbarung wird auch klargestellt, dass eine natürliche oder juristische Person eine Beschwerde bei der zuständigen Stelle einreichen kann Marktüberwachungsbehörde B. bezüglich der Nichteinhaltung des KI-Gesetzes, und kann damit rechnen, dass eine solche Beschwerde gemäß den speziellen Verfahren dieser Behörde bearbeitet wird.
Transparenz und Schutz der Grundrechte
Die vorläufige Vereinbarung sieht vor: a Folgenabschätzung der Grundrechte bevor ein hochriskantes KI-System von seinen Betreibern auf den Markt gebracht wird. Die vorläufige Vereinbarung sieht auch erhöhte vor Transparenz hinsichtlich des Einsatzes hochriskanter KI-Systeme. Insbesondere wurden einige Bestimmungen des Kommissionsvorschlags dahingehend geändert, dass bestimmte Nutzer eines Hochrisiko-KI-Systems, bei denen es sich um öffentliche Einrichtungen handelt, ebenfalls zur Registrierung verpflichtet sein werden EU-Datenbank für Hochrisiko-KI-Systeme. Darüber hinaus betonen neu hinzugefügte Bestimmungen eine Verpflichtung für die Nutzer eines Emotionserkennungssystem natürliche Personen zu informieren, wenn sie einem solchen System ausgesetzt sind.
Maßnahmen zur Unterstützung von Innovationen
Im Hinblick auf die Schaffung eines innovationsfreundlicheren Rechtsrahmens und die Förderung des evidenzbasierten Regulierungslernens werden die Bestimmungen über Maßnahmen zur Unterstützung von Innovationen wurden im Vergleich zum Kommissionsvorschlag erheblich geändert.
Insbesondere wurde klargestellt, dass KI regulatorische Sandkästen, die eine kontrollierte Umgebung für die Entwicklung, Erprobung und Validierung innovativer KI-Systeme schaffen sollen, sollen auch die Erprobung innovativer KI-Systeme unter realen Bedingungen ermöglichen. Darüber hinaus wurden neue Bestimmungen hinzugefügt, die dies ermöglichen Natürlich sind wir auch auf Facebook zu finden:
<br>
<a href="https://www.facebook.com/tijhof.de" target="_blank" rel="noopener"><img class="alignleft wp-image-15850 size-full" src="https://tijhof.nl/wp-content/uploads/2024/03/facebookGmBh.png" alt="" width="250" height="50"></a> von KI-Systemen in reale Bedingungenunter bestimmten Bedingungen und Schutzmaßnahmen. Um den Verwaltungsaufwand für kleinere Unternehmen zu verringern, enthält die vorläufige Vereinbarung eine Liste von Maßnahmen zur Unterstützung dieser Betreiber und sieht einige begrenzte und klar festgelegte Ausnahmen vor.
Inkrafttreten
Die vorläufige Vereinbarung sieht vor, dass das KI-Gesetz gelten soll 2 Jahre nach seinem Inkrafttreten, mit einigen Ausnahmen für bestimmte Bestimmungen.
Nächste Schritte
Nach der heutigen vorläufigen Einigung wird in den kommenden Wochen auf technischer Ebene weiter daran gearbeitet, die Einzelheiten der neuen Regelung zu finalisieren. Sobald diese Arbeiten abgeschlossen sind, wird der Vorsitz den Kompromisstext den Vertretern der Mitgliedstaaten (AStV) zur Billigung vorlegen.
Der gesamte Text muss von beiden Institutionen bestätigt und einer juristischen und sprachlichen Überarbeitung unterzogen werden, bevor er von den Mitgesetzgebern offiziell angenommen wird.
Hintergrundinformationen
Der im April 2021 vorgelegte Kommissionsvorschlag ist ein Schlüsselelement der EU-Politik zur Förderung der Entwicklung und Einführung sicherer und rechtmäßiger KI im gesamten Binnenmarkt, die die Grundrechte respektiert.
Der Vorschlag verfolgt einen risikobasierten Ansatz und legt einen einheitlichen, horizontalen Rechtsrahmen für KI fest, der Rechtssicherheit gewährleisten soll. Der Verordnungsentwurf zielt darauf ab, Investitionen und Innovationen im Bereich KI zu fördern, die Governance und die wirksame Durchsetzung bestehender Gesetze zu Grundrechten und Sicherheit zu verbessern und die Entwicklung eines Binnenmarkts für KI-Anwendungen zu erleichtern. Es geht Hand in Hand mit anderen Initiativen, einschließlich des koordinierten Plans zur künstlichen Intelligenz, der darauf abzielt, Investitionen in KI in Europa zu beschleunigen. Am 6. Dezember 2022 einigte sich der Rat auf eine allgemeine Ausrichtung (Verhandlungsmandat) zu diesem Dossier und nahm Mitte Juni 2023 interinstitutionelle Gespräche mit dem Europäischen Parlament („Triloge“) auf.
EU Reporter veröffentlicht Artikel aus einer Vielzahl externer Quellen, die ein breites Spektrum an Standpunkten zum Ausdruck bringen. Die in diesen Artikeln vertretenen Positionen sind nicht unbedingt die von EU Reporter.
