Europäischer Künstlicher Intelligenz-Gesetzesakt tritt in Kraft

Die Europäisches Gesetz zur künstlichen Intelligenz (KI-Gesetz), die weltweit erste umfassende Verordnung über künstliche Intelligenz, ist in Kraft getreten. Das KI-Gesetz soll sicherstellen, dass in der EU entwickelte und genutzte KI vertrauenswürdig ist und Garantien zum Schutz der Grundrechte der Menschen enthält. Ziel der Verordnung ist die Schaffung eines harmonisierten Binnenmarkts für KI in der EU, der die Einführung dieser Technologie fördert und ein unterstützendes Umfeld für Innovationen und Investitionen schafft.

Das KI-Gesetz führt eine zukunftsweisende Definition von KI ein, die auf einem produktsicherheits- und risikobasierten Ansatz in der EU basiert:

• Minimales Risiko: Die meisten KI-Systeme, wie KI-gestützte Empfehlungssysteme und Spamfilter, fallen in diese Kategorie. Diese Systeme unterliegen keinen Verpflichtungen nach dem KI-Gesetz, da sie nur ein minimales Risiko für die Rechte und die Sicherheit der Bürger darstellen. Unternehmen können freiwillig zusätzliche Verhaltenskodizes übernehmen.
• Spezifisches Transparenzrisiko: KI-Systeme wie Chatbots muss den Benutzern klar machen, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte, darunter Deep Fakes, müssen als solche gekennzeichnet werden, und die Nutzer müssen informiert werden, wenn biometrische Kategorisierungssysteme oder Emotionserkennungssysteme zum Einsatz kommen. Darüber hinaus müssen Anbieter ihre Systeme so gestalten, dass synthetische Audio-, Video-, Text- und Bildinhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.
• Hohes Risiko: KI-Systeme, die als Hochrisikosysteme eingestuft werden, müssen den strenge Anforderungen, darunter Systeme zur Risikominderung, hohe Qualität der Datensätze, Protokollierung von Aktivitäten, detaillierte Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit. Regulatorische Sandboxes werden verantwortungsvolle Innovationen und die Entwicklung konformer KI-Systeme erleichtern. Zu solchen risikoreichen KI-Systemen gehören beispielsweise KI-Systeme, die bei der Personalbeschaffung eingesetzt werden, oder um zu beurteilen, ob jemand Anspruch auf einen Kredit hat, oder um autonome Roboter zu steuern.
• Inakzeptables Risiko: KI-Systeme, die als klare Bedrohung für die Grundrechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Benutzer zu umgehen, wie etwa Spielzeuge, die mithilfe von Sprachassistenten gefährliches Verhalten von Minderjährigen fördern, Systeme, die ein „Social Scoring“ durch Regierungen oder Unternehmen ermöglichen, und bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Darüber hinaus werden einige Verwendungen biometrischer Systeme verboten sein, beispielsweise Systeme zur Emotionserkennung am Arbeitsplatz und einige Systeme zur Kategorisierung von Personen oder zur biometrischen Fernidentifizierung in Echtzeit für Strafverfolgungszwecke in öffentlich zugänglichen Räumen (mit wenigen Ausnahmen).

Ergänzend zu diesem System führt das KI-Gesetz auch Regeln für sog. allgemeine KI-Modelle, das sind hochleistungsfähige KI-Modelle, die für eine Vielzahl von Aufgaben konzipiert sind, wie etwa die Generierung von menschenähnlichem Text. Allzweck-KI-Modelle werden zunehmend als Komponenten von KI-Anwendungen eingesetzt. Das KI-Gesetz wird für Transparenz entlang der Wertschöpfungskette sorgen und mögliche systemische Risiken der leistungsfähigsten Modelle angehen.

Anwendung und Durchsetzung der KI-Regeln

Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, zuständige nationale Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme überwachen und Marktüberwachungstätigkeiten durchführen. Die Kommission KI-Büro wird das wichtigste Umsetzungsorgan für das KI-Gesetz auf EU-Ebene sein und auch für die Durchsetzung der Regeln für allgemeine KI-Modelle sorgen.

Drei Beratungsgremien werden die Umsetzung der Regeln unterstützen. Europäischer Rat für Künstliche Intelligenz wird eine einheitliche Anwendung des KI-Gesetzes in allen EU-Mitgliedstaaten gewährleisten und als zentrales Gremium für die Zusammenarbeit zwischen der Kommission und den Mitgliedstaaten fungieren. Ein wissenschaftliches Gremium unabhängiger Experten wird technische Beratung und Input zur Durchsetzung bieten. Insbesondere kann dieses Gremium das AI Office über Risiken im Zusammenhang mit allgemeinen KI-Modellen informieren. Das AI Office kann auch Beratung erhalten von ein Beratungsforum, bestehend aus einer vielfältigen Gruppe von Interessenvertretern.

Unternehmen, die sich nicht an die Regeln halten, werden mit Geldbußen belegt. Diese können bei Verstößen gegen verbotene KI-Anwendungen bis zu sieben Prozent des weltweiten Jahresumsatzes betragen, bei Verstößen gegen sonstige Pflichten bis zu drei Prozent und bei der Bereitstellung falscher Informationen bis zu 7 Prozent.

Werbung

Nächste Schritte

Die meisten Vorschriften des KI-Gesetzes treten am 2. August 2026 in Kraft. Verbote von KI-Systemen, die ein inakzeptables Risiko darstellen, gelten jedoch bereits nach sechs Monaten, während die Vorschriften für sogenannte Allzweck-KI-Modelle nach zwölf Monaten gelten.

Um die Übergangszeit bis zur vollständigen Umsetzung zu überbrücken, hat die Kommission das KI-PaktDiese Initiative lädt KI-Entwickler dazu ein, wichtige Verpflichtungen des KI-Gesetzes bereits vor den gesetzlichen Fristen freiwillig zu übernehmen. 

Die Kommission entwickelt außerdem Leitlinien, um die Umsetzung des KI-Gesetzes zu definieren und zu konkretisieren, und erleichtert die Einführung koregulierender Instrumente wie Standards und Verhaltenskodizes. Die Kommission eröffnete eine Aufforderung zur Interessenbekundung zur Mitarbeit an der Ausarbeitung des ersten allgemeinen KI-Verhaltenskodexes sowie eines Konsultation mehrerer Interessengruppen allen Beteiligten die Möglichkeit zu geben, ihre Meinung zum ersten Verhaltenskodex im Rahmen des KI-Gesetzes zu äußern.

Hintergrund

Auf 9 Dezember 2023, der Kommission begrüßte die politische Einigung zum KI-Gesetz. Am 24. Januar 2024 Die Kommission hat ein Maßnahmenpaket auf den Weg gebracht zur Unterstützung europäischer Startups und KMU bei der Entwicklung vertrauenswürdiger KI. Am 29. Mai 2024 hat die Kommission enthüllte das AI Office. Auf 9 Juli 2024 die geänderte EuroHPC JU-Verordnung in Kraft getreten, wodurch der Aufbau von KI-Fabriken ermöglicht wird. Dadurch können dedizierte KI-Supercomputer für das Training von General Purpose AI (GPAI)-Modellen verwendet werden.

Kontinuierliche unabhängige, evidenzbasierte Forschung durch die Gemeinsame Forschungsstelle (GFS) hat bei der Gestaltung der KI-Politik der EU und bei der Gewährleistung ihrer wirksamen Umsetzung eine grundlegende Rolle gespielt.

Mehr Infos

Europäischer Rechtsakt zur künstlichen Intelligenz

Neue Regeln für Künstliche Intelligenz – Fragen und Antworten 

Europäisches KI-Büro | Europas digitale Zukunft gestalten

KI hat das Potenzial, unsere Arbeits- und Lebensweise zu verändern und verspricht enorme Vorteile für die Bürger, unsere Gesellschaft und die europäische Wirtschaft. Der europäische Ansatz zur Technologie stellt den Menschen in den Mittelpunkt und stellt sicher, dass die Rechte aller gewahrt bleiben. Mit dem KI-Gesetz hat die EU einen wichtigen Schritt unternommen, um sicherzustellen, dass die Einführung von KI-Technologie in Europa den EU-Vorschriften entspricht.

Exekutiv-Vizepräsidentin für ein Europa fit für das digitale Zeitalter Margrethe Vestager

Der heutige Tag markiert einen wichtigen Meilenstein in Europas Führungsrolle im Bereich vertrauenswürdiger KI. Mit dem Inkrafttreten des KI-Gesetzes hat die europäische Demokratie einen wirksamen, angemessenen und weltweit einzigartigen Rahmen für KI geschaffen, der Risiken angeht und als Startrampe für europäische KI-Startups dient.

Binnenmarktkommissar Thierry Breton

Teile diesen Artikel: