EU-KI-Gesetz: Erste Verordnung zu künstlicher Intelligenz 

Der Einsatz künstlicher Intelligenz in der EU wird durch das KI-Gesetz, das weltweit erste umfassende KI-Gesetz, geregelt. Finden Sie heraus, wie es Sie schützt, Gesellschaft.

Als Teil seiner digitale StrategieDie EU will künstliche Intelligenz (KI) regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. KI kann viele Vorteile schaffen, wie zum Beispiel eine bessere Gesundheitsversorgung; sicherer und sauberer Transport; effizientere Fertigung; und billigere und nachhaltigere Energie.

Im April 2021 schlug die Europäische Kommission den ersten EU-Rechtsrahmen für KI vor. Darin heißt es, dass KI-Systeme, die in unterschiedlichen Anwendungen eingesetzt werden können, nach ihrem Risiko für Nutzer analysiert und klassifiziert werden. Aufgrund der unterschiedlichen Risikoniveaus wird es mehr oder weniger Regulierung geben. Nach der Verabschiedung werden dies die weltweit ersten Regeln für KI sein.

Mehr über erfahren Was künstliche Intelligenz ist und wie sie eingesetzt wird.

Was das Parlament von der KI-Gesetzgebung will

Die Priorität des Parlaments Ziel ist es sicherzustellen, dass in der EU eingesetzte KI-Systeme sicher, transparent, nachvollziehbar, nichtdiskriminierend und umweltfreundlich sind. KI-Systeme sollten von Menschen und nicht von Automatisierung überwacht werden, um schädliche Folgen zu verhindern.

Das Parlament möchte außerdem eine technologieneutrale, einheitliche Definition für KI festlegen, die auf zukünftige KI-Systeme angewendet werden könnte.

Mehr über erfahren Die Arbeit des Parlaments zur KI und sein Vision für die Zukunft der KI.

KI-Gesetz: unterschiedliche Regeln für unterschiedliche Risikostufen

Die neuen Regeln legen Pflichten für Anbieter und Nutzer fest, abhängig vom Grad des Risikos durch künstliche Intelligenz. Obwohl viele KI-Systeme ein minimales Risiko darstellen, müssen sie bewertet werden.

Inakzeptables Risiko

KI-Systeme mit inakzeptablem Risiko gelten als Systeme, die eine Bedrohung für Menschen darstellen und verboten werden. Sie beinhalten:

• Kognitive Verhaltensmanipulation von Menschen oder bestimmten gefährdeten Gruppen: zum Beispiel sprachaktiviertes Spielzeug, das gefährliches Verhalten bei Kindern fördert
• Soziales Scoring: Klassifizierung von Personen anhand ihres Verhaltens, ihres sozioökonomischen Status oder ihrer persönlichen Merkmale
• Biometrische Identifikationssysteme in Echtzeit und aus der Ferne, wie z. B. Gesichtserkennung

Einige Ausnahmen können zulässig sein: Beispielsweise dürfen „postbasierte“ biometrische Fernidentifizierungssysteme, bei denen die Identifizierung mit erheblicher Verzögerung erfolgt, schwere Straftaten strafrechtlich verfolgen, jedoch nur nach gerichtlicher Genehmigung.

Hohes Risiko

KI-Systeme, die sich negativ auf die Sicherheit oder Grundrechte auswirken, gelten als risikoreich und werden in zwei Kategorien eingeteilt:

1) KI-Systeme, die in den darunter fallenden Produkten verwendet werden die Produktsicherheitsgesetzgebung der EU. Dazu gehören Spielzeug, Luftfahrt, Autos, medizinische Geräte und Aufzüge.

2) KI-Systeme fallen in acht spezifische Bereiche, die in einer EU-Datenbank registriert werden müssen:

• Biometrische Identifizierung und Kategorisierung natürlicher Personen
• Management und Betrieb kritischer Infrastruktur
• Bildung und Berufsausbildung
• Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit
• Zugang zu und Nutzung wesentlicher privater Dienste und öffentlicher Dienste und Vorteile
• Strafverfolgung
• Migrations-, Asyl- und Grenzkontrollmanagement
• Unterstützung bei der rechtlichen Auslegung und Anwendung des Gesetzes.

Alle KI-Systeme mit hohem Risiko werden vor der Markteinführung und auch während ihres gesamten Lebenszyklus bewertet.

Generative KI

Generative KI müsste wie ChatGPT Transparenzanforderungen erfüllen:

• Offenlegung, dass der Inhalt von KI generiert wurde
• Entwerfen des Modells, um zu verhindern, dass illegale Inhalte generiert werden
• Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für Schulungen verwendet werden

Begrenztes Risiko

KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen, die es Benutzern ermöglichen würden, fundierte Entscheidungen zu treffen. Nach der Interaktion mit den Anwendungen kann der Benutzer dann entscheiden, ob er diese weiterhin verwenden möchte. Benutzer sollten darauf aufmerksam gemacht werden, wenn sie mit KI interagieren. Dazu gehören KI-Systeme, die Bild-, Audio- oder Videoinhalte generieren oder manipulieren, beispielsweise Deepfakes.

Nächste Schritte

Am 14. Juni 2023 verabschiedeten die Abgeordneten Verhandlungsposition des Parlaments zum KI-Gesetz. Nun beginnen die Gespräche mit den EU-Ländern im Rat über die endgültige Ausgestaltung des Gesetzes.

Ziel ist es, bis Ende dieses Jahres eine Einigung zu erzielen.

Mehr zu den digitalen Maßnahmen der EU

• Gefahren von Kryptowährungen und die Vorteile der EU-Gesetzgebung
• Bekämpfung der Cyberkriminalität: Erklärung der neuen EU-Cybersicherheitsgesetze
• Förderung des Datenaustauschs in der EU: Was sind die Vorteile?
• EU-Gesetz über digitale Märkte und Gesetz über digitale Dienstet
• Fünf Wege, wie das Europäische Parlament Online-Gamer schützen will

Anweisung 

• Gesetz über künstliche Intelligenz

Teile diesen Artikel: