Sicherere und transparentere KI

Am 2. August 2026 traten neue Regeln zur Transparenz von KI-Systemen in Kraft.

Die Entwicklung der künstlichen Intelligenz schreitet rasant voran, wodurch es zunehmend schwieriger wird, KI-generierte und manipulierte Inhalte von authentischen, von Menschen erstellten Inhalten zu unterscheiden. Dies birgt neue Risiken wie weitverbreitete Desinformation und Manipulation, Betrug, Identitätsdiebstahl und Verbrauchertäuschung.

Die neuen Transparenzpflichten werden Helfen Sie den Menschen zu erkennen, wann sie mit KI interagieren. oder sind ausgesetzt KI-generierten Inhaltendamit sie fundierte Entscheidungen treffen und sich besser vor Fehlinformationen oder Täuschung schützen können. 

Transparenzverpflichtungen für Anbieter und Anwender bestimmter KI-Systeme

• Kennzeichnung und Etikettierung von KI-generierten Inhalten: Bestimmte KI-generierte oder -manipulierte Inhalte müssen klar und deutlich gekennzeichnet und mit maschinenlesbaren Markierungen versehen werden. Die EU hat dazu ein System geschaffen, das… Satz von Symbolen die für diesen Zweck verwendet werden können. Dies gilt für
  • Bilder, Audio- und Videoinhalte, die existierenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln (Deepfakes).
  • Werkzeuge zur Emotionserkennung und biometrischen Kategorisierung
  • Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, bei denen keine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat. 
• Transparenz bei der Interaktion mit einem KI-System: Die Nutzer müssen klar darüber informiert werden, wenn sie nicht mit einer realen Person, sondern mit einem KI-System interagieren, beispielsweise mit einem Chatbot, einem KI-Agenten oder einem Avatar.

Die Kommission hat veröffentlicht Richtlinien Die Leitlinien sollen Anbieter und Anwender von KI-Systemen bei der Erfüllung dieser Transparenzpflichten unterstützen. Sie erläutern, wie die Einhaltung nachgewiesen werden kann, unter anderem durch die Befolgung bestimmter Kriterien. Code of Practice.

Durchsetzung der Regeln und Sanktionen

Nationale Marktüberwachungsbehörden, das Europäische KI-Büro (für Systeme, die seiner Aufsicht unterstehen) und die Europäischer Datenschutzbeauftragter (Wenn EU-Institutionen als Anbieter oder Implementierer auftreten) sind sie für die Durchsetzung der Transparenzregeln verantwortlich und können Bußgelder verhängen.       

• bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes für Unternehmen
• bis zu 750 € für EU-Institutionen, -Einrichtungen und -Agenturen 
• unter Berücksichtigung der Verhältnismäßigkeit für kleine und mittlere Unternehmen (KMU) und kleine mittelständische Unternehmen (KMU).

Das KI-Gesetz Das Gesetz trat am 1. August 2024 in Kraft. Seine Bestimmungen gelten stufenweise, wobei verschiedene Verpflichtungen zu unterschiedlichen Zeitpunkten wirksam werden. Das Gesetz schafft einen Binnenmarkt und harmonisierte Regeln für vertrauenswürdige KI in der EU und fördert KI-Innovation und -Nutzung. Außerdem behandelt potenzielle Risiken zur Gesundheit, Sicherheit und den Grundrechten der Menschen, während Wahrung der Demokratie und der RechtsstaatlichkeitDie Gewährleistung einer effektiven Umsetzung ist nun eine zentrale Priorität der Kommission.

Weitere Informationen

Pressemitteilung: Kommission beginnt mit der Durchsetzung der Regeln des KI-Gesetzes

Pressemitteilung: Leitlinien zu Transparenzpflichten

Häufig gestellte Fragen: Transparenzpflichten

Kurzinfo: Transparenzregeln für KI-Systeme

Künstliche Intelligenz für die Menschen nutzbar machen

Künstliche Intelligenz

Teile diesen Artikel: