#ArtificialIntelligence - Laut #EESC sollte das EU-Recht sichere Grenzen für Anwendungen mit hohem Risiko setzen

Biometrische Erkennung zur Verfolgung, Überwachung und Emotionserkennung sollte im menschenzentrierten europäischen Ansatz zur Künstlichen Intelligenz (KI) keinen Platz haben, sagt die Europäischer Wirtschafts- und Sozialausschuss (EWSA) in seiner Reaktion auf das Weißbuch der Europäischen Kommission zur KI, vom Plenum des EWSA im Juli angenommen.

Die Europäische Kommission hat vorgeschlagen, einen AI-Antrag als risikoreich zu betrachten, wenn er mit wenigen Ausnahmen sowohl einen Hochrisikosektor (Gesundheitswesen, Verkehr, Energie und Teile des öffentlichen Sektors) als auch eine Hochrisikonutzung umfasst noch zu definieren. Nur wenn diese beiden Bedingungen erfüllt sind, sollten wir, so die Kommission, über Hochrisiko-KI sprechen, die unter spezifische Vorschriften und Governance-Strukturen fallen würde.

Der EWSA ist der Ansicht, dass diese Definition potenziell gefährliche Schlupflöcher birgt. Die politische Werbung von Facebook sei hierfür ein Paradebeispiel, so der Ausschuss.

„Werbung ist ein Sektor mit geringem Risiko, und die Nachrichtenaggregationsfunktion von Facebook kann als risikoarm angesehen werden. Allerdings“, argumentiert die Berichterstatterin Catelijne Muller, „haben wir im Wahlkampf gesehen, dass die Verbreitung von Fake News und mithilfe künstlicher Intelligenz generierten Deepfakes über Facebook viele negative Auswirkungen haben und das Wahlverhalten der Menschen beeinflussen kann, wobei es auch zu Einmischungen von außerhalb Europas kommen kann.“

Sollte es Ausnahmen geben, und wie viele sollte es geben? Anstatt eine Liste von Ausnahmen zu erstellen, ist es nach Ansicht des EWSA besser, eine Liste gemeinsamer Merkmale zu erstellen, die unabhängig vom Sektor als risikoreich gelten.

Viele Anwendungen hätten erhebliche Auswirkungen auf die Grundrechte, betont Müller. Dabei gehe es nicht nur um die Privatsphäre der Menschen, sondern etwa auch um ihr Demonstrationsrecht oder das Recht, einer Gewerkschaft beizutreten.

Die dunkle Seite der biometrischen Erkennung

Gesichts- und biometrische Erkennung sind ein Schlüsselbereich, in dem KI Grundrechte berührt. Ihre Nutzung kann zur persönlichen Identifizierung erlaubt sein – und wird tatsächlich durch die Datenschutz-Grundverordnung geregelt.

Der weit verbreitete Einsatz von KI-gestützter biometrischer Erkennung zur Überwachung oder zur Verfolgung, Bewertung oder Kategorisierung menschlichen Verhaltens oder menschlicher Emotionen sollte jedoch verboten werden. Dies gilt umso mehr, als es keinerlei wissenschaftliche Beweise dafür gibt, dass wir die Gefühle einer Person anhand ihrer Biometrie erkennen können, betont Muller.

COVID-19 Tracking- und Tracing-Apps

Der EWSA warnt auch vor einer unkontrollierten Zunahme von Tracking- und Tracing-Technologien, die viel schneller und mit viel weniger Kontrolle als zuvor in unsere Gesellschaft gelangen, um den Ausbruch des Coronavirus zu bekämpfen.

„KI-Techniken und -Ansätze zur Bekämpfung der Pandemie sollten genauso robust, wirksam, transparent und erklärbar sein wie jede andere KI-Technik in jeder anderen Situation“, so der EWSA-Berichterstatter. „Sie müssen Menschenrechte, ethische Grundsätze und Rechtsvorschriften wahren. Zudem sollten sie freiwillig sein, denn ob es uns gefällt oder nicht, viele während der Krise eingeführte Techniken werden dauerhaft eingesetzt.“

Der EWSA hofft, dass die Kommission ihre Beiträge berücksichtigen wird, wie dies auch die Empfehlungen des EWSA seit seiner Einführung getan haben bahnbrechende Meinung zu AI im Jahr 2017, das als erstes in Europa einen Ansatz zur künstlichen Intelligenz vertrat, bei dem der Mensch die Kontrolle hat.

Hintergrund

Das Weißbuch zur KI, Teil eines umfassenden Maßnahmenpakets zur KI, das in der Mitteilung der Europäischen Kommission „Die digitale Zukunft Europas gestalten“ angekündigt wurde, schlägt Folgendes vor:

• Maßnahmen zur Straffung der Forschung, zur Förderung der Zusammenarbeit zwischen den Mitgliedstaaten und zur Förderung von Investitionen in KI;
• politische Optionen für einen künftigen EU-Rechtsrahmen für KI mit einem starken Fokus auf Anwendungen mit hohem Risiko.

Im Februar 2020 leitete die Kommission eine öffentliche Konsultation zum Weißbuch ein, die bis zum 14. Juni lief und über 1 200 Antworten auf die Fragebögen und rund 700 schriftliche Eingaben enthielt. Die Kommission verarbeitet diese Eingaben derzeit und wird in Kürze einen Bericht veröffentlichen.

Die Gestaltung der digitalen Zukunft Europas skizziert die Maßnahmen, die die Europäische Kommission ergreifen will, um ein Europa für das digitale Zeitalter fit zu machen – eine der obersten Prioritäten Ursula von der Leyens als Präsidentin der EU-Exekutive. Das Projekt basiert auf drei Grundpfeilern:

• Technologie, die für die Menschen funktioniert;
• eine faire und wettbewerbsfähige digitale Wirtschaft und
• eine offene, demokratische und nachhaltige Gesellschaft.

Der EWSA hat seine Ratschläge zu gegeben „Die digitale Zukunft Europas gestalten" in einem , der ebenfalls auf der Juli-Plenartagung des EWSA angenommen wurde, mit einer zentralen Empfehlung:

„Die rasante Entwicklung des digitalen Wandels bedeutet, dass wir nicht wissen, welche neuen Entwicklungen uns im nächsten Monat erwarten. Wir müssen daher flexibel und anpassungsfähig sein. Dies erfordert einen ständigen Dialog zwischen allen Beteiligten. Der EWSA sollte als Sprachrohr der organisierten Zivilgesellschaft daran beteiligt sein, und wir fordern die Kommission auf, einen solchen ständigen Dialog einzurichten“, erklärte der Berichterstatter Ulrich Samm.

Teile diesen Artikel: