#ArtificialIntelligence - Laut #EESC sollte das EU-Recht sichere Grenzen für Anwendungen mit hohem Risiko setzen

Die biometrische Erkennung zur Verfolgung, Überwachung und Erkennung von Emotionen sollte in Europas menschenzentriertem Ansatz zur künstlichen Intelligenz (KI) keinen Platz haben Europäischer Wirtschafts- und Sozialausschuss (EWSA) in seiner Antwort auf das Weißbuch der Europäischen Kommission zur KI, vom Plenum des EWSA im Juli angenommen.

Die Europäische Kommission hat vorgeschlagen, einen AI-Antrag als risikoreich zu betrachten, wenn er mit wenigen Ausnahmen sowohl einen Hochrisikosektor (Gesundheitswesen, Verkehr, Energie und Teile des öffentlichen Sektors) als auch eine Hochrisikonutzung umfasst noch zu definieren. Nur wenn diese beiden Bedingungen erfüllt sind, sollten wir, so die Kommission, über Hochrisiko-KI sprechen, die unter spezifische Vorschriften und Governance-Strukturen fallen würde.

Der EWSA ist der Ansicht, dass diese Definition die Gefahr birgt, potenziell gefährliche Lücken zu schaffen. Die politische Werbung von Facebook sei ein Paradebeispiel, sagt der Ausschuss.

"Werbung ist ein risikoarmer Sektor, und die Nachrichtenaggregationsfunktion von Facebook kann als risikoarme Nutzung angesehen werden." Allerdings argumentiert die Meinungsberichterstatterin Catelijne Muller, "haben wir im Wahlkampf gesehen, dass die Verbreitung gefälschter Nachrichten und Deepfakes auf Facebook entstanden ist mit Hilfe der KI kann viele negative Auswirkungen haben und Einfluss darauf haben, wie Menschen wählen, mit Einmischung auch von außerhalb Europas. "

Sollte es Ausnahmen geben, und wie viele sollte es geben? Anstatt eine Liste von Ausnahmen zu erstellen, ist es nach Ansicht des EWSA besser, eine Liste gemeinsamer Merkmale zu erstellen, die unabhängig vom Sektor als risikoreich gelten.

Viele Anträge haben einen starken Einfluss auf die Grundrechte, betont Müller, nicht nur auf die Privatsphäre der Menschen, sondern auch auf ihr Recht, beispielsweise zu demonstrieren oder einer Gewerkschaft beizutreten.

Die dunkle Seite der biometrischen Erkennung

Werbung

Die Gesichts- und biometrische Erkennung ist ein Schlüsselbereich, in dem die KI die Grundrechte berührt. Ihre Verwendung kann zu Zwecken der persönlichen Identifizierung gestattet sein - und ist in der Tat in der Allgemeinen Datenschutzverordnung geregelt.

Die weit verbreitete Verwendung von KI-gesteuerter biometrischer Erkennung zur Überwachung oder zur Verfolgung, Bewertung oder Kategorisierung menschlichen Verhaltens oder menschlicher Emotionen sollte jedoch verboten werden. Umso mehr, als es keinerlei wissenschaftliche Beweise dafür gibt, dass wir die Gefühle einer Person anhand ihrer Biometrie erkennen können, betont Müller.

COVID-19 Tracking- und Tracing-Apps

Der EWSA warnt auch vor einer unkontrollierten Zunahme von Tracking- und Tracing-Technologien, die viel schneller und mit viel weniger Kontrolle als zuvor in unsere Gesellschaft gelangen, um den Ausbruch des Coronavirus zu bekämpfen.

"KI-Techniken und Ansätze zur Bekämpfung der Pandemie sollten genauso robust, effektiv, transparent und erklärbar sein wie jede andere KI-Technik in jeder anderen Situation", sagt der EWSA-Berichterstatter. "Sie sollten die Menschenrechte, ethischen Grundsätze und Gesetze wahren. Sie sollten auch freiwillig sein, denn ob es uns gefällt oder nicht, viele Techniken, die während der Krise eingeführt wurden, werden dauerhaft sein."

Der EWSA hofft, dass die Kommission ihre Beiträge berücksichtigen wird, wie dies auch die Empfehlungen des EWSA seit seiner Einführung getan haben bahnbrechende Meinung zu AI im Jahr 2017, die sich zuerst für einen "Human in Command" -Ansatz zur KI in Europa einsetzte.

Hintergrund

Das Weißbuch zur KI, Teil eines umfassenden Maßnahmenpakets zur KI, das in der Mitteilung der Europäischen Kommission zur Gestaltung der digitalen Zukunft Europas angekündigt wurde, lautet:

• Maßnahmen zur Straffung der Forschung, zur Förderung der Zusammenarbeit zwischen den Mitgliedstaaten und zur Förderung von Investitionen in KI;
• politische Optionen für einen künftigen EU-Rechtsrahmen für KI mit einem starken Fokus auf Anwendungen mit hohem Risiko.

Im Februar 2020 leitete die Kommission eine öffentliche Konsultation zum Weißbuch ein, die bis zum 14. Juni lief und über 1 200 Antworten auf die Fragebögen und rund 700 schriftliche Eingaben enthielt. Die Kommission verarbeitet diese Eingaben derzeit und wird in Kürze einen Bericht veröffentlichen.

Die Gestaltung der digitalen Zukunft Europas beschreibt die Maßnahmen, die die Europäische Kommission ergreifen will, um ein Europa zu gewährleisten, das für das digitale Zeitalter geeignet ist. Dies ist eine der Hauptprioritäten von Ursula von der Leyen für ihre Zeit als Präsidentin der europäischen Exekutive. Es basiert auf drei Grundpfeilern:

• Technologie, die für die Menschen funktioniert;
• eine faire und wettbewerbsfähige digitale Wirtschaft und
• eine offene, demokratische und nachhaltige Gesellschaft.

Der EWSA hat seine Ratschläge zu gegeben "Die digitale Zukunft Europas gestalten" in a, ebenfalls auf der Plenarsitzung des EWSA im Juli verabschiedet, mit einer wichtigen Empfehlung:

"Die bloße Geschwindigkeit der digitalen Transformation bedeutet, dass wir nicht wissen, welche neuen Entwicklungen im nächsten Monat kommen werden. Wir müssen daher flexibel und anpassungsfähig sein. Dies erfordert einen ständigen Dialog zwischen allen beteiligten Parteien. Der EWSA als Stimme der organisierten Zivilbevölkerung Die Gesellschaft sollte ein Teil davon sein, und wir fordern die Kommission auf, einen solchen ständigen Dialog aufzunehmen ", sagte der Berichterstatter Ulrich Samm.

Teile diesen Artikel: