OASI, die erste Suchmaschine, die die Algorithmen findet, die Regierungen und Unternehmen bei Bürgern verwenden

• Das von der Eticas Foundation gegründete Observatory of Algorithms with Social Impact, OASI, sammelt Informationen von Dutzenden von Algorithmen, die von öffentlichen Verwaltungen und Unternehmen auf der ganzen Welt verwendet werden, um mehr über ihre sozialen Auswirkungen zu erfahren.
  
• Ziel ist es, der Öffentlichkeit Zugang zu Informationen sowohl über Regierungen als auch über Unternehmensalgorithmen zu verschaffen und unter anderem zu wissen, wer sie verwendet, wer sie entwickelt, welche Bedrohungen sie darstellen und ob sie geprüft wurden.

• Algorithmus-Bias und -Diskriminierung treten normalerweise unter anderem aufgrund von Alter, Geschlecht, Rasse oder Behinderung auf, aber aufgrund der allgemeinen Intransparenz ist es immer noch nicht möglich, alle Konsequenzen für die betroffenen Gruppen zu kennen.

Die Eticas Foundation, eine gemeinnützige Organisation, die den verantwortungsvollen Einsatz von Algorithmen und Systemen der künstlichen Intelligenz (KI) fördert, hat das Observatory of Algorithms with Social Impact (OASI) gegründet. Diese Beobachtungsstelle führt eine Suchmaschine ein, um mehr über die Tools zu erfahren, die wichtige automatisierte Entscheidungen über Bürger, Verbraucher und Benutzer auf der ganzen Welt treffen.

Derzeit automatisieren sowohl Unternehmen als auch öffentliche Verwaltungen Entscheidungen dank Algorithmen. Jedoch, seine Entwicklung und Inbetriebnahme folgt weder externen Qualitätskontrollen noch ist es so transparent, wie es sein sollte, was die Bevölkerung ungeschützt lässt. Mit dieser Suchmaschine kann jeder mehr über diese Algorithmen erfahren: wer sie entwickelt hat, wer sie verwendet, ihren Anwendungsbereich, ob sie auditiert wurden, ihre Ziele oder ihre gesellschaftlichen Auswirkungen und die Bedrohungen, die sie darstellen.

Im Augenblick, OASI sammelt 57 Algorithmen, rechnet aber damit, die 100 in den folgenden Monaten zu erreichen. Davon werden 24 bereits in den USA von der Regierung und von Big-Tech-Unternehmen angewendet. Zum Beispiel ShotSpotter, ein Algorithmus-Tool, das vom Oakland Police Department eingesetzt wird, um Waffengewalt durch Tonüberwachungsmikrofone zu bekämpfen und zu reduzieren, und ein Algorithmus zur Vorhersage von potenziellem Kindesmissbrauch und -vernachlässigung, der von Allegheny County, Pennsylvania, verwendet wird. Ein weiteres Beispiel aus einem Unternehmen ist Rekognition, das Gesichtserkennungssystem von Amazon, das Anfang 2019 vom MIT Media Lab geprüft wurde und bei der Identifizierung des Geschlechts einer Person, die weiblich oder dunkler ist, wesentlich schlechter abschneidet.

Die häufigste Diskriminierung erfolgt aufgrund von Alter, Geschlecht, Rasse oder Behinderung, unbeabsichtigt von Entwicklern erstellt, denen es an sozioökonomischen Fähigkeiten mangelt, um die Auswirkungen dieser Technologie zu verstehen. In diesem Sinne entwerfen diese Ingenieure die Algorithmen nur auf der Grundlage technischer Fähigkeiten, und da es keine externen Kontrollen gibt und es wie erwartet zu funktionieren scheint, lernt der Algorithmus immer wieder aus mangelhaften Daten.

Angesichts des Mangels an Transparenz über die Funktionsweise einiger dieser Algorithmen entwickelt die Eticas Foundation, abgesehen von der Einführung von OASI, ein Projekt externer Audits. Der erste ist VioGén, der Algorithmus, der vom spanischen Innenministerium verwendet wird, um Frauen, die Schutz suchen, nachdem sie Fälle von häuslicher Gewalt erlitten haben, Risiken zuzuordnen. Eticas führt eine externe Prüfung durch Reverse Engineering und administrative Daten, Interviews, Berichte oder Designskripte durch, um Ergebnisse in großem Maßstab zu sammeln. All dies mit dem Ziel, Verbesserungsmöglichkeiten beim Schutz dieser Frauen aufzudecken.

„Obwohl es algorithmische Kontroll- und Prüfmethoden gibt, um sicherzustellen, dass die Technologie die geltenden Vorschriften und Grundrechte respektiert, hören die Verwaltung und viele Unternehmen weiterhin taub gegenüber Forderungen von Bürgern und Institutionen nach Transparenz“, erklärte Gemma Galdon, Gründerin der Eticas Foundation . „Neben OASI haben wir nach mehreren Jahren, in denen wir mehr als ein Dutzend Audits für Unternehmen wie Alpha Telefónica, die Vereinten Nationen, Koa Health oder die Inter-American Development Bank entwickelt haben, auch einen Guide to Algorithmic Audit veröffentlicht dass jeder sie ausführen kann. Ziel ist es immer, das Bewusstsein zu schärfen, Transparenz zu schaffen und das Vertrauen in die Technik wiederherzustellen, was an sich nicht schädlich sein muss.“

In diesem Sinne werden Algorithmen, die mit Techniken des maschinellen Lernens trainiert werden, mithilfe einer großen Menge historischer Daten „beigebracht“, Entscheidungen auf der Grundlage früherer Entscheidungen zu treffen. Diese Daten sind in der Regel nicht repräsentativ für die sozioökonomische und kulturelle Realität, auf die sie angewendet werden, spiegeln aber oft eine unfaire Situation wider, die nicht fortbestehen soll. Auf diese Weise würde der Algorithmus technisch gesehen „richtige“ Entscheidungen gemäß seinem Training treffen, auch wenn seine Empfehlungen oder Vorhersagen in Wirklichkeit voreingenommen oder diskriminierend sind.

Über die Eticas-Stiftung

Die Eticas Foundation arbeitet daran, die Prinzipien, die die Gesellschaft leiten, wie Chancengleichheit, Transparenz und Nichtdiskriminierung, die in den Technologien enthalten sind, die automatisierte Entscheidungen über unser Leben treffen, in technische Spezifikationen zu übersetzen. Sie sucht eine Balance zwischen sich ändernden gesellschaftlichen Werten, den technischen Möglichkeiten der neuesten Errungenschaften und den rechtlichen Rahmenbedingungen. Zu diesem Zweck prüft es Algorithmen, überprüft die Anwendung rechtlicher Garantien für die digitale Welt, insbesondere für Künstliche Intelligenz, und betreibt intensive Arbeit, um das Bewusstsein zu schärfen und die Notwendigkeit einer verantwortungsvollen, qualitativ hochwertigen Technologie zu verbreiten.

Teile diesen Artikel: