Vernetzen Sie sich mit uns

Geschäft

Verifizieren #BigTech verspricht

SHARE:

Veröffentlicht

on

Wir verwenden Ihre Anmeldung, um Inhalte auf eine Weise bereitzustellen, der Sie zugestimmt haben, und um unser Verständnis von Ihnen zu verbessern. Sie können sich jederzeit abmelden.

Das Muster im Silicon Valley ist zu vertraut. Beeilen Sie sich, machen Sie Dinge kaputt, entschuldigen Sie sich, versprechen Sie, es besser zu machen, und wiederholen Sie es. Nach fast zwei Jahrzehnten dieses Musters sind wir erschöpft, schreibt Hany Farid.

Wir sind erschöpft von den spektakulären Versäumnissen beim Schutz der Privatsphäre der Nutzer, die es Werbetreibenden ermöglichen, Wohnungs- und Stellenanzeigen illegal auf Rasse und Alter auszurichten, Fake News zu verbreiten, die zu Gewalt anstiften und Wahlen stören sollen, und die es Terrorgruppen ermöglichen, sich weiterhin zu radikalisieren und online zu rekrutieren. Wir sind erschöpft von den Entschuldigungen und den Versprechen, es besser zu machen.

Politische Entscheidungsträger und Werbetreibende äußern zunehmend ihre Frustration darüber, dass Social-Media-Unternehmen nicht aggressiv gegen alles vorgehen, von radikalisierendem, terroristischem Material bis hin zu sexuell expliziten Inhalten, die sich an Kinder richten. Als Reaktion darauf gab YouTube erst letzte Woche bekannt, dass in den letzten drei Monaten über 8 Millionen Videos entfernt wurden, bei denen es sich größtenteils um Spam oder Inhalte für Erwachsene handelte. Insgesamt 6.7 Millionen der gelöschten Inhalte wurden automatisch von Maschinen identifiziert, 76 % davon wurden entfernt, bevor sie einen einzigen Aufruf erhielten.

YouTube berichtet außerdem, dass mehr als die Hälfte der gewalttätigen Extremismusvideos mit weniger als zehn Aufrufen entfernt wurden. Uns wird jedoch nicht mitgeteilt, wie viele dieser Videos entfernt wurden, und natürlich wissen wir nicht, wie viele Videos weiterhin online sind, weil sie von den YouTube-Algorithmen oder menschlichen Moderatoren übersehen wurden.

Oberflächlich betrachtet klingen diese Zahlen vielversprechend, doch bei näherer Betrachtung ergibt sich ein anderes Bild. Über einen Zeitraum von sieben Wochen zwischen dem 8. März und dem 26. April dieses Jahres haben wir mithilfe unserer eigenen Technologie die Präsenz von nur 256 zuvor identifizierten, von ISIS erstellten Videos mit Terrorbezug auf der YouTube-Plattform identifiziert. Folgendes haben wir gelernt:

  1. Nicht weniger als 942 ISIS-Videos wurden auf YouTube hochgeladen.

    Werbung
  2. Diese 942 Videos erzielten insgesamt 134,644 Aufrufe.

  3. Obwohl 74 % der Videos weniger als zwei Stunden auf YouTube blieben, erzielten diese Videos innerhalb dieses Zeitfensters durchschnittlich jeweils 12 Aufrufe, mit einer maximalen Aufrufzahl von 252.

  4. Bei Videos, die länger als zwei Stunden verfügbar waren, betrug die durchschnittliche Anzahl der Aufrufe über ein 48-Stunden-Fenster 515 mit einer maximalen Anzahl von Aufrufen von 9,589 (nach einem 48-Stunden-Fenster haben wir die Verfolgung der Aufrufe eingestellt).

  5. Diese 942 Videos wurden von 157 verschiedenen YouTube-Konten hochgeladen, von denen einige bis zu 70 Videos hochgeladen haben, bevor der Kanal entweder von YouTube-Administratoren entfernt oder vom Nutzer gelöscht wurde.

  6. Ungefähr 91 % der von uns gefundenen Videos wurden mehr als einmal hochgeladen und blieben mindestens lange genug online, damit wir sie finden konnten.

Um nur ein konkretes Beispiel zu nennen: ein Video mit dem Titel Jage sie, O'Monotheist, ursprünglich am 25. Dezember 2017 vom somalischen Ableger des IS veröffentlicht, ermutigt zu Angriffen mit Schusswaffen und Fahrzeugen in westlichen Ländern, darunter Paris und London. Dieses Video wurde am 10. März 2018 auf YouTube hochgeladen, war 29 Stunden lang verfügbar und erhielt 405 Aufrufe, bevor es entfernt wurde. Dieses Video wurde am 11. März von einem anderen Konto erneut hochgeladen und war 39 Stunden lang verfügbar und erhielt 113 Aufrufe, bevor es erneut entfernt wurde. Dieses Video wurde dann erneut hochgeladen und im Laufe des siebenwöchigen Zeitfensters noch mindestens sechs Mal gelöscht, was insgesamt weitere 875 Aufrufe ergab.

Aus unserer Analyse sind einige Muster hervorgegangen. Obwohl behauptet wird, dass das Unternehmen automatische Tools einsetzt, um terroristische Inhalte zu finden und zu entfernen, beobachten wir, dass immer wieder dieselben Inhalte auf YouTube hochgeladen werden, oft über dasselbe Konto. Dieser Inhalt bleibt stunden- bis tagelang online und wird hunderte bis tausende Male angesehen. Sobald derselbe Inhalt entfernt wurde, wird er einfach erneut hochgeladen, sodass er jederzeit effektiv verfügbar ist. Wenn eine kleine gemeinnützige Organisation wie das Counter Extremism Project mit begrenzten Finanz- und Rechenressourcen Inhalte auf diesen Plattformen finden kann, sehen wir keinen Grund, warum die Plattformen selbst nicht dasselbe tun können.

Das Fazit ist, dass zu viele terroristische Inhalte ihren Weg ins Internet finden, zu lange online bleiben und immer wieder auftauchen, selbst wenn sie irgendwann entfernt werden.

Obwohl wir im Vergleich zu vor einigen Jahren einige Fortschritte gesehen haben, gibt es immer noch erhebliche Lücken in der Entwicklung und dem Einsatz von Technologie, um terroristische Inhalte schnell und genau zu finden und zu entfernen. Zusätzlich zur Verbesserung bestehender Technologien muss die Branche mehr tun, um neue Technologien zu entwickeln und einzusetzen, um mit einer sich ständig verändernden Landschaft zurechtzukommen – und dies muss über vage Versprechen hinausgehen, KI in fünf bis zehn Jahren zur Lösung unserer Probleme einzusetzen steht heute vor der Tür.

Politische Entscheidungsträger, Werbetreibende und die Öffentlichkeit müssen Technologieunternehmen weiterhin unter Druck setzen, mehr Verantwortung für den direkten und messbaren Schaden zu übernehmen, der durch den Missbrauch auf ihren Plattformen entsteht. Wenn diese Technologieunternehmen nicht effektiver reagieren, sollten die politischen Entscheidungsträger Bußgelder in Betracht ziehen (wie es die Deutschen getan haben) und Werbetreibende sollten erwägen, Werbegelder einzubehalten (wie Unilever damit gedroht hat).

Dr. Hany Farid ist Albert Bradley 1915 Third Century Professor und Lehrstuhlinhaber für Informatik am Dartmouth College sowie leitender Berater des Counter Extremism Project.

Teile diesen Artikel:

EU Reporter veröffentlicht Artikel aus einer Vielzahl externer Quellen, die ein breites Spektrum an Standpunkten zum Ausdruck bringen. Die in diesen Artikeln vertretenen Positionen sind nicht unbedingt die von EU Reporter.

Trending