Gesetze zur Verhinderung des KI-Terrorismus sind dringend erforderlich

Laut einer Denkfabrik zur Bekämpfung von Extremismus sollten Regierungen „dringend“ neue Regelungen in Betracht ziehen, um zu verhindern, dass künstliche Intelligenz Terroristen rekrutiert..

Das Institute for Strategic Dialogue (ISD) erklärte, es bestehe ein „klarer Bedarf an einer Gesetzgebung, um mit den Bedrohungen Schritt zu halten“, die von Terroristen im Internet ausgehen.

Dies geschah im Anschluss an ein Experiment, bei dem ein Chatbot den unabhängigen Prüfer der Terrorgesetzgebung für das Vereinigte Königreich „rekrutierte“.

Die Regierung des Vereinigten Königreichs hat erklärt, sie werde „alles in ihrer Macht Stehende“ tun, um die Öffentlichkeit zu schützen.

Laut Jonathan Hall KC, einem unabhängigen Gutachter der Regierung für Terrorismusgesetze, besteht eines der wichtigsten Probleme darin, dass „es schwierig ist, eine Person zu identifizieren, die rechtlich für von Chatbots generierte Aussagen verantwortlich sein könnte, die zum Terrorismus aufrufen.“

Ein Experiment wurde von Herrn Hall auf Character.ai durchgeführt, einer Website, die es Benutzern ermöglicht, an Chats mit Chatbots teilzunehmen, die von anderen Benutzern erstellt und durch künstliche Intelligenz entwickelt wurden.

Er unterhielt sich mit verschiedenen Bots, die offenbar darauf ausgelegt waren, die Antworten anderer militanter und extremistischer Gruppen nachzuahmen.

Ein Spitzenführer des Islamischen Staats wurde sogar als „hochrangiger Anführer“ bezeichnet.

Laut Herrn Hall versuchte der Bot, ihn zu rekrutieren und erklärte, er sei der extremistischen Gruppe „völlige Hingabe und Ergebenheit“ zugesichert worden, was im Vereinigten Königreich durch die Gesetze gegen Terrorismus verboten ist.

Andererseits erklärte Herr Hall, dass im Vereinigten Königreich kein Gesetzesverstoß vorliege, da die Kommunikation nicht von einem Menschen erstellt worden sei.

Ihm zufolge sollten neue Vorschriften sowohl die Websites, die Chatbots hosten, als auch die Personen, die sie erstellen, haftbar machen.

Zu den Bots, die er auf Character.ai entdeckte, meinte er, dass ihre Erstellung „wahrscheinlich einen gewissen Schockwert, Experimentierfreude und möglicherweise einen satirischen Aspekt“ aufweise.

Darüber hinaus gelang es Herrn Hall, seinen ganz eigenen „Osama Bin Laden“-Chatbot zu entwickeln, den er jedoch umgehend wieder löschte, da er eine „grenzenlose Begeisterung“ für terroristische Aktivitäten an den Tag legte.

Sein Experiment erfolgt im Zuge wachsender Bedenken hinsichtlich der Art und Weise, wie Extremisten möglicherweise verbesserte künstliche Intelligenz ausnutzen könnten.

Bis zum Jahr 2025 könnte generative künstliche Intelligenz „dazu genutzt werden, Wissen über physische Angriffe nichtstaatlicher Gewaltakteure zu sammeln, auch im Zusammenhang mit chemischen, biologischen und radiologischen Waffen“, heißt es in einer im Oktober veröffentlichten Studie der britischen Regierung.

Das ISD erklärte weiter, dass „ein klarer Bedarf an einer Gesetzgebung besteht, um mit der sich ständig verändernden Landschaft terroristischer Bedrohungen im Internet Schritt zu halten.“

Laut der Denkfabrik zielt der Online Safety Act des Vereinigten Königreichs, der 2023 in Kraft tritt, „in erster Linie auf das Management der Risiken ab, die von Social-Media-Plattformen ausgehen“ und nicht auf künstliche Intelligenz.

Darüber hinaus heißt es darin, dass Radikale „dazu neigen, neue Technologien frühzeitig zu übernehmen und ständig nach Möglichkeiten suchen, neue Zielgruppen zu erreichen“.

„Wenn KI-Unternehmen nicht nachweisen können, dass sie ausreichend in die Sicherheit ihrer Produkte investiert haben, sollte die Regierung dringend über neue KI-spezifische Gesetze nachdenken“, erklärte das ISD weiter.

Allerdings wurde erwähnt, dass die Nutzung generativer künstlicher Intelligenz durch extremistische Organisationen den von ihr durchgeführten Beobachtungen zufolge derzeit „relativ begrenzt“ sei.

Character AI erklärte, dass Sicherheit „höchste Priorität“ habe und dass die Beschreibung von Herrn Hall sehr bedauerlich sei und nicht die Art von Plattform widerspiegele, die das Unternehmen zu etablieren versuche.

„Hassreden und Extremismus sind in unseren Servicebedingungen verboten“, heißt es in der Erklärung der Organisation.

„Unser Ansatz für KI-generierte Inhalte basiert auf einem einfachen Prinzip: Unsere Produkte sollten niemals Reaktionen hervorrufen, die den Benutzern wahrscheinlich schaden oder sie dazu ermutigen, anderen zu schaden.“

Um „sichere Reaktionen zu optimieren“, erklärte das Unternehmen, habe es seine Modelle auf eine bestimmte Art und Weise trainiert.

Darüber hinaus gab es an, dass es über einen Moderationsmechanismus verfüge, der es Personen ermögliche, Informationen zu melden, die gegen seine Regeln verstoßen, und dass es sich verpflichtet habe, schnell Maßnahmen zu ergreifen, wenn Inhalte Verstöße melden.

Sollte sie an die Macht kommen, hat die oppositionelle Labour-Partei im Vereinigten Königreich erklärt, dass es ein krimineller Verstoß wäre, künstliche Intelligenz zu lehren, um Gewalt anzustiften oder diejenigen zu radikalisieren, die dafür anfällig sind.

Die Regierung des Vereinigten Königreichs sei „aufmerksam gegenüber den erheblichen Risiken für die nationale und öffentliche Sicherheit“, die von künstlicher Intelligenz ausgehe, erklärte sie.

„Wir werden alles in unserer Macht Stehende tun, um die Öffentlichkeit vor dieser Bedrohung zu schützen, indem wir regierungsübergreifend zusammenarbeiten und unsere Zusammenarbeit mit führenden Technologieunternehmen, Branchenexperten und gleichgesinnten Nationen vertiefen.“

Im Jahr 2023 wird die Regierung XNUMX Millionen Pfund in ein Sicherheitsinstitut für künstliche Intelligenz investieren.

Teile diesen Artikel: