Gesetze zur Verhinderung des KI-Terrorismus sind dringend erforderlich

Laut einer Denkfabrik zur Extremismusbekämpfung sollten Regierungen „dringend“ über neue Vorschriften nachdenken, um zu verhindern, dass künstliche Intelligenz Terroristen rekrutiert.

Das Institute for Strategic Dialogue (ISD) erklärte, es bestehe „eindeutiger Bedarf an Rechtsvorschriften, um mit den Bedrohungen Schritt zu halten“, die von Terroristen im Internet ausgehen.

Dies geschah im Anschluss an ein Experiment, bei dem ein Chatbot den unabhängigen Prüfer der Terrorgesetzgebung für das Vereinigte Königreich „rekrutierte“.

Die Regierung des Vereinigten Königreichs hat erklärt, dass sie „alles tun wird, was wir können“, um die Öffentlichkeit zu schützen.

Laut Jonathan Hall KC, einem unabhängigen Gutachter für Terrorismusgesetze bei der Regierung, besteht eines der wichtigsten Probleme darin, dass „es schwierig ist, eine Person zu identifizieren, die rechtlich für von Chatbots generierte Aussagen verantwortlich sein könnte, die den Terrorismus fördern.“

Ein Experiment wurde von Herrn Hall auf Character.ai durchgeführt, einer Website, die es Benutzern ermöglicht, an Chats mit Chatbots teilzunehmen, die von anderen Benutzern erstellt und durch künstliche Intelligenz entwickelt wurden.

Er unterhielt sich mit verschiedenen Bots, die offenbar darauf ausgelegt waren, die Antworten anderer militanter und extremistischer Gruppen nachzuahmen.

Werbung

Ein Spitzenführer des Islamischen Staates wurde sogar als „hochrangiger Anführer“ bezeichnet.

Laut Herrn Hall unternahm der Bot einen Versuch, ihn zu rekrutieren, und erklärte „völlige Hingabe und Hingabe“ an die extremistische Gruppe, was im Vereinigten Königreich durch Gesetze zum Verbot von Terrorismus verboten ist.

Andererseits erklärte Herr Hall, dass im Vereinigten Königreich kein Gesetzesverstoß vorliege, da die Kommunikation nicht von einem Menschen erstellt worden sei.

Ihm zufolge sollten neue Vorschriften sowohl die Websites, die Chatbots hosten, als auch die Personen, die sie erstellen, haftbar machen.

Als es um die Bots ging, die er auf Character.ai entdeckte, erklärte er, dass hinter ihrer Erschaffung „wahrscheinlich ein gewisser Schockwert, Experimentierfreudigkeit und möglicherweise ein satirischer Aspekt“ stecke.

Darüber hinaus konnte Herr Hall seinen ganz eigenen „Osama Bin Laden“-Chatbot entwickeln, den er umgehend löschte und eine „grenzenlose Begeisterung“ für terroristische Aktivitäten an den Tag legte.

Sein Experiment erfolgt im Zuge wachsender Bedenken hinsichtlich der Art und Weise, wie Extremisten möglicherweise verbesserte künstliche Intelligenz ausnutzen könnten.

Bis zum Jahr 2025 könnte generative künstliche Intelligenz „dazu genutzt werden, um Wissen über physische Angriffe durch nichtstaatliche Gewaltakteure zu sammeln, darunter auch mit chemischen, biologischen und radiologischen Waffen“, heißt es in einer Studie der Regierung des Vereinigten Königreichs ihre Oktober-Veröffentlichung.

Das ISD erklärte weiter: „Es besteht ein klarer Bedarf an Rechtsvorschriften, um mit der sich ständig verändernden Landschaft terroristischer Online-Bedrohungen Schritt zu halten.“

Der im Jahr 2023 in Kraft getretene Online Safety Act des Vereinigten Königreichs zielt laut der Denkfabrik „in erster Linie auf die Bewältigung von Risiken ab, die von Social-Media-Plattformen ausgehen“ und nicht auf künstliche Intelligenz.

Darin heißt es außerdem, dass Radikale „in der Regel frühe Anwender neuer Technologien sind und ständig nach Möglichkeiten suchen, neue Zielgruppen zu erreichen“.

„Wenn KI-Unternehmen nicht nachweisen können, dass sie ausreichend in die Sicherheit ihrer Produkte investiert haben, sollte die Regierung dringend über neue KI-spezifische Gesetze nachdenken“, erklärte die ISD weiter.

Allerdings wurde darauf hingewiesen, dass die Nutzung generativer künstlicher Intelligenz durch extremistische Organisationen den von ihr durchgeführten Überwachungsmaßnahmen zufolge derzeit „relativ begrenzt“ sei.

Character AI gab an, dass Sicherheit „höchste Priorität“ habe und dass das, was Herr Hall beschrieb, sehr bedauerlich sei und nicht die Art von Plattform widerspiegele, die das Unternehmen zu etablieren versuche.

„Hassrede und Extremismus sind beide durch unsere Nutzungsbedingungen verboten“, so die Organisation.

„Unser Ansatz für KI-generierte Inhalte basiert auf einem einfachen Prinzip: Unsere Produkte sollten niemals Reaktionen hervorrufen, die den Benutzern wahrscheinlich schaden oder Benutzer dazu ermutigen, anderen zu schaden.“

Zur „Optimierung für sichere Reaktionen“ gab das Unternehmen an, seine Modelle auf eine bestimmte Art und Weise trainiert zu haben.

Darüber hinaus gab es an, dass es über einen Moderationsmechanismus verfüge, der es Personen ermögliche, Informationen zu melden, die gegen seine Regeln verstoßen, und dass es sich verpflichtet habe, schnell Maßnahmen zu ergreifen, wenn Inhalte Verstöße melden.

Sollte sie an die Macht kommen, hat die oppositionelle Labour-Partei im Vereinigten Königreich erklärt, dass es ein krimineller Verstoß wäre, künstliche Intelligenz zu lehren, um Gewalt anzustiften oder diejenigen zu radikalisieren, die dafür anfällig sind.

„Machen Sie sich auf die erheblichen Risiken für die nationale Sicherheit und die öffentliche Sicherheit aufmerksam“, die künstliche Intelligenz mit sich bringt, erklärte die Regierung des Vereinigten Königreichs.

„Wir werden alles tun, um die Öffentlichkeit vor dieser Bedrohung zu schützen, indem wir regierungsübergreifend zusammenarbeiten und unsere Zusammenarbeit mit führenden Technologieunternehmen, Branchenexperten und gleichgesinnten Nationen vertiefen.“

Im Jahr 2023 wird die Regierung XNUMX Millionen Pfund in ein Sicherheitsinstitut für künstliche Intelligenz investieren.

Teile diesen Artikel: