Harari warnt auf der Connected 2024-Konferenz in Astana davor, dass KI ihre eigenen Werte schafft und die Kontrolle über die Welt übernimmt

Er warnte davor, dass künstliche Intelligenz (KI) „ohne ausreichende Überlegung und Beachtung moralischer Prinzipien“ entwickelt werden könne, und warf der Gefahr vor, dass „KI ihre eigenen Werte schafft“. „Die einzige verbindende Idee, die der Menschheit in einer sich rasch entwickelnden Welt aus Maschinen und Technologien bleibt, ist das Bewusstsein ihrer biologischen Essenz“, sagte der Schriftsteller und Humanist Yuval Noah Harari in einer Live-Sitzung auf der Konferenz „Connected 2024: Reimagining the Future“, die am 18. Oktober 2024 im Unabhängigkeitspalast in Astana, Kasachstan, stattfand. 

Er bezeichnete KI oder außerirdische Intelligenz als „fremdartig“ und betonte, dass die Entscheidungen eines solchen anorganischen Wesens sich grundlegend von denen von Menschen oder Tieren unterscheiden und für organische Lebewesen ungeeignet seien. „Ich denke, wir müssen uns im 21. Jahrhundert an unsere biologische Essenz erinnern, die allen gemeinsam ist. Wir müssen sicherstellen, dass die Welt für organische Lebewesen geeignet ist. Wir sollten nicht zulassen, dass anorganische Wesen diese an sich reißen, ihre eigenen Zeitlinien schaffen und die Kontrolle über die Welt übernehmen“, bekräftigte der Bestsellerautor von „Sapiens“, „Homo Deus“ und „Nexus“.

Er betonte, dass „soziale Medien die erste ernsthafte Begegnung des Menschen mit künstlicher Intelligenz darstellen“, und erklärte, dass die wichtigsten Nachrichtenplattformen wie TikTok, X, Facebook und YouTube größtenteils von KI gesteuert werden, die sich „nicht um Werte oder Wahrheit kümmert“, sondern das Ziel hat, „das Engagement des Publikums zu erhöhen“.

Und was hat diese KI durch Versuch und Irrtum herausgefunden, indem sie an Millionen oder Milliarden menschlicher „Laborratten“ experimentierte? Sie fand heraus, dass es sehr einfach ist, Aufmerksamkeit zu erregen und eine Person länger auf der Plattform zu halten, indem man Fake News, Verschwörungstheorien, Hass, Gier und Angst verbreitet, weil solche Inhalte uns aktiv anziehen“, fuhr er fort und fügte hinzu: „Wir erleben weltweit einen Rückgang des rationalen Diskurses, weil Entscheidungen von KI getroffen werden, die in keiner Weise mit menschlicher Moral oder Prinzipien verbunden sind.“

„KI kann in allen Bereichen – vom Finanzsystem bis zur Religion – neue Werte schaffen. Wir müssen jetzt verstehen, was mit Regierungen und der menschlichen Gesellschaft passiert, wenn die Menschen die Kontrolle über so wesentliche Elemente wie politische oder finanzielle Systeme verlieren“, bemerkte Harari.

Harari betonte, dass Fehler aus der Industrialisierung, wie der Aufstieg totalitärer Regime mit Persönlichkeiten wie Stalin und Hitler, die die totale Kontrolle über Politik und Gesellschaft anstrebten, nicht wiederholt werden dürften. Er wies darauf hin, dass „Technologie an sich kein Übel ist. Das Problem ist, dass wir nicht wissen, wie wir eine qualitativ hochwertige Gesellschaft auf der Grundlage der Nutzung von KI aufbauen können.“

Er erklärte auch, er glaube nicht an fundamentale Widersprüche zwischen Menschen, Nationen und Ländern, die unüberwindbar seien, und verglich isolierte Stämme der Steinzeit mit den stärker vernetzten Menschen von heute: Dem Futuristen zufolge fanden die Menschen im Laufe von 10,000 Jahren Geschichte Wege, ihre Differenzen zu überbrücken und lernten, mit Außenstehenden zu kooperieren. „Heute geht die Zusammenarbeit über nationale Grenzen hinaus. Wir sprechen gewissermaßen von einem globalen Netzwerk, das alle 8 Milliarden Menschen auf dem Planeten umfasst“, schloss Harari.

In der Diskussionsrunde, die auf Hararis Beitrag folgte, übermittelte der tibetische Lama und Meister Shyalpa Tenzin Rinpoche (Nepal) eine ähnliche Botschaft und betonte, dass universelle Werte wie Frieden Ost und West in ihrem Streben nach nachhaltiger Entwicklung in diesen schwierigen Zeiten politischer Instabilität und wachsender Ungleichheit vereinen könnten. Serik Tolukpayev, Unternehmer, Investor und Gründer der AITAS Holding in Kasachstan, kommentierte, dass „der Kampf gegen das eigene Ego der erste Schritt zur Erreichung der UN-Ziele für nachhaltige Entwicklung weltweit sei“, während die Jugendaktivistin Jakhini Bisselink vom niederländischen Think Tank Whetston anmerkte, dass eine neue Generation von Führungskräften durch EQ-Führung unterstützt werden sollte, um die zunehmende Klimaangst in der Welt zu bekämpfen.

An der Konferenz nahmen 2000 Delegierte aus über 20 Ländern teil, darunter die stellvertretende Premierministerin von Kasachstan Tamara Duisenova, der Humanist Gerd Leonhard, der Nobelpreisträger für grüne Wirtschaft Rae Kwon Chung, die Präsidentin der Association of Futurists und Vorausschauberaterin der Europäischen Kommission Tanya Schindler, Professorin an der Universität Oxford und Autorin des Bestsellers Die Seidenstraße: Eine neue Weltgeschichte Peter Frankopan; Grüne Göttin Chinas und Verfechterin einer grünen Entwicklung Peggy Liu; Professor an der Stanford University und Autor von KI-Kursen Younes Bensouda; und Bestsellerautor und erster Chefredakteur von VERDRAHTET Zeitschrift David Rowan.

Teile diesen Artikel: