Künstliche Intelligenz: Bedrohungen und Chancen

Europas Wachstum und Wohlstand hängen eng mit der Nutzung von Daten und vernetzten Technologien zusammen. KI kann unser Leben grundlegend verändern und Gesellschaft – im Guten wie im Schlechten – und das Europäische Parlament hat eine Ausschuss die Auswirkungen der Technologie zu untersuchen. Im Folgenden sind einige wichtige Chancen und Risiken aufgeführt, die mit zukünftigen KI-Anwendungen verbunden sind.

Lesen Sie mehr darüber, was künstliche Intelligenz ist und wie sie verwendet wird.

Vorteile der KI

Die EU-Länder sind bereits stark in der digitalen Industrie und in Business-to-Business-Anwendungen. Mit einer qualitativ hochwertigen digitalen Infrastruktur und einem Rechtsrahmen zum Schutz der Privatsphäre und der Meinungsfreiheit könnte die EU dies tun Werden Sie weltweit führend in der Datenwirtschaft und ihren Anwendungen.

Vorteile der KI für Menschen

KI könnte Menschen mit verbesserter Gesundheitsversorgung, sichereren Autos und anderen Verkehrssystemen, maßgeschneiderten, billigeren und langlebigeren Produkten und Dienstleistungen helfen. Es kann auch den Zugang zu Informationen, Bildung und Ausbildung erleichtern. Das Bedürfnis nach Fernunterricht wurde aufgrund der COVID-19-Pandemie. KI kann auch den Arbeitsplatz sicherer machen, da Roboter für gefährliche Teile von Jobs eingesetzt werden können, und neue Arbeitsplätze eröffnen, wenn KI-gesteuerte Branchen wachsen und sich verändern.

Möglichkeiten der künstlichen Intelligenz für Unternehmen

Für Unternehmen kann KI die Entwicklung einer neuen Generation von Produkten und Dienstleistungen ermöglichen, auch in Sektoren, in denen europäische Unternehmen bereits starke Positionen innehaben: grüne und Kreislaufwirtschaft, Maschinenbau, Landwirtschaft, Gesundheitswesen, Mode, Tourismus. Es kann den Umsatz steigern, die Maschinenwartung verbessern, die Produktionsleistung und -qualität steigern, den Kundenservice verbessern und Energie sparen.

KI-Möglichkeiten im öffentlichen Dienst

KI, die im öffentlichen Dienst eingesetzt wird, kann Kosten senken und neue Möglichkeiten in den Bereichen öffentlicher Verkehr, Bildung, Energie- und Abfallwirtschaft bieten sowie die Nachhaltigkeit von Produkten verbessern. Auf diese Weise könnte die KI zur Erreichung der Ziele der EU beitragen Big Picture EU Green Deal.

Stärkung der Demokratie

Die Demokratie könnte durch datenbasierte Kontrolle gestärkt und verhindert werden Desinformation und Cyber-Angriffe und Gewährleistung des Zugangs zu Qualitätsinformationen. KI könnte auch Vielfalt und Offenheit unterstützen, indem sie beispielsweise die Möglichkeit von Vorurteilen bei Einstellungsentscheidungen abschwächt und stattdessen analytische Daten verwendet.

KI, Sicherheit und Schutz

Es wird vorausgesagt, dass KI stärker in der Kriminalprävention und im Strafrechtssystem eingesetzt wird, da massive Datensätze schneller verarbeitet, Flugrisiken von Gefangenen genauer bewertet, Kriminalität oder sogar Terroranschläge vorhergesagt und verhindert werden könnten. Es wird bereits von Online-Plattformen verwendet, um rechtswidriges und unangemessenes Online-Verhalten zu erkennen und darauf zu reagieren.

In militärischen Angelegenheiten kann KI für Verteidigungs- und Angriffsstrategien beim Hacken und Phishing oder zum Zielen auf Schlüsselsysteme in der Cyberkriegsführung verwendet werden, während der Hauptvorteil autonomer Waffensysteme das Potenzial ist, in bewaffnete Konflikte mit dem verringerten Risiko von körperlichen Schäden zu geraten.

Bedrohungen und Herausforderungen der KI

Die zunehmende Abhängigkeit von KI-Systemen birgt auch potenzielle Risiken.

Unter- und Überbeanspruchung von KI

Die Unternutzung von KI gilt als große Bedrohung: Verpasste Chancen für die EU könnten eine unzureichende Umsetzung wichtiger Programme wie des EU Green Deal, den Verlust von Wettbewerbsvorteilen gegenüber anderen Teilen der Welt, wirtschaftliche Stagnation und geringere Chancen für die Menschen bedeuten. Ursachen für die Unternutzung könnten das Misstrauen der Öffentlichkeit und der Wirtschaft gegenüber KI, schlechte Infrastruktur, mangelnde Initiative, geringe Investitionen oder – da das maschinelle Lernen von KI datenabhängig ist – fragmentierte digitale Märkte sein.

Überbeanspruchung kann auch problematisch sein: Investition in KI-Anwendungen, die sich als nicht nützlich erweisen, oder Anwendung von KI auf Aufgaben, für die sie nicht geeignet ist, beispielsweise zur Erklärung komplexer gesellschaftlicher Probleme.

Haftung: Wer ist für durch KI verursachte Schäden verantwortlich?

Eine wichtige Herausforderung besteht darin, festzustellen, wer für Schäden verantwortlich ist, die durch ein von KI betriebenes Gerät oder eine Dienstleistung verursacht werden: bei einem Unfall mit einem selbstfahrenden Auto. Sollte der Schaden vom Eigentümer, dem Autohersteller oder dem Programmierer übernommen werden?

Wenn der Hersteller absolut frei von Rechenschaftspflicht wäre, gäbe es möglicherweise keinen Anreiz, ein gutes Produkt oder eine gute Dienstleistung anzubieten, und dies könnte das Vertrauen der Menschen in die Technologie schädigen. Vorschriften könnten aber auch zu streng sein und Innovationen ersticken.

Bedrohung der KI für Grundrechte und Demokratie

Die Ergebnisse, die AI erzielt, hängen davon ab, wie es entworfen wurde und welche Daten es verwendet. Sowohl Design als auch Daten können absichtlich oder unbeabsichtigt verzerrt sein. Beispielsweise sind einige wichtige Aspekte eines Problems möglicherweise nicht in den Algorithmus programmiert oder so programmiert, dass strukturelle Verzerrungen reflektiert und repliziert werden. Darüber hinaus könnte die Verwendung von Zahlen zur Darstellung komplexer sozialer Realitäten die KI sachlich und präzise erscheinen lassen, wenn dies nicht der Fall ist. Dies wird manchmal als Mathwashing bezeichnet.

Wenn dies nicht ordnungsgemäß durchgeführt wird, kann die KI zu Entscheidungen führen, die von Daten zu ethnischer Zugehörigkeit, Geschlecht, Alter bei Einstellung oder Entlassung, Kreditangeboten oder sogar in Strafverfahren beeinflusst werden.

KI könnte das Recht auf Privatsphäre und Datenschutz erheblich beeinträchtigen. Es kann beispielsweise in Gesichtserkennungsgeräten oder zur Online-Verfolgung und Profilerstellung von Personen verwendet werden. Darüber hinaus ermöglicht AI das Zusammenführen von Informationen, die eine Person gegeben hat, zu neuen Daten, was zu Ergebnissen führen kann, die die Person nicht erwarten würde.

Sie kann auch eine Bedrohung für die Demokratie darstellen. KI wurde bereits dafür verantwortlich gemacht, Online-Echokammern basierend auf dem bisherigen Online-Verhalten einer Person zu schaffen und nur Inhalte anzuzeigen, die der Person gefallen, anstatt ein Umfeld für eine pluralistische, gleichberechtigte und inklusive öffentliche Debatte zu schaffen. Sie kann sogar dazu verwendet werden, extrem realistische gefälschte Videos, Audiodateien und Bilder, sogenannte Deepfakes, zu erstellen, die finanzielle Risiken bergen, den Ruf schädigen und die Entscheidungsfindung in Frage stellen können. All dies könnte zu Spaltung und Polarisierung im öffentlichen Raum führen und Wahlen manipulieren.

KI könnte auch eine Rolle bei der Beeinträchtigung der Versammlungs- und Protestfreiheit spielen, da sie Personen verfolgen und profilieren könnte, die mit bestimmten Überzeugungen oder Handlungen verbunden sind.

KI-Auswirkungen auf Arbeitsplätze

Der Einsatz von KI am Arbeitsplatz wird voraussichtlich zum Abbau einer großen Anzahl von Arbeitsplätzen führen. Obwohl von der KI auch erwartet wird, dass sie bessere Arbeitsplätze schafft und schafft, wird die allgemeine und berufliche Bildung eine entscheidende Rolle bei der Verhinderung der Langzeitarbeitslosigkeit und der Gewährleistung qualifizierter Arbeitskräfte spielen.

Das Sammeln von Informationen könnte auch zu Wettbewerbsverzerrungen führen, da Unternehmen mit mehr Informationen einen Vorteil erlangen und Wettbewerber effektiv ausschalten könnten.

Sicherheitsrisiken

KI-Anwendungen, die in physischem Kontakt mit Menschen stehen oder in den menschlichen Körper integriert sind, können Sicherheitsrisiken darstellen, da sie möglicherweise schlecht entworfen, missbraucht oder gehackt sind. Ein schlecht regulierter Einsatz von KI in Waffen könnte zum Verlust der menschlichen Kontrolle über gefährliche Waffen führen.

Transparenzherausforderungen

Ungleichgewichte beim Zugang zu Informationen könnten ausgenutzt werden. Beispielsweise kann ein Online-Händler basierend auf dem Online-Verhalten einer Person oder anderen Daten und ohne deren Wissen mithilfe von KI die Zahlungsbereitschaft einer Person vorhersagen, oder eine politische Kampagne kann ihre Botschaft anpassen. Ein weiteres Transparenzproblem besteht darin, dass für Menschen manchmal unklar sein kann, ob sie mit einer KI oder einem Menschen interagieren.