Europäisches Parlament stimmt Gesetz zur künstlichen Intelligenz zu: Pflichten kommen auf die Unternehmen ChatGPT und Midjourney zu

Das erste „Gesetz über künstliche Intelligenz“ der Welt wurde vom Europäischen Parlament verabschiedet.

Die Anwendung der Gesichtserkennung mittels intelligenter Kameras an öffentlichen Orten wird durch das Gesetz, das die Entwicklung, Nutzung und den Verkauf von Systemen der künstlichen Intelligenz regelt, verboten.

Das am Dienstag im Europäischen Parlament debattierte Gesetz zur künstlichen Intelligenz erlegt großen Modellen wie Midjourney und ChatGPT wertvolle Verpflichtungen auf, weltweit einen zuverlässigeren und transparenteren Standard zu setzen.

Die neue Regelung, über die am Mittwoch abgestimmt wurde, wurde vom Parlament mit großer Mehrheit angenommen.

Der Ausschuss der Europäischen Union kann Verhandlungen über die Umsetzung des Gesetzes sowohl mit dem Europäischen Parlament als auch mit den Mitgliedstaaten aufnehmen.

Die abschließenden Gespräche werden voraussichtlich Anfang nächsten Jahres abgeschlossen und das Gesetz soll bis 2024 in Kraft treten.

In der Verordnung wurde künstliche Intelligenz in vier Hauptkategorien definiert: „geringes Risiko, begrenztes Risiko, hohes Risiko und inakzeptabel“.

Das Gesetz enthält folgende Bestimmungen:

Künstliche Intelligenz mit minimalem Risiko wie Spamfilter und Videospiele sind zulässig.
KI mit endlichem Risiko, wie Chatbots auf Banken- oder Fluglinien-Websites, muss Transparenzpflichten erfüllen.
Hochriskante künstliche Intelligenz wie selbstfahrende Fahrzeuge und Roboterchirurgie werden strengen Kontrollen unterliegen.
Der Einsatz künstlicher Intelligenz für das Social Scoring ist strengstens untersagt. Beispielsweise werden Systeme, die das Verhalten von Bürgern analysieren und sie auf dieser Grundlage teuer machen, wie in China, nicht zugelassen.
Vor der Abstimmung gab es heftige Debatten über die in der Verordnung enthaltene „Echtzeit-Gesichtserkennung“.

Ziel der Verordnung war es, Menschen an öffentlichen Orten in Ausnahmefällen zu überprüfen und sofort zu identifizieren, um vermisste Kinder aufzuspüren oder Terroranschläge zu verhindern.

Die überwiegende Mehrheit der Gesetzgeber lehnte es mit der Begründung ab, es handele sich um eine „schwerwiegende Verletzung der Privatsphäre“.

Die Echtzeit-Gesichtserkennung wurde per Mehrheitsbeschluss verboten.

„Kann zur Beeinflussung von Wahlen genutzt werden“

Laut Margrethe Vestager, Mitglied des EU-Wettbewerbsausschusses, verfolgt die ganze Welt diese Verordnung aufmerksam, da es sich um das erste Gesetz in dieser Hinsicht handelt.

Vestager sagte gegenüber der BBC, dass das Potenzial künstlicher Intelligenz, Vorurteile oder Diskriminierung zu verstärken, Anlass zu großer Sorge gebe.

„Wenn Ihr sozialer Hintergrund gescannt werden kann, um ein vollständiges Profil von Ihnen zu erhalten, ist das Risiko, manipuliert zu werden, enorm. Wenn wir in eine Situation geraten, in der wir an nichts glauben, dann untergraben wir unsere Gesellschaft völlig.“ sagte das Mitglied des EU-Ausschusses.

Vestager beschrieb die Regulierung als „Vogelscheuche“, um den größten Risiken der Technologie entgegenzuwirken, und betonte, dass die Regulierung global sein sollte.

Auch EU-Ratsmitglied Vestager sagte, es bestehe durchaus die Gefahr, dass künstliche Intelligenz zur Beeinflussung der nächsten Wahlen eingesetzt werden könnte.

Das Europäische Parlament stimmte außerdem zu, dass die Auswirkungen des Einsatzes künstlicher Intelligenz weiterhin überwacht werden sollten.

Nach Ansicht des Gesetzgebers scheint ein Algorithmus manchmal den Regeln zu folgen, in der Praxis kann jedoch das Gegenteil der Fall sein.

Viele Abgeordnete sind besorgt darüber, dass künstliche Intelligenz in Zukunft große Probleme bereiten könnte, wenn es keine klaren Regeln gibt

Der Gesetzentwurf zur künstlichen Intelligenz wurde 2021 von EU-Ausschussmitglied Thierry Breton vorgelegt.

T24