Das Europäische Parlament hat mit dem AI Act ein umfangreiches Gesetz zur Regulierung für Künstliche Intelligenz beschlossen. Es ist das erste dieser Art – und wird sowohl begrüßt als auch kritisiert.
Von Michael Förtsch
Bereits seit 2018 wurde in der Europäischen Union die Planung für ein Gesetz zur Regulierung von Künstlicher Intelligenz vorangetrieben. Erst im Dezember letzten Jahres hatten sich die EU-Kommission, das Europaparlament und die Mitgliedstaaten auf einen Entwurf geeinigt. Nun wurde der AI Act vom EU-Parlament in Straßburg mit einer Mehrheit beschlossen. Es ist damit das erste Gesetz dieser Art und soll die potenziellen Gefahren von Künstlicher Intelligenz und deren Missbrauch begrenzen und gleichzeitig Chancen für europäische Unternehmen schaffen.
Das KI-Gesetz sieht vor, dass KI-Systeme künftig in vier Risikogruppen eingeteilt werden. Für KI-Anwendungen mit „niedrigem oder minimalem Risiko“, wie etwa Transkriptionssysteme, sollen keine besonderen Pflichten gelten. Bei Systemen mit „begrenztem Risiko“, zu denen beispielsweise Chatbots gehören könnten, müssen Transparenzregeln eingehalten werden – einschließlich der Offenlegung von urheberrechtlich geschützten Inhalten, die zum Training verwendet wurden. KIs, die frei und unter einer Open-Source-Lizenz veröffentlicht werden, sind von einigen dieser Regeln ausgenommen.
Entwickler von KI mit „hohem Risiko“ müssen eine Vielzahl von Vorschriften zur Dokumentation, Risikobewertung und Transparenz einhalten. Zu den betreffenden KIs gehören unter anderem Verkehrsleitsysteme, medizinische Robotersysteme, Finanz-Scoring-Systeme oder KI-Programme in den Bereichen Bildung, Strafverfolgung und Justiz. Nach dem KI-Gesetz müssen diese Systeme mehrere Tests durchlaufen, bevor sie eingesetzt und auf den Markt gebracht werden dürfen. Außerdem sollen EU-Bürger das Recht und die Möglichkeit haben, sich bezüglich Entscheidungen und der Funktionsweise von KI-Systemen zu beschweren. Details sollen nationale Gesetze regeln.
Künstlicher Intelligenz mit „inakzeptablem Risiko“ und solche Systeme, die gegen die Werte der EU verstoßen, sollen gänzlich verboten werden. Darunter fallen etwa Programme, die Menschen und ihre Handlungen gezielt manipulieren können oder die Menschen nach politischer und religiöser Einstellung oder ethnischer Zugehörigkeit klassifizieren. Verboten sind auch Social-Scoring-Systeme, wie sie in China eingesetzt werden, und Systeme, die die Emotionen einer Person am Arbeitsplatz oder in einer Bildungseinrichtung erkennen können. Ebenso verboten ist der Einsatz biometrischer Identifikationssysteme, die Personen in Echtzeit überwachen und identifizieren können. Damit wird beispielsweise die Gesichtserkennung im öffentlichen Raum weitestgehend eingeschränkt. Ausnahmen soll es zur Verfolgung und Aufklärung von Straftaten wie Menschenhandel, Entführung, Vergewaltigung oder Terrorismus geben.
Werde Mitglied von 1E9!
Hier geht’s um Technologien und Ideen, mit denen wir die Welt besser machen können. Du unterstützt konstruktiven Journalismus statt Streit und Probleme! Als 1E9-Mitglied bekommst du frühen Zugriff auf unsere Inhalte, exklusive Newsletter, Workshops und Events. Vor allem aber wirst du Teil einer Community von Zukunftsoptimisten, die viel voneinander lernen.
Jetzt Mitglied werden!
Kritik und Lob
Der AI Act könnte bereits im Mai oder Juni in Kraft treten. Ab dann soll das Gesetz von den Mitgliedsstaaten schrittweise umgesetzt werden, bevor es in zwei Jahren vollständig gilt. Bereits nach sechs Monaten müssen beispielsweise KI-Systeme, die nach dem AI Act verboten sind, auf nationaler Ebene gestoppt werden. Nach einem Jahr sollen die Transparenzregeln für KI-Systeme gelten. Auch können zu diesem Zeitpunkt schon Verfahren wegen Verstößen eingeleitet, Strafen gegen Unternehmen erlassen und von Bürgern Beschwerden betreffend KI-Entscheidungen eingereicht werden.
Die Reaktionen auf das KI-Gesetz sind geteilt. Kritiker bemängeln, dass der AI Act den KI-Entwicklern zu viel Verantwortung aufbürdet. Beispielsweise müssten sie mögliche Auswirkungen ihrer Projekte auf die Grundrechte von EU-Bürgern abschätzen. Auch sind einige Unternehmer der Meinung, dass die EU durch die Regulierung für KI-Unternehmen deutlich unattraktiver wird und hiesige Start-ups wie Mistral durch die Auflagen ausgebremst werden und im internationalen Wettbewerb zurückfallen könnten.
Gleichzeitig wird der AI Act aber auch als Initiative gelobt, die Rechts- und Planungssicherheit im bislang unklaren Feld der Künstlichen Intelligenz schaffe. Auf dieser Grundlage könnten sich europäische Unternehmen international als Entwickler von sicherer und verantwortungsvoller Künstlicher Intelligenz positionieren.
Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook, Instagram oder LinkedIn und verbreite unsere Inhalte weiter. Danke!
Sprich mit Job, dem Bot!
War der Artikel hilfreich für dich? Hast du noch Fragen oder Anmerkungen? Ich freue mich, wenn du mir Feedback gibst!