Künstliche Intelligenz

EU-KI-Verordnung in Vorbereitung

03. Juli 2023 Künstliche Intelligenz, KI
KI, Künstliche Intelligenz
Quelle: iStock.com, Jolygon

Künstliche Intelligenz (KI) entwickelt sich rasant weiter – wohin ist offen. Die EU will dieser Technologie Grenzen setzen. Dazu hat sich das EU-Parlament nun auf eine EU-KI-Verordnung geeinigt. Biometrische Überwachung und Social Scoring werden verboten. Der Einsatz von ChatGPT gilt nur als geringes Risiko.

Die EU-KI-Verordnung soll den Einsatz von Künstlicher Intelligenz in der Europäischen Union regulieren. Ziel ist es, Risiken im Zusammenhang mit der KI anzugehen und insgesamt einen verantwortungsvollen und ethischen Einsatz zu fördern. Ein entsprechender Vorschlag der Kommission wurde am 21.4.2021 veröffentlicht. Das Europäische Parlament verabschiedete nun den entsprechenden Text, der in den kommenden Monaten mit den Mitgliedsstaaten und der EU-Kommission weiter verhandelt werden muss.

Die wichtigsten Punkte und Bestimmungen des geplanten Gesetzes sind:

  1. Risikobasierte Ansätze: Die Verordnung kategorisiert KI-Anwendungen in verschiedene Risikostufen – unannehmbar, hoch, begrenzt oder minimal. Je höher das Risiko, desto strenger sind die Anforderungen.
  2. Verbot einiger hochriskanter KI-Systeme: Bestimmte Anwendungen wie biometrische Massenüberwachung oder Social Scoring, die die Grundrechte der Menschen gefährden könnten, werden verboten.
  3. Verpflichtende Anforderungen für hochriskante KI-Systeme: Für KI-Systeme, die als hochriskant eingestuft werden, gelten spezifische Verpflichtungen wie Datenschutz, Transparenz, Dokumentation, menschliche Überwachung und Governance.
  4. Zu den Hochrisikosystemen zählen unter anderem KI-basierte Anwendungen, die im Personalmanagement, in der Aus- und Weiterbildung, in der kritischen Infrastruktur oder in der Industrie als Sicherheitskomponenten oder -bauteile zum Einsatz kommen.
  5. Für Anwendungen mit geringem Risiko, beispielsweise Chatbots, sind Transparenzpflichten vorgesehen. Für Systeme mit minimalem Risiko, wie etwa KI gestützte Videospiele oder Spamfilter, entstehen keine zusätzlichen rechtlichen Verpflichtungen.
  6. Konformitätsbewertungsverfahren: Hersteller von hochriskanten KI-Systemen müssen eine Konformitätsbewertung durchführen, bevor sie ihre Produkte auf den Markt bringen können. Dies umfasst eine technische Dokumentation, Risikobewertung und die Überprüfung durch Dritte.
  7. Pflichten für KI-Anbieter und -Nutzer: KI-Anbieter und -Nutzer müssen bestimmte Pflichten erfüllen, einschließlich Transparenz, Informationspflichten und Sicherheitsmaßnahmen.

Sonderregeln für ChatGPT

Generative KI wie beispielsweise ChatGPT war bislang nicht Gegenstand der KI-Verordnung. Das Europäische Parlament hat nun extra einen neuen Passus in das KI-Gesetz eingefügt. Der verpflichtet die Entwickler, die Systeme im Vorfeld ausführlich auf die von ihnen ausgehenden Risiken für die Gesundheit, die Sicherheit, Grundrechte, die Umwelt und die Demokratie zu prüfen und im Zweifel für Abhilfe zu sorgen. Das hat der ChatGPT-Entwickler Open AI nicht getan. Viele warnen bereits, die Regeln für generative KI dürften nicht über das Ziel hinausschießen.

Ausblick

Nachdem sich das Parlament auf eine Position geeinigt hat, folgen nun die Verhandlungen mit den EU-Mitgliedsstaaten und der Kommission über den endgültigen Wortlaut des Gesetzes. Die KI-Verordnung könnte jedoch voraussichtlich erst im Jahr 2026 anwendbar sein, denn das Gesetz sieht Übergangsfristen von bis zu zwei Jahren vor.

Mehr lesen

Einen fundierten Beitrag zur EU-KI-Verordnung von Prof. Dr. Peter Wedde lest Ihr in der Ausgabe 8-9/2023 von »Computer und Arbeit«.

Jetzt zwei Ausgaben »Computer und Arbeit« gratis testen!

© bund-verlag.de (fro)

AiB-Banner Viertel Quadratisch - Anzeige -
Lothar Schröder, u.a.
Handlungsanleitungen, Praxistipps, Prüffragen, Checklisten
48,00 €
Mehr Infos

Das könnte Sie auch interessieren

Personalrat Podcast Quer
»Der Personalrat«-Podcast - Aktuelles

Cannabis jetzt erlaubt – auch am Arbeitsplatz?

Wahl
JAV-Wahl - Aus den Fachzeitschriften

JAV: So gelingt die Wahl