Haftungsfragen und Risiken beim Einsatz von KI
1. Wer haftet für falsche Ergebnisse von KI im Unternehmen?
KI-Systemen fehlt die Fähigkeit, Träger von Rechten und Pflichten zu sein, deshalb können sie nicht selbst haften. Die rechtliche Verantwortung für Einsatz und Ergebnisse liegt bei denjenigen, die die KI einsetzen oder deren Ergebnisse verwenden. Im Arbeitsverhältnis ist dies in der Regel der Arbeitgeber. Er trägt das Unternehmerrisiko und ist für die Organisation des Betriebs und die Auswahl und Kontrolle der eingesetzten Arbeitsmittel verantwortlich, auch für die Entscheidung über den Einsatz von KI-Systemen. Das Verhalten der Beschäftigten wird dem Arbeitgeber grundsätzlich zugerechnet, diese werden als sogenannte Erfüllungsgehilfen für ihn tätig. Eine Haftung der Beschäftigten kommt nur über innerbetrieblichen Schadensausgleich in Betracht.
Die Geschäftsführung einer GmbH oder Mitglieder des Vorstands einer Aktiengesellschaft etwa sind verpflichtet, die Einhaltung gesetzlicher Vorgaben im Unternehmen sicherzustellen. Verletzen sie diese Pflichten schuldhaft und entsteht hierdurch ein Schaden, können auch sie im Innenverhältnis gegenüber dem Unternehmen haftbar sein.
Die Hersteller bzw. Entwickler einer KI haften aktuell nur nach allgemeinem Mängelgewährleistungsrecht und Deliktsrecht, die EU-Richtlinie 2024/2853 muss jedoch bis 9. Dezember 2026 in nationales Recht umgewandelt werden, dann gilt die verschuldensunabhängige Haftung nach dem Produkthaftungsgesetz auch für Software wie etwa KI-Systeme.
2. Ist eine interne Haftung möglich?
Eine interne Haftung von Beschäftigten ist bei leichter Fahrlässigkeit (geringfügigen Pflichtverletzungen, die jedem passieren können) grundsätzlich nicht möglich, bei mittlerer Fahrlässigkeit (Außer-Acht-Lassen der im Verkehr erforderlichen Sorgfalt) kann eine anteilige Haftung in Betracht kommen und bei grober Fahrlässigkeit (Verletzung von Sorgfaltspflichten in besonders schwerem Maße) oder vorsätzlichem Verhalten ist eine vollständige Haftung im Innenverhältnis möglich. Entscheidend für die Haftungsverteilung sind etwa der Grad des Verschuldens sowie die betriebliche Organisation. Hat der Arbeitgeber beispielsweise keine Schulungen zum Umgang mit KI-Systemen durchgeführt oder keine klaren Nutzungsregeln aufgestellt, kann sich seine eigene Haftung erheblich erhöhen.
Auch die Geschäftsführung oder ein Vorstand etwa können intern haften, wenn sie ihre Organisations- und Überwachungspflichten verletzen und hierdurch ein Schaden entsteht.
3. Worauf müssen Betriebs- und Personalräte beim Umgang mit KI besonders achten?
Betriebs- und Personalräte arbeiten regelmäßig mit besonders sensiblen personenbezogenen Daten und beim Einsatz von KI-Systemen besteht die Gefahr von Verstößen gegen die europäische Datenschutz-Grundverordnung und das Bundesdatenschutzgesetz oder Geheimhaltungspflichten. Nach § 79a BetrVG und § 69 BPersVG ist grundsätzlich der Arbeitgeber / die Dienststelle für die Einhaltung der datenschutzrechtlichen Vorschriften verantwortlich, soweit der Betriebs- oder Personalrat personenbezogene Daten zur Erfüllung seiner Aufgaben verarbeitet. Gleichzeitig sind Betriebs- und Personalratsmitglieder verpflichtet, die datenschutzrechtlichen Vorschriften einzuhalten und die ihnen anvertrauten Daten ordnungsgemäß zu verarbeiten. Personal- und Betriebsräten müssen bei der Nutzung von KI daher besonders auf den Datenschutz achten.
Es ist grundsätzlich empfehlenswert klare betriebliche Regelungen zum Umgang mit KI-Systemen zu schaffen, insbesondere durch den Abschluss von Betriebs- oder Dienstvereinbarungen. Diese sollten unter anderem die zulässigen Anwendungen (möglichst abgeschlossene Systeme mit spezifischen Inhalten), den Umgang mit personenbezogenen Daten, sowie gegebenenfalls Verbote besonders risikoreicher Anwendungen regeln.
© bund-verlag.de (kb)
