Künstliche Intelligenz

Wie kann man KI-Einsätze regeln?

14. Dezember 2021
Künstliche Intelligenz
Quelle: pixabay

Der Konzernbetriebsrat von IBM hat eine Vereinbarung über den Einsatz von Künstlicher Intelligenz (KI) im Unternehmen erfolgreich abgeschlossen. Wie das gelungen ist, haben wir bei Frank Remers in Erfahrung gebracht, dem Sprecher des KBR-Fachausschusses »Personaldatensysteme« bei IBM.

IBM ist in Deutschland an 15 Standorten vertreten und hat den Hauptsitz in Ehningen bei Stuttgart. Das Unternehmen unterstützt Kund:innen bei der Digitalisierung und nutzt dazu u. a. KI, Blockchain-Technologie, Cloud und Services. Es liegt also nahe, dass auch der Betriebsrat ein Hauptaugenmerk auf diese Themen hatte. Mit der abgeschlossenen Vereinbarung hat das Gremium den Sonderpreis Digitalisierung beim »Deutschen Betriebsräte-Preis« gewonnen.

Warum war es euch ein Anliegen, den Einsatz von KI zu regeln?

KI soll bei IBM für eine immer größer werdende Anzahl von Personaldatensystemen eingesetzt wer­den, beispielsweise bei Empfehlungen für die Auswahl von Bewerbenden, für Gehaltserhöhungen, für Qualifizie­rungen und für die Karriereplanung. Wir wissen, dass KI-Systeme fehlbar sind und Ergebnisse stark von der Qualität der Daten, den zugrunde liegen­den Algorithmen und dem Training des KI-Systems abhängen. Die Systeme müssen unbedingt diskriminie­rungsfrei sein und sollen zum Nutzen der Belegschaft und des Unternehmens eingesetzt werden. Der Konzernbetriebsrat (KBR) hat mit der Vereinbarung ein verlässliches Rahmenwerk geschaffen, welches diese Punkte berücksichtigt, die Sorgen der Belegschaft ernst nimmt und so die Akzeptanz von KI-Systemen erhöht.

Wie habt ihr den Arbeitgeber davon überzeugt, dass eine Rahmenvereinbarung zum Einsatz von KI notwendig ist?

Wir haben dem Arbeitgeber deutlich gemacht, dass eine Rahmenvereinbarung ebenfalls in seinem Interesse ist. Sie ermöglicht schnellere Verhandlungen und somit Einführungen der konkreten KI-Systeme und bietet dem Arbeitgeber somit einen Wettbewerbsvorteil gegenüber anderen Anbietern. Weiterhin konnte dem Arbeitgeber klargemacht werden, dass durch eine Vereinbarung die Akzeptanz der KI-Systeme bei den Mitarbeitenden erhöht und somit u. a. die Qualität der Eingangsdaten deutlich gesteigert wird. Der Konzernbetriebsrat hat zudem angeboten, diese Vereinbarung mit Betriebsräten interessier­ter Kunden von IBM-KI-Produkten zu diskutieren und dort detailliert vorzustellen.

Wie seid ihr beim Erarbeiten der Vereinbarung vorgegangen?

Wir starteten im September 2019 mit gemeinsamen Sitzungen von Personalabteilung und Betriebs­rat, auf denen wir mit Unterstützung durch interne KI-Fachleute das Thema inhaltlich vorbereiteten. In diesen Sitzungen wurden mittels Design-Thinking-Methoden die jeweiligen Erwartungs­haltungen und Ziele erarbeitet. Es wurde sehr darauf geachtet, dass jede Partei in die Lage kam, die Position der jeweiligen anderen Partei einnehmen und vertreten zu müssen. Dieses erhöhte die Einsicht in die »Sorgen und Nöte« der Verhandlungspartner enorm und schuf so eine sehr gute Basis für die weiteren Verhandlungen. Natürlich wurden auch die Bedürfnisse der Mitarbeitenden und die des Unternehmens in diesen Sitzungen auf die gleiche Art und Weise beleuchtet.

In den darauffolgenden offenen Brainstorming-Sitzungen wurde der Regelungsinhalt gemeinsam erarbeitet. Aufgrund der Vorarbeit gab es keine »Lagerbildung« und die Diskussionen waren sehr engagiert und lösungsorientiert. Beide Parteien achteten sehr auf einen moderaten bis freund­schaft­lichen Verhand­lungston. Ein wichtiger Baustein hierzu waren auch die langjährigen Beziehungen der Verhandlungs­partner untereinander und eine von Vertrauen und Respekt geprägte Atmosphäre, trotz oft wider­streitender Interessen.

Wie hat sich Corona auf diese Sitzungen ausgewirkt?

Nachdem die Lösungsideen mittels agiler Design-Thinking-Methoden in Präsenzsitzungen auf Flip­charts, in Bildern, Mindmaps, Textfragmenten u. Ä. skizziert worden waren, wurde ab März 2020 wegen Corona in Videokonferenzen unter Nutzung von Kollaborationswerkzeugen eine gemein­same Textfassung der Rahmenvereinbarung erarbeitet.

Die Verhandlungspartner passten sich sehr schnell an die geänderte Situation an. Die größte Heraus­forderung war, dass die interne Abstimmung in den Verhandlungsteams nicht mehr auf »einen Blick« herzustellen war. Viele sensorische Eindrücke, die bei einer Präsenzsitzung gegeben sind, waren so nicht mehr erfahrbar. Da die Verhandlungen allerdings nicht formalisiert abliefen, war dies aber kein großer Hinderungsgrund für einen Abschluss. So ist es wegen der guten Vorbereitung und den intensiven Verhandlungen gelungen, bereits im Juli 2020 im Konzernbetriebsrat die Rahmenvereinbarung abzuschließen.

Was war euch als Gremium besonders wichtig beim Erarbeiten der Vereinbarung? Was sind aus eurer Sicht die wichtigsten Regelungen in der Vereinbarung?

Die wichtigsten Inhalte haben wir ganz zu Beginn noch in einer Präsenzsitzung gemeinsam erarbeitet und dann in der Rahmenvereinbarung näher beschrieben und geregelt.

Die Bedenken der Beschäftigten hielten sich in Grenzen. Für sie war die Thematik damals noch nichts, was sie im aktuellen Arbeitsumfeld betroffen hätte. Jedoch war die allgemeine Stimmung von der Sorge geprägt, Entscheidungen eines angeblich unfehlbaren KI-Systems hilflos ausgesetzt zu sein. Deswegen war uns wichtig, die Fehlbarkeit einer KI zu thematisieren und den Umgang damit zu regeln. In den Gremien gab es natürlich Zweifel, ob eine so innovative Vereinbarung überhaupt abschlussreif verhandelt werden könnte.

In der Vereinbarung klassifiziert ihr die unterschiedlichen Systeme nach den Risiken für die Beschäftigten. Wie genau funktioniert das?

Wir hatten Erfahrung aus einer Rahmenvereinbarung zu konventionellen IT-Systemen mit der Einstufung nach Relevanz und »Gefährlichkeit«. Aufwand für Verhandlungen soll dort investiert werden, wo er für die Mitarbeitenden am wichtigsten ist: nämlich dort, wo Schutzregeln sorgfältig vereinbart werden müssen.

Nach längerer Diskussion einigten wir uns bei KI-Systemen nicht nur auf eine Abstufung nach der Höhe der Risiken für die Mitarbeitenden, sondern nahmen auch die Chancen in diese Betrachtung mit auf. Dabei spielten wir gedanklich mehrere mögliche, zum Teil noch gar nicht angedachte, Einsatzbereiche von KI-Systemen durch und wogen dort die Chancen und Risiken ab. So haben wir unsere Klassifizierung entwickelt und getestet.

Die Art der Einstufung richtet sich auch danach, wer die Ergebnisse des KI-Systems erhält. Wenn Mitarbeitende aus einem KI-System Vorschläge zur Unterstützung erhalten, über deren Annahme oder Ablehnung sie vollkommen frei entscheiden können, haben wir dies als relativ harm­los angesehen. Etwas kritischer sehen wir KI-Systeme, wenn andere Personen (z. B. Führungskräfte) über diese Vorschläge informiert werden, da hierdurch die Wahlfreiheit des Mitarbeitenden ein­geschränkt werden kann. Macht ein KI-System Vorschläge für Entscheidungen, die einen unmittel­baren Einfluss auf das Arbeitsumfeld oder die Karriere der Beschäftigten haben, so erreicht das KI-System die nächste Kategorie. Geht es bei den Vorschlägen um direkte wirtschaftliche Auswirkungen für die Mitarbeitenden, sind wir bei der höchsten Stufe der Kategorien angelangt. Die Anregung zur Struktur haben wir aus der Bundestags-Enquete-Kommission mitgenommen. Diese Art der Kategorisierung wird aktuell auch im gesellschaftlichen KI-Kontext diskutiert und für sinnvoll gehalten.

Ihr habt zusätzlich zur Rahmenvereinbarung auch einen KI-Ethik-Rat installiert. Was ist das und wer macht da mit?

Der KI-Ethik-Rat soll helfen, die Rahmenvereinbarung weiterzuentwickeln und bei aktuellen Themen die Personalabteilung und die Betriebsräte fachlich beraten. Er ist auch Teil eines Regelungs­kreises, sodass Einwände von Mitarbeitenden bei ihm diskutiert und erörtert werden. Zusätzlich soll er KI-Empfehlungen prüfen und eventuell korrigieren lassen. Dabei sind in einem globalen Unternehmen, in dem die meisten KI-Systeme nicht im Land entwickelt werden, die Personen besonders wichtig, die weitreichenden Einfluss auf diese KI-Systeme nehmen können.

Die Mitglieder setzen sich zusammen aus drei KI-Fachleuten der IBM, die z. B. auch in der Enquete-Kommission des Bundestags und beim Deutschen Institut für Normung tätig waren, aus den Verhandlungsführenden des Arbeitgebers und des Konzernbetriebsrats, aus der Konzernschwerbehindertenvertreterin und einem koordinierenden Sprecher.

Wo habt ihr euch Unterstützung geholt?

Wir konnten uns vor und während der Verhandlungen z. B. anhand der EU-Ethik-Leitlinien für eine vertrauenswürdige KI aus dem April 2020, den IBM-Prinzipien zu KI und den Veröffentlichungen der Enquete-Kommission KI des Bundestags in die Thematik einlesen und passende Teile übernehmen. IBM hat eine weitreichende Expertise zum Thema KI im eigenen Haus, auf die wir zugreifen konnten. Zusätz­lich waren Artikel im Internet eine unerschöpfliche und teils verwirrende Quelle von Anregun­gen. Das inhaltliche Design der Vereinbarung ist im Verhandlungsteam erfolgt, welches von Expert:innen aus der IBM unterstützt wurde. Darüber hinaus haben wir juristische Unterstützung hinzugezogen. Natürlich brachten die Betriebsräte aufgrund ihrer beruflichen Erfahrung in der IT auch vielfältiges Wissen und umfangreiche Erfahrung mit.

Habt ihr Tipps für kleinere Gremien, die vielleicht gar nicht überblicken, welche Rolle KI in ihren Betrieben spielt?

Diese kleineren Gremien sollten sich Rat holen! Allerdings ist das nicht einfach: das Internet ist sicher eine unerschöpfliche, aber auch unüber­sichtliche Quelle von Informationen. Andere Betriebsratsgremien mit Erfahrung im Thema könnten Rat geben – auch wir könnten in gewissem Rahmen Hilfe anbieten. Externe Berater sind beim Thema KI durch das Betriebsrätestärkungsgesetz einfacher möglich geworden. Letztlich sollte man »klein« starten und eine Rahmenvereinbarung anstreben, die eine Basis regelt. Diese kann dann mit mehr Erfahrung weiterentwickelt werden. Themen können z. B. eine klare Zweckbeschreibung, die Sicherstellung der Datenqualität (bzw. die Qualität des Algorithmus), die Nichtdiskriminierung, die Transparenz, die Erklärbarkeit der Systeme sowie der Vorrang menschlicher Entscheidung und Einspruchsmöglichkeiten sein.

Mehr zum Thema Künstliche Intelligenz lesen Sie in Ausgabe 12/2021 von »Computer und Arbeit«.

Jetzt 2 Ausgaben gratis testen!

© bund-verlag.de (ct)

CuA-Banner Viertel quadratisch - Anzeige -

Das könnte Sie auch interessieren