Durch die Hintertür - Du denkst, Du bist mit dem IT-System „durch“ - M365, Workday u.a. - und dann erfolgt ein Tuning des Systems mit KI.
Künstliche Intelligenz: Oft wird davon ausgegangen, dass ein neues Tool doch sicherlich „offiziell“ eingeführt wird.
Derzeit wird jedoch oft Software, die schon längst einvernehmlich eingeführt und genutzt wird, nachträglich mit KI „getunt“. Mitunter stehen die Verhandlungen zu einem Tool, z.B. Workday kurz vor dem Abschluss der BV. Plötzlich bemerkt jemand – vielleicht gerade noch rechtzeitig – vor den Unterschriften, dass nun auch diese Software massiv KI-unterstützt ist. Jetzt stellen sich viele Fragen. Die BV kann so kaum abgeschlossen, bestehende Betriebsvereinbarungen können so kaum unverändert beibehalten werden. Was ist nun zu tun? Duldet der BR nun den “Rest“ des Systems, bis die KI-Themen aufgeklärt sind? Nein: Der AG muss sie vorstellen und erklären.
Oft können KI-Funktionen (teilweise) deaktiviert werden, aber eben nicht alle. Wie kann sichergestellt werden, dass es bei der gefundenen Einstellung (Deaktivierung) bleibt. Hier müssen griffige und praktikable Kontrollmöglichkeiten des Betriebsrats vereinbart werden.
Bei Cloudsystemen spielt der Hersteller die neue Version der Software häufig einfach auf.
Einige Softwareanbieter werben bereits damit, dass ihre nun KI-getunte Software das Feedback mit weiteren Kennzahlen und Zielen abgleicht, und auf diese Weise ein Bild der Performance der ArbeitnehmerInnen zeichnet.
Ein Test bezüglich der Nutzbarkeit einer KI-gestützten Suchmaschine, welchen wir gemeinsam mit dem BR durchführten, zeigte, dass man mittels dieser Funktion Personallisten des Arbeitgebers (Belegschaft weltweit, mit IP-Adresse etc.) abrufen konnte, bei denen man „nie und nimmer“ leseberechtigt sein dürfte. Auch konnte man Mails von Vorgesetzten und Kollegen lesen, in deren Verteilerkreis man nicht aufgenommen war. Der Test wurde aus datenschutzrechtlichen Gründen sofort abgebrochen und der AG informiert.
Man muss sich also darum kümmern, dass Zugriffs- und Berechtigungskonzepte hier nicht wirkungslos werden. Aus unserer Sicht besteht dringender Handlungsbedarf: Informationen müssen eingefordert, Betriebsvereinbarungen müssen gestaltet bzw. angepasst werden; und das schnell.