• Projektnummer: F 2611
• Projektdurchführung: Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA)
• Status: Laufendes Projekt
• Geplantes Ende: 31. März 2028

Projektbeschreibung:

Der digitale Wandel führt zu einer zunehmenden Automatisierung von Planungs- und Entscheidungsprozessen in der Arbeitswelt. Besonders im Bereich des Algorithmic Managements, also digitaler Verfahren zur Organisation und Steuerung von Arbeit, wächst der Bedarf an Systemen, die nicht nur effizient, sondern auch nachvollziehbar, fair und menschengerecht sind. In sicherheitskritischen Bereichen wie der klinischen Pflege ist dies besonders relevant, da Personaleinsatz und Arbeitsbelastung unmittelbar die Sicherheit und Gesundheit der Beschäftigten beeinflussen.

Aktuell eingesetzte KI-Systeme agieren oft als Black Boxes: Sie optimieren Entscheidungen auf Basis unbekannter Annahmen und erschweren damit Vertrauen, Akzeptanz und Mitgestaltung. Zudem bergen sie das Risiko struktureller Überlastung einzelner Beschäftigter. Das Projekt erforscht daher, wie KI-basierte Systeme zur Aufgabenverteilung transparent und erklärbar gestaltet werden können. Im Rahmen einer Machbarkeitsstudie wird ein wissensbasiertes KI-System entwickelt, das kleine Planungs- und Entscheidungsprobleme bearbeitet und hinsichtlich der Erklärbarkeit seiner Entscheidungen untersucht wird. Parallel dazu werden generative KI-Modelle eingesetzt, um Unterschiede in Regelkonformität, Erklärungstiefe und Vertrauenswürdigkeit zu analysieren.

Durch den Vergleich wissensbasierter und generativer Ansätze leistet das Projekt einen wichtigen Beitrag zur algorithmischen Transparenz von KI-basierten Arbeitssystemen. Es stärkt die Interessen von Beschäftigten, schützt vor Überlastung und erhöht zugleich die Handlungssicherheit von Organisationen.