Navigation und Service

Autonome Systeme als Herausforderung für den Arbeitsschutz

Bericht der BAuA beleuchtet anstehende rechtliche Fragestellungen

Ausgabe 20/21
Datum 25. Mai 2021

Dortmund - Software-physische, künstlich-intelligente Systeme und autonome Maschinen sind mittlerweile mehr als bloße Schlagworte oder Visionen einer fernen Zukunft. Immer mehr Anwendungsszenarien werden für die unterschiedlichen Lebensbereiche zunehmend greifbar - auch und gerade in der industriellen Produktion. Die Produktsicherheit und den Arbeitsschutz stellt der Einsatz von Künstlicher Intelligenz (KI) in physischen Systemen, z. B. selbstfahrende Industrieplattformen, vor besondere Herausforderungen. Dies gilt insbesondere im Hinblick auf die mit ihrem Einsatz verbundenen rechtlichen Fragen.

In dem Projekt "Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme" hat die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) herausarbeiten lassen, ob und inwieweit der Einsatz dieser neuen Technologien Änderungen am bestehenden Rechtsrahmen erforderlich macht. Hierbei stehen das Produktsicherheits- und Betriebssicherheitsrecht im Mittelpunkt.

Dreh- und Angelpunkt der Überlegungen ist der Begriff des "Produkts". Nach dem Produktsicherheitsgesetz erfolgt eine Beurteilung der von einem Produkt, etwa einer Maschine, ausgehenden Risiken im Zeitraum vor seiner Inbetriebnahme. Lernende Systeme - also solche, die sich im Betrieb auf Basis neuer Daten verändern - müssen weitergehende Anforderungen erfüllen. Durch die Veränderungen entsteht rechtlich gesehen ein neues Produkt.

Zudem ergeben sich aus der Verwendung datengetriebener Algorithmen, auch weitere Besonderheiten gegenüber herkömmlicher Software. Diese betreffen unter anderem die für die Betriebssicherheit zentralen Aspekte der Gefährdungsbeurteilung, wie Vernetzung, Kontrollierbarkeit, Widerstandfähigkeit oder Transparenz.

Ein zentrales Ergebnis der Studie ist die Entwicklung eines Kategoriensystems (Taxonomie), mit dem sicherheitsrelevante Faktoren in software-physischen (KI-) Systemen bewertbar gemacht und übersichtlich dargestellt werden. Die Grundlage hierfür bilden umfangreiche Expertenbefragungen und ergänzende Auswertungen der verfügbaren Literatur.

Auf dieser Basis werden unterschiedliche Vorschläge zur Weiterentwicklung des Produktsicherheitsrechts gemacht. So kann durch die Einführung rechtlicher Konstrukte wie der "bestimmungsgemäßen Veränderbarkeit" oder der "Wandelbarkeit" der Produktbegriff so angepasst und erweitert werden, dass er den spezifischen Eigenschaften von software-physischen (KI-) Systemen gerecht wird.

Als Konsequenz hieraus ist ein angepasstes "Produktbegleitungskonzept" notwendig, mit dem Hersteller zur Gewährleistung der Produktsicherheit über den gesamten Produktlebenszyklus verpflichtet werden könnten.

Den baua: Bericht "Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme" gibt es im PDF-Format zum Herunterladen im Internetangebot der BAuA unter www.baua.de/dok/8859246

Forschung für Arbeit und Gesundheit

Die BAuA ist eine Ressortforschungseinrichtung im Geschäftsbereich des BMAS. Sie betreibt Forschung, berät die Politik und fördert den Wissenstransfer im Themenfeld Sicherheit und Gesundheit bei der Arbeit. Zudem erfüllt die Einrichtung hoheitliche Aufgaben im Chemikalienrecht und bei der Produktsicherheit. An den Standorten Dortmund, Berlin und Dresden sowie in der Außenstelle Chemnitz arbeiten über 750 Beschäftigte.

Kontakt

So erreichen Sie uns:

Lea Deimel

Telefon: 0231 9071-2562 Fax: 0231 9071-2362

Cookies erleichtern die Bereitstellung unserer Dienste. Mit der Nutzung unserer Dienste erklären Sie sich damit einverstanden, dass wir Cookies verwenden. Weitere Informationen zum Datenschutz erhalten Sie über den folgenden Link: Datenschutz

OK