Navigation und Service

HinweisCookies

Diese Webseite verwendet Cookies. Das ermöglicht es uns, die Webseite für Sie optimal zu gestalten und fortlaufend zu verbessern. Hier erfahren Sie mehr zum Datenschutz und Möglichkeiten zum Widerspruch.

OK

Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme

Projektnummer: F 2432 Projektdurchführung: Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) / HFC - Human-Factors-Consult GmbH, Berlin / IKEM - Institut für Klimaschutz, Energie und Mobilität, Berlin Status: Laufendes Projekt Geplantes Ende: 30. November 2020

Projektbeschreibung:

Weil die bisherigen Anforderungen des Deutschen und Europäischen Öffentlichen Rechts auf konventionelle Produkte und Steuerungen ohne Entscheidungsautonomie abgestimmt sind, ist es erforderlich, sowohl den Rechtsrahmen für Beschaffenheitsanforderungen und Betriebssicherheit zu analysieren, als auch die ganzheitliche Sicherheitssystematik hinsichtlich der Anwendung von KI-Systemen zu evaluieren.

Das Projekt ergänzt die bisherigen technologischen und menschbezogenen Aktivitäten und Forschungen der BAuA zu aktuellen Themen der Industrie 4.0 um produktsicherheitsrechtliche Erkenntnisse.

Ziel ist die Bewertung der rechtlichen Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme. Darauf aufbauend sollen grundsätzliche präventive Anforderungen für das Vorschriften- und Regelwerk im deutschen und europäischen Recht abgeleitet werden. Hierfür werden eine Taxonomie für eine vorhersehbare Verwendung und Klassifizierung autonomer Systeme und Anwendungsszenarien sowie beschrieben und die wesentlichen Entwicklungsschritte klassifiziert. Mit Hilfe von Experten aus den Bereichen Forschung und Entwicklung sollen zunächst der Stand der Technik ermittelt und Prognosen für die mittelfristigen Entwicklungen im Bereich autonomer und KI-Systeme getroffen werden. Die Expertenkreise werden mittels Workshops und einer Delphi-Befragung in die Entwicklung der Taxonomie und der Anwendungsszenarien einbezogen. Hierbei werden die Strategien und Methoden der Hersteller für die Risikominderung im Rahmen des Entwicklungsprozesses der neuen Technologien ebenfalls betrachtet und bewertet.

Das mit dem Projekt erschlossene Wissen soll die betreffenden Akteure, wie Regelsetzer, Hersteller, Betreiber und Aufsichts- sowie Akkreditierungsdienste in die Lage versetzen, die notwendigen Maßnahmen zu ergreifen, um möglichen Risiken entsprechend vorbeugen zu können und es ist ein wesentlicher Baustein, um die technische Entwicklung kompetent mitzugestalten und rechtlich zu begleiten.

Kontakt

Fachgruppe 2.1 "Grundsatzfragen der Produktsicherheit"

Service-Telefon: 0231 9071-2071 Fax: 0231 9071-2070