Presse
© svort - Fotolia.com

26.05.2021

BAUA

Autonome Systeme als Herausforderung für den Arbeitsschutz

Die Produktsicherheit und den Arbeitsschutz stellt der Einsatz von Künstlicher Intelligenz (KI) in physischen Systemen, wie selbstfahrende Industrieplattformen, vor besondere Herausforderungen. Insbesondere rechtliche Fragen sind noch offen. Im Projekt "Rechtliche Rahmenbedingungen für die Bereitstellung autonomer und KI-Systeme" hat die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) herausarbeiten lassen, ob und inwieweit der Einsatz dieser neuen Technologien Änderungen am bestehenden Rechtsrahmen erforderlich macht.

Dreh- und Angelpunkt der Überlegungen ist der Begriff des "Produkts". Nach dem Produktsicherheitsgesetz erfolgt eine Beurteilung der von einem Produkt, etwa einer Maschine, ausgehenden Risiken im Zeitraum vor seiner Inbetriebnahme. Lernende Systeme - also solche, die sich im Betrieb auf Basis neuer Daten verändern - müssen weitergehende Anforderungen erfüllen. Durch die Veränderungen entsteht rechtlich gesehen ein neues Produkt.

Zudem ergeben sich aus der Verwendung datengetriebener Algorithmen, auch weitere Besonderheiten gegenüber herkömmlicher Software. Diese betreffen unter anderem die für die Betriebssicherheit zentralen Aspekte der Gefährdungsbeurteilung, wie Vernetzung, Kontrollierbarkeit, Widerstandfähigkeit oder Transparenz.

Ein zentrales Ergebnis der Studie ist die Entwicklung eines Kategoriensystems (Taxonomie), sodass sich sicherheitsrelevante Faktoren in software-physischen (KI-) Systemen bewerten und übersichtlich darstellen lassen.

Ein angepasstes "Produktbegleitungskonzept" ist notwendig. Damit könnten Nutzerinnen und Nutzer Hersteller zur Gewährleistung der Produktsicherheit über den gesamten Produktlebenszyklus verpflichten.