Bei Robotern, die direkt mit dem Menschen, zum Beispiel Bewohnern in einem Heim, interagieren oder diese körperlich unterstützen, sind in der EU komplexe Vorgaben zu beachten. Insbesondere die Datenschutzanforderungen sind umfangreich und bei Importrobotern von außerhalb der EU zu wenig berücksichtigt. Industrierobotern sind vergleichsweise einfach! Ein plakatives Beispiel dazu:
- auch ein Sex-Roboter ist ein Roboter der mit Menschen intensiv interagiert und diese körperlich unterstützt. Er ist ein gute Ausgangspunkt für Diskussionsrunden mit Konstrukteuren und Programmierern, die oft wenig Erfahrungen mit Heimbewohnern haben! Und mit dem Beispiel Sexroboter wird sofort klar, warum wir in der EU mehr Wert auf Datenschutz legen!
Es hilft sehr stark, wenn Sie als Hersteller klar trennen zwischen
- Robotern die banale Tätigkeiten die Essen oder Getränke bringen und in der Praxis den Müll zur Entsorgungsstation bringen (sogenannte mobile Service Roboter)
- Roboter die Menschen bei Aufstehen, Gehen oder Umlagern unterstützen. Teilweise wird der Begriff Personal Carrier Robot verwendet.
- Roboter die mit dem Menschen interagieren, z.B. durch Sprache und Gesichtsausdruck, um beispielsweise Menschen zum Trinken oder Einnehmen von Medikamenten zu bewegen und dies zu dokumentieren
- Roboter die direkt mit dem Menschen interagieren, in dem Sie ähnlich wie ein Mensch körperliche Unterstüzung anbieten, teilweise werden diese Physical Assistant Robot genannt.
- Roboter die Vitalparameter aufnehmen und ggf. die Wirkung oder auch nur die Einnahme von Tabletten überwachen, sind vermutlich Medizinprodukte – dann ist die Medizinprodukteverordnung anstelle der Maschinenverordnung die grundlegende und wichtige EU-Vorgabe. Vorteil: oft eine einfachere Risikobeurteilung, aber oft Pflicht zur Einschaltung einer Prüfstelle.
Roboter und die EU-Maschinenverordnung (EU) 2023/1230
Es gilt zunächst die EU-Maschinenverordnung (EU) 2023/1230. Diese verlangt eine Risikobeurteilung und eine technische Dokumentation. Die sichere Konstruktion ist hier etwas anderes als bei Industriemaschinen, denn Mechanische Gefahren wie
- Quetschen
- Scheren
- Stoßen
sind jetzt für solche Roboter etwas komplexer zu beschreiben, weil Kollisionen mit Gegenständen oder anderen Personen, das Einklemmen oder auch das Umkippen oder Herunterfallen nicht sofort verständlich ist – dass sehen Profis aus Heimen anders, denn die erleben, ob und wie das Überfahren von Füßen oder Einklemmen zwischen Roboter und Wand oder Möbeln möglich ist.
Die seit Jahren aus der Maschinenrichtlinie bekannten Probleme wie unkontrollierte Roboterbewegung und unerwarteter Anlauf hingegen müssen sich in den Griff gekommen lassen – Verletzungen durch Greifer sind zu vermeiden.
Bitte denken Sie als Konstrukteur daran, dass Bewohner eines Heims oft deutlich langsamer reagieren, Gleichgewichtsstörungen haben, schlecht sehen, schlecht hören, kognitive Einschränkungen haben und unerwartete Bewegungen ausführen.
Deshalb zurück zum Beispiel Sex-Roboter: da kommen obige Punkte weitgehend ebenfalls zu Anwendung, wobei ich hinzufügen möchte, dass der Roboter manchmal in der Bewegung aufhören muss um Schmerzen des Benutzers zu vermeiden. So etwas ist als vernünftigerweise vorhersehbarer Verwendung und Fehlanwendung zu berücksichtigten.
Vertiefung zur Robotern und Maschinenverordnung
Für diesen Anwendungsfall gibt es eine oft passende Norm:
ISO 13482 – Robots and robotic devices – Safety requirements for personal care robots
Sie behandelt ausdrücklich:
- Mobile Serviceroboter
- Physical Assistant Robots
- Person Carrier Robots
und zwar gerade für Roboter, die mit Menschen körperlich in Kontakt kommen. Die Norm nennt ausdrücklich Personen unabhängig von Alter oder Fähigkeiten. ISO 13482 ist deshalb für ein solches Projekt eine der wichtigsten Normen überhaupt. Sie berücksichtigt ausdrücklich den physischen Kontakt zwischen Mensch und Roboter. Interessant ist außerdem ISO/TR 23482-1, das konkrete sicherheitsbezogene Prüfverfahren für Personal-Care-Roboter beschreibt.
Medizinprodukt Roboter
Ein Roboter ist vermutlich ein Medizinprodukt nach EU-Medizinprodukteverordnung 2017/745 (MDR) , wenn der Hersteller ihn bestimmungsgemäß dafür vorsieht,
- eine Behinderung zu kompensieren,
- eine Erkrankung zu behandeln,
- eine Verletzung zu unterstützen,
- therapeutische Funktionen auszuführen,
- medizinische Zustände zu überwachen.
Datenschutzanforderungen
Roboter in Heimen sind nicht mit einer banalen Datenschutzerklärung ausreichend in der Eu beschrieben, denn sobald der Roboter Personen erkennt, beobachtet, Gespräche verarbeitet oder aus dem Verhalten Rückschlüsse zieht, wird das Ganze rechtlich sehr anspruchsvoll. Deshalb vergleiche ich angebliche Altersheimroboter gerne mit Sexrobotern, die auch aus den Verarbeiten von Bildern der vor ihm stehenden oder liegenden Personen auf die nächsten Aktionen schließt und davon eine oder mehere Aktionen in die Wege leitet.
Ein typischer Assistenzroboter könnte beispielsweise erfassen:
- Kamerabilder
- Mikrofon/Audiosignale
- Aufenthaltsort
- Bewegungsmuster
- Aktivitätsmuster
- Sprache und Gespräche
- sofern technisch machbar Gesichtsausdruck
- Gesicht und oder Namen und Bewohner-ID, damit Informationen über körperliche oder geistige Einschränkungen oder Vorlieben
- möglicherweise Vitaldaten
- in Heimen möglicherweise Medikamenteneinnahmezeitpunkte und Folgen der Einnahme oder Nichteinnahme
Beim Spielen mit KI habe ich nur erahnt, dass man diese Fälle unterscheiden sollte:
„Der Roboter erkennt einen Menschen vor sich.“
ist datenschutzrechtlich etwas anderes als:
„Der Roboter erkennt, dass Frau Müller vor ihm steht.“
Und damit der Roboter wirklich akzeptiert wird passiert nochmals etwas weiteres:
„Der Roboter weiß, dass Frau Müller dement ist und deshalb anders angesprochen werden muss.“
Je mehr der Roboter über eine Person weiß, desto größer werden die datenschutzrechtlichen Anforderungen. Und Gesundheitsdaten gehören nach Art. 9 DSGVO zu den besonderen Kategorien personenbezogener Daten und unterliegen einem wesentlich höheren Schutz.
Bei einem autonomen Roboter, der durch einen Flur fährt und der mit der Kamera Datern sammelt für
- Hinderniserkennung
- Navigation
- Personenerkennung
- Sturzerkennung
sagen Praktiker schnell „Die Kamera läuft ständig und wir speichern alles“ was genau der falsche Ansatz ist. Deshalb sind lokale KI so hilfreich, weil empfindliche Daten nicht erst irgendwohin übertragen werden. Und das Bild vom Sessel, gegen den der Roboter sonst gefahren wäre, können wir schnell löschen. Aber ich bin kein Programmierer und kein Datenschutzprofi, also breche ich hier ab. Denn ich fand bei der Recherche zu diesem Text, dass der AI Act ausdrücklich auf die mangelnde Zuverlässigkeit und die möglichen diskriminierenden Auswirkungen von Emotionserkennung hinweist. Angeblich sind bestimmte Emotionserkennungssysteme sind sogar verboten. Ich vermute, diese Hinweise reichen aus damit Sie verstehen, wie komplex das Thema sein kann.