Juri Rohde bei der bitkom: Regulatorischen Anforderungen an KI-basierte Software

06.12.2021 Der EU-Rechtsrahmen für KI wird künftig viele Entscheidungen über Technologien, deren Einsatz und Wettbewerbsfähigkeit beeinflussen. KI-Anwendungen als Medizinprodukte werden in aktuellen Richtlinien bislang nicht eindeutig definiert. Dies erschwert die Zertifizierung.

Head of Q & R Juri Rohde hielt für die bitkom am 10. Nov. 2021 einen Vortrag über die regulatorischen Anforderungen an KI-Softwareentwicklung und Zertifizierung.

Mit dem Inkrafttreten der Medical Device Regulation (MDR) in 2017, haben sich die Bedingungen für Medizinprodukthersteller stark verändert. In der MDR (EU) 2017/745 Verordnung wird Software (im Allgemeinen) als Medizinprodukt zwar berücksichtigt, KI als Medizinprodukt jedoch nicht eindeutig definiert.

Der steigende Einsatz von KI in einer Vielzahl von Branchen wird in Zukunft jedoch viele Bereiche des Rechts treffen. Da sich die Technologie noch in einem frühen Stadium der Entwicklung befindet, sind die Auswirkungen bislang nur zu erahnen.
Politische Entscheidungsträger betonen daher regelmäßig das übergreifende strategische Ziel ihrer KI-Politik: Die Schaffung eines europäischen Exzellenz-Ökosystems für KI, das eng mit einem vertrauensvollen Umfeld für den Einsatz von KI verbunden ist. Die bitkom ist sich deshalb sicher, dass Europa bei der Ausgestaltung von Regeln Raum für die Entwicklung der Technologie zum Nutzen von Gesellschaft und Wirtschaft lassen muss.

Anlässlich des im April 2021 vorgelegten Kommissionsvorschlages zum KI-Gesetz, fordert die bitkom dessen Präzisierung. Der von der bitkom formulierte „AI Act“ soll für mehrere Bereiche, in denen KI-Produkte eingesetzt werden, gelten. Je genauer der AI Act ausgearbeitet wird, desto höher ist das Entwicklungspotential für KI-Medizinprodukte. Aktuell würde der AI-Act in der Kombination mit den Vorgaben der MDR sehr vieles komplizierter machen, da Definitionen entweder nicht identisch vorliegen oder zu allgemein formuliert sind. Es besteht die Gefahr, dass dadurch Innovationen nicht in den Markt finden.

Juri Rohde wurde von der bitkom eingeladen, da wir als Start-up eine KI-Software entwickeln, die auch als Medizinprodukt zertifiziert werden wird. Den Teilnehmenden wurde so ein Einblick in die praktische Umsetzung der MDR Anforderungen gegeben. Juri Rohde erläuterte die Relation zwischen den regulatorischen Anforderungen und der Softwareentwicklung und die damit verbundenen Herausforderungen. Sein Fazit: „Regulatorische Anforderungen sollten Chancen schaffen, aus denen sich Innovationen und Synergien heraus entwickeln können, ohne die Sicherheit der Patient*innenen zu beeinträchtigen.“