Interdisziplinäre Fragen
Ruschemeier, H. (Hrsg.) |
Steinrötter, B. (Hrsg.)
Nomos, 2024, 172 Seiten, broschiert, ISBN 978-3-7560-0476-8
Der Band enthält die Vorträge einer interdisziplinären Konferenz der Robotics & AI Law Society (RAILS), die in Kooperation mit der Fernuniversität Hagen im März 2024 ausgerichtet wurde. Den immer breiter werdenden Anwendungsbereichen Künstlicher Intelligenz (KI) und Robotik in der Medizin stehen Fragen ethischer und rechtlicher Natur gegenüber, deren Diskussion bislang weit weniger intensiv betrieben wird.
Wie häufig im medizinrechtlichen Kontext droht als Konsequenz dieser Entwicklung eine zunehmende Disproportionalität zwischen den rasant zunehmenden technischen Möglichkeiten einerseits und der notwendigen ethischen Reflexion und den daraus abzuleitenden regulatorischen Anforderungen. Die Düsseldorfer Philosophin Susanne Hahn stellt den Unterschied zwischen einer bloß Algorithmen gestützten Ergebnisfindung und einer „Entscheidung“ im Sinne einer meist in einer Zwangssituation notwendigen Überwindung von Ungewissheiten dar. Erstere beschränken sich letztlich auf eine Mustererkennung und entwickeln hieraus Handlungsempfehlungen. Es geht letztlich nur um Sortierungsvorgänge als „statistische Nachbildung des Lernens“, weshalb es nicht zu einer unreflektierten Übertragung von Algorithmen kommen sollte.
Ein interessantes und häufig übersehenes Problemfeld steuert der Philosoph und Ethiker Rainer Mülhoff aus Osnabrück bei, der sich mit den Risiken der Sekundärnutzung von Daten im Training von KI-Modellen beschäftigt. Während die primäre Datenerhebung und -verarbeitung insbesondere durch die seit 2018 geltende Datenschutzgrundverordnung einem – manchmal sogar überbordenden – Schutzniveau gehorchen muss, fehlt es an Regelungen für die Nutzung nicht (mehr) personenbezogener Daten. Gerade dieses Feld erfreut sich in der medizinischen Forschung wachsender Beliebtheit nicht nur, aber auch und insbesondere für das Training von KI-Modellen. Der Nutzen bei der Diagnosefindung ist unbestreitbar, der unkritische Einsatz birgt aber die Gefahr des Missbrauchs, z.B. durch Identifikation von Risikofaktoren mit Relevanz für den Abschluss etwa von Versicherungs- oder Arbeitsverträgen.
Michael Schirmer und Petra Ritter vom Einstein Zentrum für Neurowissenschaften in Berlin stellen ein Modell zur Entwicklung einer dezentralen, datenschutzkonformen Forschungsplattform vor. Tobias Herbst von der Hochschule für Polizei und öffentliche Verwaltung, Speyer, beleuchtet die datenschutzrechtlichen Implikationen von KI und Robotik anhand von Fallbeispielen und konstatiert eine mangelnde Transparenz in der Datenverarbeitung und die dem datenschutzrechtlichen Grundsatz der Datenminimierung widerstreitende Datenhypertrophie in der Entwicklung von KI. Jan Eichelberger von der Leibniz Universität Hannover befasst sich in einem weiteren Beitrag mit haftungsrechtlichen Rahmenbedingungen und gelangt zu der Auffassung, dass sich der Einsatz von KI grundsätzlich in das herkömmliche System der §§ 630a BGB einpflegen lässt, fordert allerdings bereichsspezifische Detailregelungen, um das Bemühen um Patientensicherheit nicht als Innovationsbremse wirken zu lassen.
Jonas Botta von der Universität für Verwaltungswissenschaften Speyer sieht hingegen Regelungsbedarf im SGB V, um den gesetzlich Versicherten den auch von Verfassung wegen gebotenen Zugang zu intelligenten Medizinprodukten zu erleichtern. Svenja Berendt vom Max-Planck-Institut zur Erforschung von Kriminalität, Sicherheit und Recht, Freiburg, widmet sich der rechtlichen, vor allem strafrechtlichen Einordnung des KI-Einsatzes bei der Triage und sieht die Probleme weniger bei der technischen Unterstützung im Vorfeld von solchen Entscheidungen als bei zukünftig KI-vermittelten Prognosen.
Den Abschluss bildet eine Darstellung der KI-Verordnung („AI Act“) auf EU-Ebene, die sich auch gegenwärtig noch im Entwurfsstadium befindet. Alexandra Jorzig und Luis Kämper von der IB Hochschule für Gesundheit und Soziales bejahen grundsätzlich deren Anwendbarkeit auf konkrete KI-Systeme, halten aber eine Klärung des Verhältnisses zum Medizinprodukterecht zur Vermeidung von Wertungswidersprüchen und einer Überregulierung für erforderlich. Insgesamt bietet der in der Reihe „Datenrecht und neue Technologien“ erschienene Band einen lesenswerten Aufriss der mit dem Einsatz von KI in der Medizin verknüpften ethischen und rechtlichen Konsequenzen. Es gilt nun, diesen interdisziplinären Diskurs aufzugreifen und fortzusetzen, um die unzweifelhaft vorhandenen Chancen von KI und Robotik zum Wohle der Patienten zu nutzen, ohne in die Gefahr des „Zauberlehrlings“ zu geraten, die erst einmal herbeigerufenen „Geister“ nicht (mehr) kontrollieren zu können.
P. W. Gaidzik, Hamm
