Künstliche Intelligenz braucht ärztliche Kontrolle

Auszug

Zu den Herausforderungen durch Künstliche Intelligenz (KI) - auch im Medizinsektor - hat der Deutsche Ethikrat Stellung genommen. Es gelte nicht nur, Vor- und Nachteile abzuwägen, sondern auch der "problematischen Verselbstständigungstendenz des Technologieeinsatzes frühzeitig entgegenzuwirken", heißt es in der Stellungnahme "Mensch und Maschine". Zum einen dürfe der Prozess, in dem die KI zu ihren Ergebnissen gelangt, nicht zu einer Black Box werden. Es müsse also rekonstruierbar bleiben, wie die Resultate entstehen. Zum anderen sei es notwendig, dass die Ergebnisse überprüft werden und auf die Plausibilität geachtet werde. Die Überprüfung KI-unterstützter Diagnosen und Therapieempfehlungen sei eine Aufgabe von Ärzt*innen, die "maschinell nicht substituierbar sei". Es müsste die Situation der Patient*innen berücksichtigt werden, wozu die KI nicht in der Lage sei. Bei fortschreitender Ersetzung einzelner ärztlicher, therapeutischer und pflegerischer Handlungssegmente durch KI-Komponenten hält es der Ethikrat für geboten, dass Patient*innen über alle entscheidungsrelevanten Umstände ihrer Behandlung vorab informiert werden.

…