Ethische, legale und soziale Implikationen bei der Anwendung künstliche-Intelligenz-gestützter Technologien in der Chirurgie

Ethische, legale und soziale Aspekte gewinnen bei der Entwicklung und dem klinischen Ersteinsatz von Produkten der Medizintechnik immer mehr Beachtung. Die an sich bereits schon komplexe Thematik wird durch die Einführung von Elementen der künstlichen Intelligenz (KI) noch herausfordernder. Eine Zäsur stellt die Einführung der sog. „dynamischen“ KI bzw. des „dynamischen“ maschinellen Lernens (ML) dar. Im Gegensatz zu konventionellen Medizinprodukten ist bei dynamischen KI-Systemen die Entwicklung zu Beginn des klinischen Einsatzes noch nicht abgeschlossen. Das Ziel des dynamischen KI-Systems ist es, sich durch den praktischen Einsatz und die Verarbeitung von Nutzungsdaten ständig weiter zu verbessern. Diese kontinuierliche Weiterentwicklung zusammen mit der mangelnden Transparenz in Bezug auf die internen Arbeitsprozesse können es schwierig machen, die Gründe für die von den Algorithmen vorgenommenen Bewertungen zu verstehen. Dieser Umstand beeinflusst die Technologieakzeptanz der Kliniker und Patienten und stellt nicht zuletzt die Autonomie von Patienten und Klinikern im Behandlungsablauf infrage. Ein Ausweg aus diesem ethischen und regulatorischen Dilemma muss dringend gefunden werden und wird von allen Beteiligten äußerste Anstrengungen erfordern. Derzeit zeichnet sich noch keine konsensuale Lösung ab. Ganz sicher aber ist, dass die Anwender – d. h. konkret Chirurgen – beim Umgang mit KI-gestützten Medizinprodukten eine viel aktivere Rolle als bisher einnehmen müssen und sich auf eine intensivere Rolle im Softwarelebenszyklus von KI-Technologien vorbereiten sollten.