Skip to main content
Erschienen in:

02.04.2025 | Künstliche Intelligenz | Leitthema

Künstliche Intelligenz in der Medizin – Chancen und Risiken aus ethischer Sicht

verfasst von: Saskia Metan, Prof. Dr. med. Florian Bruns, M.A.

Erschienen in: Die Ophthalmologie | Ausgabe 4/2025

Einloggen, um Zugang zu erhalten

Zusammenfassung

Bildgebende Fächer wie die Augenheilkunde bieten vielfältige Möglichkeiten für den nutzbringenden Einsatz künstlicher Intelligenz (KI). Die Auswertung von Bildern und Daten mittels trainierter Algorithmen besitzt das Potenzial, die Diagnosestellung und die Patientenversorgung nicht nur in der Augenheilkunde zu verbessern. Wenn KI in der klinischen Praxis Fortschritte bewirkt, die den Patienten dienen, ist dies ethisch zu begrüßen. Achtung der Selbstbestimmung der Patienten und Datensicherheit müssen jedoch gewährleistet sein. Nachvollziehbarkeit und Erklärbarkeit der Algorithmen würden das Vertrauen in die automatisierte Entscheidungsfindung stärken und ärztliche Letztverantwortung ermöglichen. Zu beachten ist, dass Algorithmen nur so gut und unvoreingenommen sind wie die Daten, mit denen sie trainiert wurden. Sofern die Nutzung von KI absehbar zum Verlust von Fertigkeiten auf ärztlicher Seite führt („deskilling“), ist dem entgegenzuwirken, etwa durch verbesserte Ausbildung. Medizinethische Begleitforschung ist notwendig, um jene Aspekte des KI-Einsatzes zu identifizieren, die einer Regulierung bedürfen. Grundsätzlich ist darauf zu achten, dass KI dem Menschen dient und sich seinen Bedürfnissen anpasst – nicht umgekehrt.
Fußnoten
1
Siehe dazu in diesem Themenheft die Beiträge von Stolze, Kakkassery, Kowerko et al. sowie von Holtrup, Varghese, Schuster et al.
 
2
Ähnlich ausgeblendet wird gerne der immense Energieverbrauch der KI-Hardware. Neuromorphe Systeme und Quantencomputer sind hier Stichworte für mögliche Weiterentwicklungen, um trotz zunehmender Rechenkapazität energieeffizient zu arbeiten.
 
Literatur
3.
Zurück zum Zitat Beauchamp TL, Childress JF (2019) Principles of biomedical ethics, 8. Aufl. Oxford University Press, New York Beauchamp TL, Childress JF (2019) Principles of biomedical ethics, 8. Aufl. Oxford University Press, New York
4.
Zurück zum Zitat Beck S, Faber M, Gerndt S (2023) Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege. Ethik Med 35(2):247–263CrossRef Beck S, Faber M, Gerndt S (2023) Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege. Ethik Med 35(2):247–263CrossRef
5.
Zurück zum Zitat Benzinger L, Ursin F, Balke WT et al (2023) Should artificial Intelligence be used to support clinical ethical decision-making? A systematic review of reasons. BMC Med Ethics 24:48CrossRefPubMedPubMedCentral Benzinger L, Ursin F, Balke WT et al (2023) Should artificial Intelligence be used to support clinical ethical decision-making? A systematic review of reasons. BMC Med Ethics 24:48CrossRefPubMedPubMedCentral
6.
Zurück zum Zitat Bernstein IA, Zhang YV, Govil D et al (2023) Comparison of ophthalmologist and large language model chatbot responses to online patient eye care questions. JAMA Netw Open 6(8):e2330320CrossRefPubMedPubMedCentral Bernstein IA, Zhang YV, Govil D et al (2023) Comparison of ophthalmologist and large language model chatbot responses to online patient eye care questions. JAMA Netw Open 6(8):e2330320CrossRefPubMedPubMedCentral
7.
Zurück zum Zitat Blech J (2024) Auf Heilung programmiert. Spiegel 44:8–16 Blech J (2024) Auf Heilung programmiert. Spiegel 44:8–16
8.
Zurück zum Zitat Bleher H, Braun M (2022) Diffused responsibility. Attributions of responsibility in the use of AI-driven clinical decision support systems. AI Ethics 2(4):747–761CrossRefPubMedPubMedCentral Bleher H, Braun M (2022) Diffused responsibility. Attributions of responsibility in the use of AI-driven clinical decision support systems. AI Ethics 2(4):747–761CrossRefPubMedPubMedCentral
10.
Zurück zum Zitat Burlina PM, Joshi N, Pekala M et al (2017) Automated grading of age-related macular degeneration from color fundus images using deep convolutional neural networks. JAMA Ophthalmol 135(11):1170–1176CrossRefPubMedPubMedCentral Burlina PM, Joshi N, Pekala M et al (2017) Automated grading of age-related macular degeneration from color fundus images using deep convolutional neural networks. JAMA Ophthalmol 135(11):1170–1176CrossRefPubMedPubMedCentral
11.
Zurück zum Zitat Cassel C, Bindman A (2019) Risk, benefit, and fairness in a big data world. JAMA 322(2):105–106CrossRefPubMed Cassel C, Bindman A (2019) Risk, benefit, and fairness in a big data world. JAMA 322(2):105–106CrossRefPubMed
12.
Zurück zum Zitat Char DS, Shah NH, Magnus D (2018) Implementing machine learning in health care—addressing ethical challenges. N Engl J Med 378(11):981–983CrossRefPubMedPubMedCentral Char DS, Shah NH, Magnus D (2018) Implementing machine learning in health care—addressing ethical challenges. N Engl J Med 378(11):981–983CrossRefPubMedPubMedCentral
15.
Zurück zum Zitat Eichelberger J (2024) Arzthaftung im Kontext von KI und Robotik. In: Ruschemeier H, Steinrötter B (Hrsg) Der Einsatz von KI und Robotik in der Medizin. Interdisziplinäre Fragen. Nomos, Baden-Baden, S 97–114CrossRef Eichelberger J (2024) Arzthaftung im Kontext von KI und Robotik. In: Ruschemeier H, Steinrötter B (Hrsg) Der Einsatz von KI und Robotik in der Medizin. Interdisziplinäre Fragen. Nomos, Baden-Baden, S 97–114CrossRef
16.
Zurück zum Zitat EU-Gesetz (2025) Erste KI-Vorschriften in Kraft. Dtsch Ärztebl 122(4):A-209 EU-Gesetz (2025) Erste KI-Vorschriften in Kraft. Dtsch Ärztebl 122(4):A-209
17.
Zurück zum Zitat Fehr J, Citro B, Malpani R et al (2024) A trustworthy AI reality-check: the lack of transparency of artificial intelligence products in healthcare. Front Digit Health 6:1267290CrossRefPubMedPubMedCentral Fehr J, Citro B, Malpani R et al (2024) A trustworthy AI reality-check: the lack of transparency of artificial intelligence products in healthcare. Front Digit Health 6:1267290CrossRefPubMedPubMedCentral
19.
Zurück zum Zitat Gillon R (2015) Defending the four principles approach as a good basis for good medical practice and therefore for good medical ethics. J Med Ethics 41(1):111–116CrossRefPubMed Gillon R (2015) Defending the four principles approach as a good basis for good medical practice and therefore for good medical ethics. J Med Ethics 41(1):111–116CrossRefPubMed
20.
Zurück zum Zitat Goddard K, Roudsari A, Wyatt JC (2011) Automation bias—a hidden issue for clinical decision support system use. Stud Health Technol Inform 164:17–22PubMed Goddard K, Roudsari A, Wyatt JC (2011) Automation bias—a hidden issue for clinical decision support system use. Stud Health Technol Inform 164:17–22PubMed
21.
22.
Zurück zum Zitat Grote T, Berens P (2020) On the ethics of algorithmic decision-making in healthcare. J Med Ethics 46(3):205–211CrossRefPubMed Grote T, Berens P (2020) On the ethics of algorithmic decision-making in healthcare. J Med Ethics 46(3):205–211CrossRefPubMed
23.
Zurück zum Zitat Hager P, Jungmann F, Holland R et al (2024) Evaluation and mitigation of the limitations of large language models in clinical decision-making. Nat Med 30(9):2613–2622CrossRefPubMedPubMedCentral Hager P, Jungmann F, Holland R et al (2024) Evaluation and mitigation of the limitations of large language models in clinical decision-making. Nat Med 30(9):2613–2622CrossRefPubMedPubMedCentral
24.
Zurück zum Zitat Holtz B, Nelson V, Poropatich RK Artificial intelligence in health: enhancing a return to patient-centered communication. Telemed J E Health 29(6):795–797 Holtz B, Nelson V, Poropatich RK Artificial intelligence in health: enhancing a return to patient-centered communication. Telemed J E Health 29(6):795–797
26.
Zurück zum Zitat Hummel P, Braun M, Augsberg S, Ulmenstein U, Dabrock P (2021) Datensouveränität. Governance-Ansätze für den Gesundheitsbereich. Springer VS, WiesbadenCrossRef Hummel P, Braun M, Augsberg S, Ulmenstein U, Dabrock P (2021) Datensouveränität. Governance-Ansätze für den Gesundheitsbereich. Springer VS, WiesbadenCrossRef
27.
Zurück zum Zitat Kleinig O, Gao C, Kovoor JG et al (2024) How to use large language models in ophthalmology: from prompt engineering to protecting confidentiality. Eye 38:649–653CrossRefPubMed Kleinig O, Gao C, Kovoor JG et al (2024) How to use large language models in ophthalmology: from prompt engineering to protecting confidentiality. Eye 38:649–653CrossRefPubMed
28.
Zurück zum Zitat Ledford H (2019) Millions of black people affected by racial bias in health-care algorithms. Nature 574:608–609CrossRefPubMed Ledford H (2019) Millions of black people affected by racial bias in health-care algorithms. Nature 574:608–609CrossRefPubMed
29.
Zurück zum Zitat Lorenzini G, Arbelaez Ossa L, Shaw DM, Elger B (2023) Artificial Intelligence and the doctor-patient relationship expanding the paradigm of shared decision making. Bioethics 37(5):424–429CrossRefPubMed Lorenzini G, Arbelaez Ossa L, Shaw DM, Elger B (2023) Artificial Intelligence and the doctor-patient relationship expanding the paradigm of shared decision making. Bioethics 37(5):424–429CrossRefPubMed
30.
Zurück zum Zitat Mayro EL, Wang M, Elze T et al (2020) The impact of artificial intelligence in the diagnosis and management of glaucoma. Eye 34:1–11CrossRefPubMed Mayro EL, Wang M, Elze T et al (2020) The impact of artificial intelligence in the diagnosis and management of glaucoma. Eye 34:1–11CrossRefPubMed
31.
Zurück zum Zitat McDougall RJ (2019) Computer knows best? The need for value-flexibility in medical AI. J Med Ethics 45(3):156–160CrossRefPubMed McDougall RJ (2019) Computer knows best? The need for value-flexibility in medical AI. J Med Ethics 45(3):156–160CrossRefPubMed
32.
Zurück zum Zitat Mello M, Guha N (2024) Understanding liability risk from using health care artificial intelligence tools. N Engl J Med 390:271–278CrossRefPubMed Mello M, Guha N (2024) Understanding liability risk from using health care artificial intelligence tools. N Engl J Med 390:271–278CrossRefPubMed
33.
Zurück zum Zitat Mihalache A, Huang RS, Cruz-Pimentel M et al (2024) Artificial intelligence chatbot interpretation of ophthalmic multimodal imaging cases. Eye 38:2491–2493CrossRefPubMed Mihalache A, Huang RS, Cruz-Pimentel M et al (2024) Artificial intelligence chatbot interpretation of ophthalmic multimodal imaging cases. Eye 38:2491–2493CrossRefPubMed
34.
Zurück zum Zitat Nestler F (2025) Techkonzerne hoffen auf KI und bangen vor Deepseek. Frankf Allg Zeitung 2025:25 Nestler F (2025) Techkonzerne hoffen auf KI und bangen vor Deepseek. Frankf Allg Zeitung 2025:25
35.
Zurück zum Zitat Ploug T, Holm S (2020) The right to refuse diagnostics and treatment planning by artificial intelligence. Med Health Care Philos 23(1):107–114CrossRefPubMed Ploug T, Holm S (2020) The right to refuse diagnostics and treatment planning by artificial intelligence. Med Health Care Philos 23(1):107–114CrossRefPubMed
36.
Zurück zum Zitat Rajalakshmi R (2020) The impact of artificial intelligence in screening for diabetic retinopathy in India. Eye 34:420–421CrossRefPubMed Rajalakshmi R (2020) The impact of artificial intelligence in screening for diabetic retinopathy in India. Eye 34:420–421CrossRefPubMed
37.
Zurück zum Zitat Raman R, Srinivasan S, Virmani S et al (2019) Fundus photograph-based deep learning algorithms in detecting diabetic retinopathy. Eye 33:97–109CrossRefPubMed Raman R, Srinivasan S, Virmani S et al (2019) Fundus photograph-based deep learning algorithms in detecting diabetic retinopathy. Eye 33:97–109CrossRefPubMed
38.
Zurück zum Zitat Rubeis G (2024) Künstliche Intelligenz in der Medizin: Eine ethische Betrachtung. Wien klin Mag 27:132–136CrossRef Rubeis G (2024) Künstliche Intelligenz in der Medizin: Eine ethische Betrachtung. Wien klin Mag 27:132–136CrossRef
39.
Zurück zum Zitat Sauerbrei A, Kerasidou A, Lucivero F et al (2023) The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions. BMC Med Inform Decis Mak 23(1):73CrossRefPubMedPubMedCentral Sauerbrei A, Kerasidou A, Lucivero F et al (2023) The impact of artificial intelligence on the person-centred, doctor-patient relationship: some problems and solutions. BMC Med Inform Decis Mak 23(1):73CrossRefPubMedPubMedCentral
40.
Zurück zum Zitat Sonmez SC, Sevgi M, Antaki F et al (2024) Generative artificial intelligence in ophthalmology: current innovations, future applications and challenges. Br J Ophthalmol 108:1335–1340CrossRefPubMed Sonmez SC, Sevgi M, Antaki F et al (2024) Generative artificial intelligence in ophthalmology: current innovations, future applications and challenges. Br J Ophthalmol 108:1335–1340CrossRefPubMed
41.
Zurück zum Zitat Tan TF, Quek C, Wong J, Ting DSW (2025) A look at the emerging trends of large language models in ophthalmology. Curr Opin Ophthalmol 36(1):83–89CrossRefPubMed Tan TF, Quek C, Wong J, Ting DSW (2025) A look at the emerging trends of large language models in ophthalmology. Curr Opin Ophthalmol 36(1):83–89CrossRefPubMed
42.
Zurück zum Zitat Topol E (2015) The patient will see you now: the future of medicine is in your hands. Basic Books, New York Topol E (2015) The patient will see you now: the future of medicine is in your hands. Basic Books, New York
43.
Zurück zum Zitat Vallor S (2015) Moral deskilling and upskilling in a new machine age: reflections on the ambiguous future of character. Philos Technol 28:107–124CrossRef Vallor S (2015) Moral deskilling and upskilling in a new machine age: reflections on the ambiguous future of character. Philos Technol 28:107–124CrossRef
44.
Zurück zum Zitat Waisberg E, Ong J, Masalkhi M et al (2024) GPT‑4 to document ophthalmic post-operative complications. Eye 38:414–415CrossRefPubMed Waisberg E, Ong J, Masalkhi M et al (2024) GPT‑4 to document ophthalmic post-operative complications. Eye 38:414–415CrossRefPubMed
45.
Zurück zum Zitat Wolf RM, Channa R, Abramoff MD et al (2020) Cost-effectiveness of autonomous point-of-care diabetic retinopathy screening for pediatric patients with diabetes. JAMA Ophthalmol 138(10):1063–1069CrossRefPubMed Wolf RM, Channa R, Abramoff MD et al (2020) Cost-effectiveness of autonomous point-of-care diabetic retinopathy screening for pediatric patients with diabetes. JAMA Ophthalmol 138(10):1063–1069CrossRefPubMed
47.
Zurück zum Zitat Xie Y, Nguyen QD, Hamzah H et al (2020) Artificial intelligence for teleophthalmology-based diabetic retinopathy screening in a national programme: an economic analysis modelling study. Lancet Digit Health 2(5):e240–e249CrossRefPubMed Xie Y, Nguyen QD, Hamzah H et al (2020) Artificial intelligence for teleophthalmology-based diabetic retinopathy screening in a national programme: an economic analysis modelling study. Lancet Digit Health 2(5):e240–e249CrossRefPubMed
48.
Zurück zum Zitat Yao R, Zhang W, Evans R et al (2022) Inequities in health care services caused by the adoption of digital health technologies: scoping review. J Med Internet Res 24(3):e34144CrossRefPubMedPubMedCentral Yao R, Zhang W, Evans R et al (2022) Inequities in health care services caused by the adoption of digital health technologies: scoping review. J Med Internet Res 24(3):e34144CrossRefPubMedPubMedCentral
Metadaten
Titel
Künstliche Intelligenz in der Medizin – Chancen und Risiken aus ethischer Sicht
verfasst von
Saskia Metan
Prof. Dr. med. Florian Bruns, M.A.
Publikationsdatum
02.04.2025
Verlag
Springer Medizin
Erschienen in
Die Ophthalmologie / Ausgabe 4/2025
Print ISSN: 2731-720X
Elektronische ISSN: 2731-7218
DOI
https://doi.org/10.1007/s00347-025-02224-8

Neu im Fachgebiet Augenheilkunde

Katarakt im Kindesalter – Teil 1

Die Katarakt im Kindesalter kann abhängig vom Alter zum Zeitpunkt des Auftretens, der Trübungsausprägung und Lateralität sowie von okulären Begleiterkrankungen mit einem hohen amblyogenen Risiko verbunden sein. Die rechtzeitige Diagnose und …

Neue systemische Therapieansätze bei malignen Augenlidtumoren

Maligne Tumoren der Augenlider stellen eine diagnostische und therapeutische Herausforderung dar. Insbesondere in fortgeschrittenen und metastasierten Stadien gewinnen moderne Behandlungsansätze wie zielgerichtete Therapien und Immuntherapien …

Künstliche Intelligenz in der Medizin – Chancen und Risiken aus ethischer Sicht

Bildgebende Fächer wie die Augenheilkunde bieten vielfältige Möglichkeiten für den nutzbringenden Einsatz künstlicher Intelligenz (KI). Die Auswertung von Bildern und Daten mittels trainierter Algorithmen besitzt das Potenzial, die …

Okuläre Graft-versus-Host-Disease

Die okuläre Graft-versus-Host-Erkrankung („graft-versus-host disease“ [GVHD]) nach allogener hämatopoetischer Stammzelltransplantation (HSCT) stellt überwiegend eine entzündliche und destruierende Augenoberflächenerkrankung mit zunehmender …

Update Augenheilkunde

Bestellen Sie unseren Fach-Newsletter und bleiben Sie gut informiert.