Skip to main content
Erschienen in:

18.03.2024 | Künstliche Intelligenz | Informationstechnologie und Management

Ethik und künstliche Intelligenz

verfasst von: Elmar Kotter, Daniel Pinto dos Santos

Erschienen in: Die Radiologie | Ausgabe 6/2024

Einloggen, um Zugang zu erhalten

Zusammenfassung

Die Einführung von Systemen mit künstlicher Intelligenz (KI) in die Radiologie verspricht, die Effizienz zu steigern sowie die Diagnosegenauigkeit zu verbessern, ist jedoch gleichzeitig mit ethischen Fragestellungen verbunden. Diese umfassen u. a. den Umgang mit Datenschutz, die zukünftige Rolle von Radiologen, die Verantwortlichkeit im Umgang mit KI-Systemen, sowie die Vermeidung von Bias in KI-Systemen. Zur Vermeidung von Datenbias ist es nötig, die zum Training verwendeten Datensätze sehr sorgfältig und repräsentativ zusammenzustellen. Entsprechend stellt der bald in Kraft tretende Europäische AI Act hier besonders hohe Anforderungen an die zum Training von medizinischer KI verwendeten Datensätze. Kognitives Bias tritt auf, wenn Radiologen bei der Verwendung von KI-Systemen ein zu hohes Vertrauen in die von der KI gelieferten Ergebnisse setzen („overreliance“). Bislang werden diagnostische KI-Systeme fast ausschließlich als Second-look-Systeme eingesetzt. Falls diagnostische KI-Systeme in der Radiologie zukünftig im Sinne einer Effizienzsteigerung als First-look-Systeme oder sogar als autonome Systeme eingesetzt werden, stellt sich die Frage nach der Verantwortlichkeit, vergleichbar mit dem autonomen Fahren. Auch würde ein solcher Einsatz von KI die Rolle der Radiologen stark verändern.
Literatur
1.
Zurück zum Zitat Geis JR, Brady A, Wu CC, Spencer J, Ranschaert E, Jaremko JL et al (2019) Ethics of artificial intelligence in radiology: summary of the joint European and North American multisociety statement. Insights Imaging 10(1):101CrossRefPubMedPubMedCentral Geis JR, Brady A, Wu CC, Spencer J, Ranschaert E, Jaremko JL et al (2019) Ethics of artificial intelligence in radiology: summary of the joint European and North American multisociety statement. Insights Imaging 10(1):101CrossRefPubMedPubMedCentral
2.
Zurück zum Zitat Brady AP, Allen B, Chong J, Kotter E, Kottler N, Mongan J et al (2024) Developing, purchasing, implementing and monitoring AI tools in radiology: practical considerations. A multisociety statement from the ACR, CAR, ESR, RANZCR & RSNA. Insights Imaging 15(1):16CrossRefPubMedPubMedCentral Brady AP, Allen B, Chong J, Kotter E, Kottler N, Mongan J et al (2024) Developing, purchasing, implementing and monitoring AI tools in radiology: practical considerations. A multisociety statement from the ACR, CAR, ESR, RANZCR & RSNA. Insights Imaging 15(1):16CrossRefPubMedPubMedCentral
3.
Zurück zum Zitat Gichoya JW, Banerjee I, Bhimireddy AR, Burns JL, Celi LA, Chen LC et al (2022) AI recognition of patient race in medical imaging: a modelling study. Lancet Digit Health 4(6):e406–14CrossRefPubMedPubMedCentral Gichoya JW, Banerjee I, Bhimireddy AR, Burns JL, Celi LA, Chen LC et al (2022) AI recognition of patient race in medical imaging: a modelling study. Lancet Digit Health 4(6):e406–14CrossRefPubMedPubMedCentral
4.
Zurück zum Zitat Glocker B, Jones C, Bernhardt M, Winzeck S (2023) Algorithmic encoding of protected characteristics in chest X‑ray disease detection models. eBioMedicine 89:104467CrossRefPubMedPubMedCentral Glocker B, Jones C, Bernhardt M, Winzeck S (2023) Algorithmic encoding of protected characteristics in chest X‑ray disease detection models. eBioMedicine 89:104467CrossRefPubMedPubMedCentral
5.
Zurück zum Zitat Harvey H, Topol EJ (2020) More than meets the AI: refining image acquisition and resolution. Lancet 396(10261):1479CrossRefPubMed Harvey H, Topol EJ (2020) More than meets the AI: refining image acquisition and resolution. Lancet 396(10261):1479CrossRefPubMed
6.
Zurück zum Zitat Knoll F, Murrell T, Sriram A, Yakubova N, Zbontar J, Rabbat M et al (2020) Advancing machine learning for MR image reconstruction with an open competition: Overview of the 2019 fastMRI challenge. Magn Reson Med 84(6):3054–3070CrossRefPubMedPubMedCentral Knoll F, Murrell T, Sriram A, Yakubova N, Zbontar J, Rabbat M et al (2020) Advancing machine learning for MR image reconstruction with an open competition: Overview of the 2019 fastMRI challenge. Magn Reson Med 84(6):3054–3070CrossRefPubMedPubMedCentral
7.
Zurück zum Zitat Dratsch T, Chen X, Rezazade Mehrizi M, Kloeckner R, Mähringer-Kunz A, Püsken M et al (2023) Automation bias in mammography: the impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology 307(4):e222176CrossRefPubMed Dratsch T, Chen X, Rezazade Mehrizi M, Kloeckner R, Mähringer-Kunz A, Püsken M et al (2023) Automation bias in mammography: the impact of artificial intelligence BI-RADS suggestions on reader performance. Radiology 307(4):e222176CrossRefPubMed
8.
Zurück zum Zitat Gaube S, Suresh H, Raue M, Merritt A, Berkowitz SJ, Lermer E et al (2021) Do as AI say: susceptibility in deployment of clinical decision-aids. Npj Digit Med 4(1):1–8CrossRef Gaube S, Suresh H, Raue M, Merritt A, Berkowitz SJ, Lermer E et al (2021) Do as AI say: susceptibility in deployment of clinical decision-aids. Npj Digit Med 4(1):1–8CrossRef
10.
Zurück zum Zitat Bitterman DS, Aerts HJWL, Mak RH (2020) Approaching autonomy in medical artificial intelligence. Lancet Digit Health 2(9):e447–9CrossRefPubMed Bitterman DS, Aerts HJWL, Mak RH (2020) Approaching autonomy in medical artificial intelligence. Lancet Digit Health 2(9):e447–9CrossRefPubMed
12.
Zurück zum Zitat Tadavarthi Y, Makeeva V, Wagstaff W, Zhan H, Podlasek A, Bhatia N et al (2022) Overview of noninterpretive artificial intelligence models for safety, quality, workflow, and education applications in radiology practice. Radiol Artif Intell 4(2):e210114CrossRefPubMedPubMedCentral Tadavarthi Y, Makeeva V, Wagstaff W, Zhan H, Podlasek A, Bhatia N et al (2022) Overview of noninterpretive artificial intelligence models for safety, quality, workflow, and education applications in radiology practice. Radiol Artif Intell 4(2):e210114CrossRefPubMedPubMedCentral
Metadaten
Titel
Ethik und künstliche Intelligenz
verfasst von
Elmar Kotter
Daniel Pinto dos Santos
Publikationsdatum
18.03.2024
Verlag
Springer Medizin
Erschienen in
Die Radiologie / Ausgabe 6/2024
Print ISSN: 2731-7048
Elektronische ISSN: 2731-7056
DOI
https://doi.org/10.1007/s00117-024-01286-0

Weitere Artikel der Ausgabe 6/2024

Die Radiologie 6/2024 Zur Ausgabe

Mitteilungen des Berufsverbandes der Deutschen Radiologen

Mitteilungen des Berufsverbandes der Deutschen Radiologen

Neu im Fachgebiet Radiologie

Drei Regeln für sichere Magnetresonanztomografie

19.07.2024 Magnetresonanztomografie Nachrichten

Thermische Verletzungen von Patienten sind die häufigsten unerwünschten Ereignisse im Zuge der Magnetresonanztomografie. Ein australisch-britisches Team hat drei Regeln zu ihrer Vermeidung aufgestellt.

Nach dem Nitrospray fünf Minuten mit der Kardio-CT warten!

19.07.2024 Koronare Herzerkrankung Nachrichten

Nach Verabreichung von sublingualem Nitrospray vor einer CT-Koronarangiografie sollte man unbedingt die in Leitlinien empfohlene Wartezeit einhalten, rät ein kardiologisches Team aus Belgien.

Informierte Frauen neigen zu späterem Mammografie-Screening

Frauen in ihren 40ern, die über die Vor- und Nachteile des Mammografie-Screenings auf Brustkrebs informiert werden, neigen stärker dazu, den Screeningbeginn nach hinten zu verschieben. Die Mehrheit aber nähme das Angebot an, wie eine US-Studie zeigt.

Sechs Monate E-Rezept – Erfolgsgeschichte mit Schattenseiten

IT für Ärzte Nachrichten

244 Millionen E-Rezepte sind in sechs Monaten eingelöst worden: Nach einem halben Jahr zieht die Betriebsgesellschaft gematik eine positive Zwischenbilanz. Doch noch sind nicht alle Akteure begeistert.

Update Radiologie

Bestellen Sie unseren Fach-Newsletter und bleiben Sie gut informiert.