Skip to main content
Erschienen in: Der Nervenarzt 3/2024

12.12.2023 | Künstliche Intelligenz | Leitthema

Qualitätsindikatoren künstliche Intelligenz

verfasst von: Annegret Lamadé, Dustin Beekmann, Simon Eickhoff, Christian Grefkes, Caroline Tscherpel, Uta Meyding-Lamadé, Burc Bassa

Erschienen in: Der Nervenarzt | Ausgabe 3/2024

Einloggen, um Zugang zu erhalten

Zusammenfassung

Die Fähigkeit mancher Systeme der künstlichen Intelligenz (KI), sich weiterzuentwickeln, sowie die teilweise sehr eingeschränkten Möglichkeiten, deren Entscheidungsprozesse nachzuvollziehen, stellen unser Rechtssystem vor neue Herausforderungen. Auf europäischer Ebene hat dies zu Reformbestrebungen geführt, von denen der Vorschlag für eine europäische KI-Verordnung verspricht, die Regulierungslücken des geltenden Produktsicherheitsrechts durch sektorenübergreifende KI-spezifische Sicherheitsanforderungen zu schließen. Voraussetzung wäre jedoch, dass der Unionsgesetzgeber nicht nur Doppelungen und Widersprüche mit den bestehenden Sicherheitsanforderungen vermeidet, sondern auch von überspitzten Anforderungen absieht. Sofern dies beachtet werden würde, könnten die neuen Sicherheitsanforderungen auch zur Konkretisierung des unbestimmten Sorgfaltsmaßstabs im Haftungsrechtsrecht herangezogen werden. Offen blieben weiterhin Schwierigkeiten im Kontext der Beweisbarkeit, durch die die Rechtsschutzbemühungen des Geschädigten ins Leere zu führen drohen. Abzuwarten bleibt, ob der Unionsgesetzgeber diesem Reformbedürfnis mit der jüngst von der Kommission vorgeschlagenen Reform des Produkthaftungsrechts nachkommen wird.
Literatur
1.
Zurück zum Zitat Europäische Kommission (2020) Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM 2020 65 final) Europäische Kommission (2020) Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen (COM 2020 65 final)
2.
Zurück zum Zitat Europäische Kommission (2020) Bericht der Kommission an das Europäische Parlament, den Rat und den Europäischen Wirtschafts- und Sozialausschuss – Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik im Hinblick auf die Sicherheit und Haftung (COM 2020, 64 final) Europäische Kommission (2020) Bericht der Kommission an das Europäische Parlament, den Rat und den Europäischen Wirtschafts- und Sozialausschuss – Bericht über die Auswirkungen künstlicher Intelligenz, des Internets der Dinge und der Robotik im Hinblick auf die Sicherheit und Haftung (COM 2020, 64 final)
6.
Zurück zum Zitat Möslein F, Zicari RV (2021) Certifying artificial intelligence systems. In: Vogl R (Hrsg) Research handbook on big data law, S 257–373 Möslein F, Zicari RV (2021) Certifying artificial intelligence systems. In: Vogl R (Hrsg) Research handbook on big data law, S 257–373
7.
Zurück zum Zitat Europäische Kommission (2021) Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierten Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM 2021, 206 final) Europäische Kommission (2021) Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierten Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (COM 2021, 206 final)
8.
Zurück zum Zitat Rat der Europäischen Union (2022) Proposal for a regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts—General approach (14054/22) Rat der Europäischen Union (2022) Proposal for a regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts—General approach (14054/22)
9.
Zurück zum Zitat Europäisches Parlament (2021) Amendments adopted by the European Parliament on 14 June 2023on the proposal for a regulation of the European Parliament and of the Council on laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (COM(2021)0206—C9-0146/2021—2021/0106(COD)). P9_TA(2023)0236 Europäisches Parlament (2021) Amendments adopted by the European Parliament on 14 June 2023on the proposal for a regulation of the European Parliament and of the Council on laying down harmonized rules on artificial intelligence (Artificial Intelligence Act) and amending certain Union legislative acts (COM(2021)0206—C9-0146/2021—2021/0106(COD)). P9_TA(2023)0236
10.
Zurück zum Zitat Schacht S, Lanquillon C (2019) Blockchain und maschinelles Lernen – Wie das maschinelle Lernen und die Distributed-Ledger-Technologie voneinander profitieren. Springer, Berlin, Heidelberg, S 89–142CrossRef Schacht S, Lanquillon C (2019) Blockchain und maschinelles Lernen – Wie das maschinelle Lernen und die Distributed-Ledger-Technologie voneinander profitieren. Springer, Berlin, Heidelberg, S 89–142CrossRef
11.
Zurück zum Zitat Bomhard, Merkle (2021) Europäische KI-Verordnung – Der aktuelle Kommissionsentwurf und praktische Auswirkungen. RDi, S 276–283 Bomhard, Merkle (2021) Europäische KI-Verordnung – Der aktuelle Kommissionsentwurf und praktische Auswirkungen. RDi, S 276–283
12.
Zurück zum Zitat BVMed (2022) Positionen zum Entwurf des „Artificial Intelligence Act“ (AIA), 2. August 2021 BVMed (2022) Positionen zum Entwurf des „Artificial Intelligence Act“ (AIA), 2. August 2021
13.
Zurück zum Zitat Heil (2022) Die neue KI-Verordnung (E) – Regulatorische Herausforderungen für KI-basierte Medizinprodukte-Software. MPR, S 1–11 Heil (2022) Die neue KI-Verordnung (E) – Regulatorische Herausforderungen für KI-basierte Medizinprodukte-Software. MPR, S 1–11
14.
Zurück zum Zitat Fuderer (2021) Doppelte Konformitätsbewertung bei KI-basierten Medizinprodukten? MPR, S 121–126 Fuderer (2021) Doppelte Konformitätsbewertung bei KI-basierten Medizinprodukten? MPR, S 121–126
16.
Zurück zum Zitat Burchardi (2022) Risikotragung für KI-Systeme, Zur Zweckmäßigkeit einer europäischen Betreiberhaftung. EuZW, S 685–692 Burchardi (2022) Risikotragung für KI-Systeme, Zur Zweckmäßigkeit einer europäischen Betreiberhaftung. EuZW, S 685–692
17.
Zurück zum Zitat Expert Group on Liability for New Technologies Report from the Expert Group on Liability and New Technologies—New technologies formation, liability for Artificial Intelligence and other emerging digital technologies Expert Group on Liability for New Technologies Report from the Expert Group on Liability and New Technologies—New technologies formation, liability for Artificial Intelligence and other emerging digital technologies
18.
Zurück zum Zitat Käde, v. Maltzan (2020) Die Erklärbarkeit von Künstlicher Intelligenz (KI), Entmystifizierung der Black Box und Chancen für das Recht. CR, S 66–72 Käde, v. Maltzan (2020) Die Erklärbarkeit von Künstlicher Intelligenz (KI), Entmystifizierung der Black Box und Chancen für das Recht. CR, S 66–72
19.
Zurück zum Zitat Wendt, Oberländer (2016) Produkt- und Produzentenhaftung bei selbstständig veränderlichen Systemen. InTeR, S 58–65 Wendt, Oberländer (2016) Produkt- und Produzentenhaftung bei selbstständig veränderlichen Systemen. InTeR, S 58–65
20.
Zurück zum Zitat Zech (2019) Künstliche Intelligenz und Haftungsfragen. ZfPW, S 198–219 Zech (2019) Künstliche Intelligenz und Haftungsfragen. ZfPW, S 198–219
21.
Zurück zum Zitat Wagner (2017) Produkthaftung für autonome Systeme. AcP, S 707–765 Wagner (2017) Produkthaftung für autonome Systeme. AcP, S 707–765
22.
Zurück zum Zitat Linardatos (2022) Auf dem Weg zu einer europäischen KI-Verordnung – ein (kritischer) Blick auf den aktuellen Kommissionsentwurf. GPR, S 58–70 Linardatos (2022) Auf dem Weg zu einer europäischen KI-Verordnung – ein (kritischer) Blick auf den aktuellen Kommissionsentwurf. GPR, S 58–70
23.
Zurück zum Zitat Kapoor, Klindt (2023) Verschärfung der Produkthaftung in Europa: Der Vorschlag der neuen Produkthaftungsrichtlinie. BB, S 67–71 Kapoor, Klindt (2023) Verschärfung der Produkthaftung in Europa: Der Vorschlag der neuen Produkthaftungsrichtlinie. BB, S 67–71
24.
Zurück zum Zitat Leupold, Wiesner (2021) Zivilrechtliche Haftung bei Einsatz von Robotern und Künstlicher Intelligenz. In: Leupold, Wiebe, Glossner (Hrsg) IT-Recht, Teil 9.6.4 Leupold, Wiesner (2021) Zivilrechtliche Haftung bei Einsatz von Robotern und Künstlicher Intelligenz. In: Leupold, Wiebe, Glossner (Hrsg) IT-Recht, Teil 9.6.4
25.
Zurück zum Zitat Rott (2020) Produkthaftung im Zeitalter der Digitalisierung. In: Hentschel, Hornung, Jandt (Hrsg) Mensch-Technik-Umwelt: Verantwortung für eine sozialverträgliche Zukunft, Festschrift für Alexander Roßnagel zum 70. Geburtstag, S 639–658CrossRef Rott (2020) Produkthaftung im Zeitalter der Digitalisierung. In: Hentschel, Hornung, Jandt (Hrsg) Mensch-Technik-Umwelt: Verantwortung für eine sozialverträgliche Zukunft, Festschrift für Alexander Roßnagel zum 70. Geburtstag, S 639–658CrossRef
26.
Zurück zum Zitat Spindler (2022) Die Vorschläge der EU-Kommission zu einer neuen Produkthaftung und zur Haftung von Herstellern und Betreibern Künstlicher Intelligenz. CR, S 689–704 Spindler (2022) Die Vorschläge der EU-Kommission zu einer neuen Produkthaftung und zur Haftung von Herstellern und Betreibern Künstlicher Intelligenz. CR, S 689–704
27.
Zurück zum Zitat Oechsler (2022) Die Haftungsverantwortung für selbstlernende KI-Systeme. NJW, S. 2713–2716 Oechsler (2022) Die Haftungsverantwortung für selbstlernende KI-Systeme. NJW, S. 2713–2716
28.
Zurück zum Zitat Europäische Kommission (2022) Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte (COM 2022, 495 final) Europäische Kommission (2022) Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte (COM 2022, 495 final)
29.
Zurück zum Zitat Eichelberger (2022) Arzthaftung, in: Chibanguza, Kuß, Steege (Hrsg) Künstliche Intelligenz. Nomos, Baden-Baden, S 557–684 Eichelberger (2022) Arzthaftung, in: Chibanguza, Kuß, Steege (Hrsg) Künstliche Intelligenz. Nomos, Baden-Baden, S 557–684
30.
Zurück zum Zitat Spindler (2020) Medizin und IT, insbesondere Arzthaftungs- und IT-Sicherheitsrecht. In: Festschrift für Dieter Hart – Medizin – Recht – Wissenschaft, Katzenmeier, S 581–602CrossRef Spindler (2020) Medizin und IT, insbesondere Arzthaftungs- und IT-Sicherheitsrecht. In: Festschrift für Dieter Hart – Medizin – Recht – Wissenschaft, Katzenmeier, S 581–602CrossRef
Metadaten
Titel
Qualitätsindikatoren künstliche Intelligenz
verfasst von
Annegret Lamadé
Dustin Beekmann
Simon Eickhoff
Christian Grefkes
Caroline Tscherpel
Uta Meyding-Lamadé
Burc Bassa
Publikationsdatum
12.12.2023
Verlag
Springer Medizin
Erschienen in
Der Nervenarzt / Ausgabe 3/2024
Print ISSN: 0028-2804
Elektronische ISSN: 1433-0407
DOI
https://doi.org/10.1007/s00115-023-01573-6

Weitere Artikel der Ausgabe 3/2024

Der Nervenarzt 3/2024 Zur Ausgabe

Neu in den Fachgebieten Neurologie und Psychiatrie

Gadolinium-Dosis lässt sich ohne diagnostische Einbußen senken

21.06.2024 Craniales-MRT Nachrichten

Die magnetresonanztomografische Meningeomdiagnostik kommt auch mit Gadoliniumdosen aus, die knapp 40% unter der Standarddosis liegen. Noch weniger Kontrastmittel sollte es aber nicht sein, wie eine Studie zeigt.

„Brustkrebs trifft die ganze Familie wie ein Erdbeben“

20.06.2024 Senologiekongress 2024 Kongressbericht

Die Diagnose, Therapie und die Nebenwirkungen einer Brustkrebserkrankung seien beziehungsrelevant und würden das gesamte Netzwerk betreffen, so Prof. Dietmar Richter, Freiburg/i.B., auf dem Senologiekongress 2024. Deshalb fordert er, neben den Belangen der Betroffenen auch die der Kinder sowie die Probleme in der Partnerschaft im Blick zu haben.

Notfallreform: Lauterbach nimmt KVen und ausgewählte Kliniken in die Pflicht

06.06.2024 Klinik aktuell Nachrichten

Die Ampelkoalition nimmt einen neuen Anlauf für die Reform der Notfallversorgung. Der Gesetzentwurf zeigt: Die Vertragsärzte müssen sich auf erhebliche Veränderungen in der Organisation der Notdienste einstellen.

Mehr Zeit in den sozialen Medien kann zu Angststörungen führen

Eine Studie aus Finnland hat die Social-Media-Nutzung unter 16-jährigen Mädchen genauer unter die Lupe genommen. Lange Nutzdauer von Instagram & Co. war mit höheren Raten an Angststörungen assoziiert. Insgesamt waren rund 17% der Mädchen abhängig von Social Media.