Künstliche Intelligenz in der Orthopädie

Es gibt eine wachsende Zahl von Beispielen für die Anwendung von ML auf orthopädische Erkrankungen. Eine Suche in PubMed, Cochrane und Embase mit einer Kombination der Begriffe „artifical intelligence“, „machine learning“ und „orthopaedics“ zeigte, dass 85 % der KI-Forschung in der Orthopädie allein in den letzten 3 Jahren (2021–2023) veröffentlicht wurde. Es wäre wünschenswert, wenn die Orthopäden besser verstehen würden, wie diese Technologie die Zukunft des Fachgebiets beeinflussen wird. Ein kürzlich publiziertes systematisches Review von Federer und Jones hat die Forschungsfelder der KI innerhalb der Orthopädie unter die Lupe genommen. In der Mehrzahl der Untersuchungen wurde KI zur Bildinterpretation (45 %) oder als klinisches Entscheidungsinstrument (25 %) eingesetzt. Die am häufigsten untersuchten Körperregionen waren dabei Wirbelsäule (43 %), Knie (23 %) und Hüfte (14 %; [17]).

In den letzten Jahren hat sich die KI bei Röntgen- und MRT-Bildern rasch weiterentwickelt und verbessert, so dass zunehmend Ergebnisse erzielt werden, die mit denen von Orthopäden und Radiologen vergleichbar sind (Übersicht in Tab. 2; [6, 27, 41, 67]). Neue Forschungsarbeiten der letzten Jahre haben gezeigt, dass KI-Algorithmen bei der Diagnose von Frakturen allmählich mit den Fähigkeiten von Orthopäden gleichziehen oder sie sogar übertreffen. Allerdings sind die aktuellen KI-Modelle im Vergleich zu spezialisierten orthopädischen Chirurgen immer noch unterlegen, insbesondere bei der Erkennung okkulter Frakturen [68]. Somit stellt dies einen Bereich dar, in dem KI die Leistung und das Urteilsvermögen von Klinikern hervorragend unterstützen kann; die Frage könnte nun aufkommen, ob sich Kliniker Sorgen um ihre weitere Rolle in der Medizin machen müssten. In einem Artikel, der 1970 im New England Journal of Medicine veröffentlicht wurde, vertrat W.B. Schwartz die Ansicht, dass „die Computerwissenschaft wahrscheinlich ihre größten Auswirkungen haben wird, indem sie die intellektuellen Funktionen des Arztes erweitert und in einigen Fällen weitgehend ersetzt“ [81]. Seitdem ist jedoch mehr als ein halbes Jahrhundert vergangen, und diese Vision ist nicht eingetreten. Vielmehr scheint der Trend heute dahin zu gehen, dass die KI in den Hintergrund tritt und den Arzt auf subtile, aber auch transformative Weise ergänzt [27].

Beispielsweise wurde in einer Studie von Chung et al. versucht, ob Deep Learning, einem Teilbereich des ML, d. h. einer der KI zugrunde liegenden Methodik, nicht nur zur Erkennung, sondern auch zur Klassifizierung proximaler Humerusfrakturen anhand von anteroposterioren Röntgenaufnahmen der Schulter anzuwenden ist [9]. Bei der Erkennung proximaler Humerusfrakturen zeigte ihr Modell eine hohe Leistung von 96 % Genauigkeit, 1,00 „area under the curve“ (AUC), 0,99 für die Sensitivität und 0,97 für die Spezifität bei einem Youden-Index von 0,97. Der Youden-Index ist eine Kennzahl, welche im Rahmen der Grenzwertoptimierung von Tests herangezogen wird, um zu ermitteln, wie die optimalen Sensitivitäts- und Spezifitätswerte eines Tests sein müssen, um eine bestmögliche Vorhersage zu erreichen. Dabei ist das grundlegende Ziel, einen Schwellenwert zu bestimmen, an dem die Unterscheidung von zwei Gruppen anhand eines Tests mit größtmöglicher Wahrscheinlichkeit gelingen wird. Je höher die Werte des ermittelten Youden-Index, desto besser ist der spezifische Schwellenwert des Tests geeignet, um Subjekte mit verschiedener Gruppenzugehörigkeit korrekt zu identifizieren [49].

Für die Klassifizierung von Frakturtypen zeigte ihr Modell etwas weniger beeindruckende, aber immer noch vielversprechende Ergebnisse mit 65 bis 86 % Genauigkeit, 0,90 bis 0,98 AUC, 0,88/0,83 bis 0,97/0,94 Empfindlichkeit/Spezifität und 0,71 bis 0,90 Youden-Index. Die Autoren stellten des Weiteren fest, dass ihr Modell sowohl die Leistung von Allgemeinmedizinern als auch von Orthopäden übertrafen. Hingegen zeigte sich eine vergleichbare Leistung des Modells mit derjenigen von Orthopäden mit Schulterspezialisierung – die überlegene Leistung des CNN lag bei komplexeren 3‑ und 4‑Part-Frakturen [9].

Die AUC ist eine der am häufigsten verwendete Metriken zur Bewertung von Modellen. Wenn wir überprüfen oder visualisieren wollen, wie verschiedene Klassifikationen eines Modells funktionieren, verwenden wir diese Metrik, um das Ergebnis zu bewerten. Die AUC wird auch als Fläche unter der Receiver-Operating-Characteristics-Kurve (AUROC) bezeichnet und misst die Fläche unter der ROC-Kurve. Sie wird als die Wahrscheinlichkeit interpretiert, mit der das Modell ein zufällig ausgewähltes positives Beispiel höher einstuft als ein zufällig ausgewähltes negatives Beispiel ([27]; Abb. 2).

Die Fähigkeiten der KI in der Bildgebung können auch bei der präoperativen Planung einer Revisionstotalendoprothese eine Rolle spielen, bei der die Erkennung des Designs eines gescheiterten Implantats ein entscheidender Schritt ist. Borjali et al. führten die erste Studie durch, in der ein CNN zur automatischen Erkennung des Implantatdesigns einer totalen Hüfttotalendoprothese (Hüft-TEP) anhand von konventionellen Röntgenbildern entwickelt wurde [7]. Durch wiederholtes Trainieren des CNN mit Online-Datenerweiterung ihres bestehenden Trainingsdatensatzes wurde nach 350 Wiederholungen eine Genauigkeit von 100 % gegenüber dem Testsatz erreicht. Die Eigenschaftskarten für das CNN identifizierten auch neue Klassifizierungsmerkmale, die der Orthopäde anfänglich möglicherweise nicht beachtet hätte. So waren die Forscher zum Beispiel überrascht, dass das neu trainierte CNN bei seiner Entscheidungsfindung sich speziell auf die Spitze der Implantate fokussierte – ein Merkmal, welches dem Chirurgen möglicherweise nicht aufgefallen wäre. Bei näherer Betrachtung stellten die Forscher jedoch fest, dass die KI leichte Unterschiede in der Geometrie der Spitze fand, die eindeutig genug waren, um zwischen verschiedenen Implantatdesigns zu unterscheiden.

Darüber hinaus wurden auch Programme zur Automatisierung von radiologischen Messungen entwickelt, wie z. B. die Bestimmung der koronalen Ausrichtung des Knies [80], der Inklination und (Retro/Ante‑)Version der Hüftpfanne [79]. Die Standardisierung dieser Messungen bietet nicht nur eine Zeitersparnis im klinischen Alltag, sondern auch Konsistenz für zukünftige Studien [53].

Angesichts der großen Menge an digitalisierten radiologischen Daten hat die KI einen transformativen Einfluss auf die radiologischen Abteilungen, und mit der Integration weiterer Informationstechnologie könnte sie das gesamte Gesundheitssystem weiter beeinflussen. Verschiedene muskuloskeletale Publikationen veranschaulichen einige Beschreibungs- und Diagnosemodelle, die, sobald sie für die klinische Praxis bereit sind, die Arbeitseffizienz und Produktivität unterstützen und schwerfällige Arbeitsabläufe optimieren werden. KI wird die Qualität der Arbeit erhöhen und sicherstellen, dass Radiologen von den Routinetätigkeiten entlastet werden und sich auf ausgesuchte Aufgaben konzentrieren können. Dazu zählen beispielsweise die Überprüfung von Befunden, das Treffen von Entscheidungen und die Leitung von multidisziplinären Besprechungsrunden – Aufgaben, die den Wert der Radiologen erhöhen. In dieser Hinsicht sollte KI die persönliche Zufriedenheit erhöhen [25].

Die Risikostratifizierung spielt in der Orthopädie eine entscheidende Rolle. Eine Stärke der KI kann sein, aufgrund von Patientendaten den weiteren Krankheitsverlauf vorherzusagen oder das Risiko für ein postoperatives Delir zu berechnen. Es gibt bereits verschiedene traditionelle prädiktive Risikoscoring- und klinische Entscheidungsunterstützungssysteme [60]. Die bestehenden Risikorechner haben sich jedoch im klinischen Umfeld nicht durchgesetzt, da sie eine zeitaufwändige manuelle Datenauswahl und -eingabe erfordern, die nur zu einer suboptimalen Genauigkeit führt [27].

In den letzten Jahren hat die Forschung im Bereich der klinischen Anwendungen von neuronalen Netzen gezeigt, dass KI-Modelle herkömmlichen Scoring-Systemen durchweg überlegen sind [15, 51, 55, 70]. Beispielsweise kann mittels eines DL-Modells die Mortalität während eines Krankenhausaufenthalts akkurater abgeschätzt werden als mit den traditionellen Scores [51]. Noch wichtiger ist, dass KI-Modelle – im Gegensatz zu herkömmlichen klinischen Entscheidungsunterstützungssystemen, welche Algorithmen anhand vorgegebener Regeln generieren – von Beispielen lernen und ihre Genauigkeit durch die Aufnahme und Verarbeitung neuer Daten kontinuierlich verbessern [15]. Tatsächlich kann KI die wahrscheinlichste oder erwartete Aufenthaltsdauer, die stationären Kosten und die Entlassungsdisposition für Patienten vor primären Knietotalendoprothesen (Knie-TEP) lernen und vorhersagen – so z. B. entwickelten Ramkumar et al. 2019 ihr eigenes ANN anhand von über 175.000 primären Knie-TEP aus einem nationalen Register zur Vorhersage der Aufenthaltsdauer, Kosten und Entlassungsdisposition. Die Autoren schlugen außerdem ein risikobasiertes, patientenspezifisches Zahlungsmodell vor, welches der chirurgischen Komplexität entspricht. Ihr ANN wies eine AUC von 75 %, 83 % bzw. 76 % für die Aufenthaltsdauer, die Kosten und die Entlassungsdisposition auf. Im Falle einer Zunahme der Komorbiditäten der Patienten, ermittelte das ANN für das Zahlungsmodell einen Anstieg des Risikos um 2 %, 22 % bzw. 83 % für mittlere, schwere und sehr schwere Komorbiditäten [76].

Hinsichtlich Voraussagefähigkeit von ML-Modellen in der Knieprothetik wurde im letzten Jahr eine systematische Übersichtsarbeit durchgeführt und die Brauchbarkeit von ML-Modellen für folgende Outcome-Parameter analysiert [24]: Komplikationen, Kosten, funktionelles Ergebnis, Revisionen, postoperative Zufriedenheit, chirurgische Technik und biomechanische Eigenschaften. Es konnte gezeigt werden, dass konkrete und zielgerichtete Fragestellungen, wie gut beschriebene Komplikationen (z. B. Nierenversagen oder postoperative Bluttransfusionen), besonders gut vorhergesagt werden können [31, 37]. Komplexere und allgemeinere Vorhersagen wie Revisionen, die eine Vielzahl unterschiedlicher Ursachen haben können, sind jedoch schwieriger abzuschätzen [16].

In den letzten Jahrzehnten hat sich die Knieendoprothetik um immer mehr Präzision bemüht, um einen Standard zu erreichen, welcher für alle Patienten gleich ist. Die jüngsten Fortschritte in der KI haben das Interesse an robotergestützten Operationen und an Navigationssystemen zur Begrenzung menschlicher Fehler und zur Verbesserung der Reproduzierbarkeit orthopädischer Verfahren neu entfacht. Jede robotergestützte Chirurgie erfordert ein gewisses Maß an Navigation, und KI kann dafür eingesetzt werden, um anatomische Orientierungspunkte zu erkennen, bevorzugte Pfade vorzuschlagen oder Verfahrenspläne zu erstellen. Von der präzisen Analyse und Vorbereitung des Knochens bis hin zum Positionieren von Implantaten und der Minimierung von Komplikationen oder der Begrenzung möglicher Revisionen lassen sich diese Robotersysteme in eine der 3 Kategorien einordnen: haptisch, aktiv oder passiv [27].

Für die haptischen und aktiven Systeme konnten bis dato keine Daten publiziert werden, welche einen signifikanten Nutzen für die KI-Anwendung zeigen. Jedoch gibt es passive Systeme, die gemeinhin als computergestützte chirurgische Systeme (reine Navigationssysteme) bekannt sind und perioperativ eingesetzt werden, um dem Chirurgen eine Echtzeitanalyse der vor, während oder nach der Operation gesammelten Daten zu ermöglichen. Kameras, die mit einer künstlichen Intelligenz verbunden sind, könnten um den Operationstisch herum aufgestellt werden, um die Genauigkeit der Sägeschnitte und Bohrungen zu überwachen. Seibold et al. entwickelten und validierten ein KI-System zur Erkennung von Pin-Bohrdurchbrüchen und demonstrierten das Potenzial der Deep-Learning-basierten akustischen Abtastung für die Vermeidung chirurgischer Fehler. Insgesamt fanden sie vielversprechende Ergebnisse für die chirurgische Fehlervermeidung durch die automatisierte akustische Erkennung von Bohrdurchbrüchen, die um ein Vielfaches schneller war als die Reaktionszeit des Chirurgen [82]. Im Vergleich zur traditionellen Technik mittels Führungsinstrumenten bieten passive Systeme eine größere Genauigkeit, um weniger Abweichungen vom präoperativen Plan zuzulassen [11, 30, 38, 69].

Dennoch muss festgehalten werden, dass in den letzten Jahren erkannt wurde, dass unsere Patientenpopulation nicht nur eine Vielzahl individueller präoperativer Faktoren (z. B. Aktivitätsniveau, mentaler Status, Kniepathologien), sondern auch verschiedene anatomische Knieparameter (Knochenmorphologie, Band- und Weichteilmorphologie) aufweist [20, 22, 26, 29, 59, 89]. Diese Unterschiede, die noch nicht vollständig verstanden sind, haben in letzter Zeit zu einem stärker individualisierten Behandlungsansatz geführt, der seine vermutete Überlegenheit aber bisher in den klinischen Studien nicht zeigen konnte. Allerdings ist es aufgrund der Vielzahl und des Zusammenspiels der Parameter schwierig zu verstehen, welcher Faktor welchen Einfluss auf welchen Teil des Ergebnisses hat. Eine solche komplexe Analyse kann nur mit Hilfe von KI und ML durchgeführt werden [89].

Bislang wurden nur wenige Studien veröffentlicht, in denen die KI zur Vorhersage von Komplikationen, Kosten und Ergebnissen im Zusammenhang mit Knieprothetik verwendet wurde. Die meisten dieser Studien konnten kein Potenzial der KI in diesem Gebiet nachweisen [24]. Einige wenige konnten jedoch zeigen, dass zumindest einige Aspekte dieses umfangreichen Forschungsgebiets angemessen bewertet werden können und Vorhersagen für bestimmte Situationen mit bestimmten Daten möglich sind [23, 61, 76]. Diese Situation führt zu der allgemeinen Herausforderung von KI und ML in der Orthopädie: Nur wenn alle relevanten Faktoren richtig bewertet und gewichtet werden, können die Algorithmen ihre konkrete Relevanz erkennen. Auch wenn einige Algorithmen entwickelt wurden, um mit einer begrenzten Menge an fehlenden Daten umzugehen, kann das Fehlen wichtiger Parameter in der Analyse einen erheblichen Einfluss auf das Ergebnis haben. Zweitens muss die Validität durch eine genaue Datendokumentation in erster Instanz und allenfalls durch ein anschließendes Datenscreening und eine Datenbereinigung sichergestellt werden. Und schließlich müssen die Daten ursprünglich alle relevanten Informationen enthalten, damit später komplexe Zusammenhänge abgeleitet werden können. Es werden also große Datensätze mit ausreichender Datentiefe und -breite sowie Qualität benötigt. Für die Orthopädie bedeutet dies, große Patientenkollektive zu generieren und sämtliche Parameter dieser Patienten zu überwachen (z. B. im Rahmen von Multizenterstudien oder mit Registerdaten; [89]).

Die intraoperative Datenspeicherung bei der Anwendung von Navigations- und Robotersystemen stellt somit eine von vielen solcher Datenquellen dar. Jedoch ist die Datenerfassung von prä- und postoperativen Daten mindestens genauso wichtig. Daher sind Lösungen, die die Datenerfassung und Integration verschiedener Plattformen wie Patienteninformations‑, Bildarchivierungs- und Kommunikationssysteme usw. ermöglichen, dringend erforderlich.

Der Datenschutz und die Informationssicherheit haben dabei höchste Priorität, insbesondere bei der Arbeit mit sensiblen Patientendaten. Für Forschungszwecke stellen diese Paradigmen jedoch oft Hindernisse für den Datenaustausch und die Analyse dar. Daher müssen die Infrastrukturen in den Forschungseinrichtungen weiterentwickelt werden, um den heutigen Anforderungen gerecht zu werden. Eine beschriebene Technik zur Nutzung moderner IT-Infrastrukturen für KI-Bedürfnisse ist das „Föderale Lernen“, bei dem ein einziges Modell auf mehreren Servern trainiert wird, so dass die Originaldaten die Forschungseinrichtung nicht verlassen müssen [32].

Wie in der Orthopädie, ist auch im Bereich der Sportmedizin ein ähnliches Wachstum bei der Entwicklung und Anwendung von KI zu beobachten. Der frühe Schwerpunkt lag auf der Analytik und fortgeschrittenen Statistiken zur Bewertung der Leistung und Ergebnisvorhersage von Sportlern. In jüngster Zeit sind mehr klinisch relevante Studien entstanden, die sich auf die Vorhersage von Verletzungen konzentrieren [87]. Diese frühen Bemühungen sind ermutigend und können zur Entwicklung von umfassenden Initiativen zur Verletzungsprävention führen, die auf oder unter Einbeziehung von KI basieren [53].

Beispielsweise gründete im Jahr 2018 die Abteilung für Orthopädische Chirurgie der Cleveland Clinic, OH, USA, das „Machine Learning Arthroplasty Laboratory“ mit dem Ziel, die praktische Anwendung von KI-Techniken in der orthopädischen Praxis zu erforschen, insbesondere in der Endoprothetik und Sportmedizin [74‐78]. Unlängst wandte diese Gruppe ML-Techniken an, um das Verletzungsrisiko von Spielern der „National Hockey League“ und der „Major League Baseball“ für die nächste Saison vorherzusagen [34, 52]. Für Eishockeyspieler stellten Karnuta et al. jährliche Verletzungsdaten sowie spielerspezifische Metriken wie Alter, Leistungsdaten und Verletzungshistorie zusammen [34]. Es wurden mehrere ML-Algorithmen trainiert und ihre Performance hinsichtlich der Vorhersage von Verletzungen in der nächsten Saison verglichen. Diese Studie zeigte, dass der Algorithmus mit der besten Performance (XGBoost) die Verletzungen für die nächste Saison mit einer Genauigkeit von 94,6 % vorhersagte und damit die logistische Regression übertraf und eine gute bis sehr gute Reliabilität aufwies. Die Daten für Baseballspieler umfassten 3176 Spieler, einschließlich Alter, Leistung und Verletzungshistorie. Von den 84 getesteten Algorithmen zeigte der beste Algorithmus (Top Three Ensemble) eine Genauigkeit von 70 % bei der Vorhersage von Verletzungen für die nächste Saison. Das Modell übertraf die logistische Regression und erwies sich als ziemlich reliabel. In beiden Studien waren die ML-Techniken der logistischen Regression bei der Vorhersage künftiger Spielerverletzungen überlegen [34].

„Patient-reported outcome measures“ (PROMs), wie z. B. Fragebögen, sind zunehmend zu wertvollen Qualitätsmaßstäben für die Erfolgsbestimmung eines Eingriffs geworden. Zu diesem Zweck untersuchten Nwachukwu et al. die Anwendung von ML zur Vorhersage von Veränderungen in PROMs nach Operationen bei arthroskopischem femoroazetabulärem Impingement-Syndrom (FAIS; [64]). Ein ML-Modell wurde mit dem LASSO-Algorithmus („least absolute shrinkage and selection operator“) zur Merkmalsauswahl erstellt, gefolgt von einer logistischen Regression für die ausgewählten Merkmale. Das Modell, das anhand der Datensätzen von 898 Patienten mit FAIS trainiert wurde, war in der Lage, herausragende prädiktive Variablen für das Erreichen klinisch bedeutsamer Ergebnisse zu identifizieren. Angst bzw. Depression, Symptomdauer über 2 Jahre, präoperative intraartikuläre Injektion und hohe präoperative PROMs erwiesen sich alle als prädiktiv für die Unfähigkeit, einen minimalen klinisch bedeutsamen Unterschied bei 3 hüftspezifischen PROMs zu erreichen [64].

In Bezug auf das Potenzial von KI im Management von Verletzungen des vorderen Kreuzbands (VKB) konnte ein systematischer Review zeigen, dass ML in der Lage ist, bei der Diagnosestellung von Kreuzbandrissen zu unterstützen, Risikofaktoren zu bestimmen und die Entwicklung dieser Verletzung vorherzusagen sowie in der prä- und postoperativen Entscheidungsfindung (Einsatz von Kryotherapie, Opioide und Schmerzkatheter) für das Patientenmanagement zu assistieren. Die Datenlage ist aber in diesem Teilbereich der KI-Forschung noch sehr bescheiden [10].

Wenn neuartige Technologien wie die KI in sensiblen Disziplinen wie der Medizin eingesetzt werden, dann wirft dies unweigerlich auch rechtliche Fragen auf. Dazu zählen beispielsweise Haftpflichtsituationen, die Reichweite der ärztlichen Sorgfaltspflicht, das Zulassungs- und das Datenschutzrecht sowie versicherungsrechtliche Themen.

In der EU wird aktuell gerade die Gesetzgebung mit dem Ziel harmonisierter Vorschriften komplett überarbeitet. Sie beabsichtigt ein großes Zulassungsgesetz hervorzubringen, welches sämtliche Bereiche der KI, nicht nur in der Medizin, abdecken kann. Auch die Haftung von Herstellern und Anwendern von KI-Systemen soll revidiert werden [3, 40]. Gerade das Haftungsrecht stellt aufgrund seiner Flexibilität ein wichtiges Instrumentarium zur Steuerung von Chancen und Risiken bei neuen Innovationen dar, wie eine 2023 publizierte juristische Arbeit über die haftungsrechtliche Perspektive auf KI in der Medizin festhält [3]. Jeder Patient hat ein Recht darauf, von seinem behandelnden Arzt bestmöglich betreut und sorgfältig behandelt zu werden. Um dies sicherzustellen, muss das Handeln des Arztes dem aktuellen Stand des Wissens und den anerkannten Regeln der Medizin entsprechen. Diese besondere Sorgfaltspflicht gilt für alle Bereiche, die mit der Behandlung in Zusammenhang stehen [3]. Der Arzt haftet dann, wenn er bei seiner Handlung, verglichen mit dem Nutzen, zu viele Risiken eingegangen, also von der allgemein erwarteten Sorgfalt abgewichen ist. Um rechtlich zu beurteilen, welche Anforderungen an diese Sorgfalt zu setzen sind, wird der medizinische Standard als Referenz herangezogen. Momentan entspricht es noch dem aktuellen medizinischen Standard, KI-Systeme nur „in the loop“ einzusetzen, sprich, die KI unterstützt den Arzt in seiner Tätigkeit und die Maschine kann keine Aufgaben ohne die Bestätigung durch den Menschen abschließen [48]. Am Ende hinterfragt und überprüft der Arzt daher nochmals das KI-Ergebnis und macht sich dadurch für das angewandte System umfassend haftbar [40]. Diese Verfahrensweise kann so lange fortgesetzt werden, wie es dem Arzt gelingt, die Entscheidungsfindung und insbesondere -basis des KI-Systems nachzuvollziehen. Ein entscheidender Vorteil der KI-Systeme liegt indes darin, unter Umständen schneller zu sein, schneller zu richtigen Entscheidungen gelangen zu können und in gewissen Situationen auch die Fehlerquellen zu minimieren (z. B. in Notfallsituationen automatisierte, sekundenschnelle Entscheidung für Verlegung eines Patienten in Schockraum [1]). Dies würde dann einer „On-the-loop“- oder einer „Out-of-the-loop“-Interaktion zwischen Mensch und Maschine entsprechen. Beim „on the loop“ wird der Großteil der Arbeit vom KI-System erledigt und der Mensch wird nur in wenige oder keine Entscheidungen des KI-Systems einbezogen. Er wird zur Kontrollinstanz und kann die getroffenen Entscheidungen nachträglich korrigieren, überschreiben und kompensieren. Beim „out of the loop“ ist menschliches Eingreifen nicht notwendig, die Maschinen sind präzise und autonom genug, um die Arbeit alleine zu bewerkstelligen [48]. Diese Vorteile von KI-Systemen können jedoch nur nutzbar gemacht werden, wenn nicht jede einzelne Entscheidung nochmals von Ärzten überprüft werden muss. Es ist durchaus denkbar, dass es eines Tages der gebotenen Sorgfalt entspricht und Ärzte zugunsten des Patientennutzens auf einzelne Entscheidungen von qualitativ sehr hochstehenden KI-Systemen vertrauen dürfen – ähnlich wie man sich in der Arbeitsteilung auch auf die Expertise ärztlicher Kollegen verlassen darf ([3, 40]; Abb. 3).

Neben der Arzthaftung kommt der Herstellerhaftung in dieser Angelegenheit ebenfalls eine große Relevanz zu. Während der Arzt auf den Nutzen und die Risiken von KI-Systemen in der konkreten Anwendung Einfluss nehmen kann, kann der Hersteller diese bei der Entwicklung der Systeme beeinflussen. Insbesondere bei Out-of-the-loop-KI-Systemen, wird dem Hersteller bei der Haftungsfrage eine zentrale Rolle zukommen. Klar ist, dass der Arzt in der Haftung bei KI-basierten medizinischen Entscheidungen Dreh- und Angelpunkt sein wird – er wird eine Risikoabwägung durchführen müssen, ob er sich mehr auf sich selbst im Entscheidungsprozess oder auf das KI-System verlassen möchte – Haftungssubjekt bleibt er weiterhin selbst [3]. Dabei helfen können ihm erlangte Kompetenzen für die Vorgänge der KI sowie gezielte Schulungen der Hersteller über das verwendete KI-System.

Für die Frage, inwieweit die Autonomie der KI-Systemen in der Medizin fortschreitet und im klinischen Alltag Einsatz finden wird, ist letztlich aber vor allem auch abhängig davon, ob die medizinische Wissenschaft und Praxis diesen Weg überhaupt einschlagen möchte.

Künstliche Intelligenz kann die Gesundheitsversorgung verbessern – sind medizinische KI-Systeme jedoch fehlerhaft, können Menschen zu Schaden kommen. Daher ist es von zentraler Bedeutung, sich mit den verbundenen Risiken zu befassen, und insbesondere mit den Maßnahmen, wie sich diese kontrollieren lassen. Bei der medizinischen KI ist im Speziellen der sog. Bias zu beachten. Falsche statistische Verteilungen in den Daten, auf denen das KI-Modell basiert, können nicht nur zu Diskriminierung bestimmter Patientengruppen führen, sondern es kann auch zu Fehldiagnosen kommen, die die Patientensicherheit gefährden [72]. Als illustratives Beispiel hierfür fungiert eine KI-Anwendung in den USA, die bezwecken soll, die Gesundheitsversorgung möglichst effektiv zu gestalten und Patienten mit besonderem Pflegebedarf zu identifizieren. Eine im Oktober 2019 veröffentlichte Studie zeigte allerdings auf, dass Afroamerikaner bei gleicher Krankheitsschwere, seltener für Extra-Pflege vorgeschlagen wurden als Kaukasier. Tatsächlich hätte eine KI ohne Bias die doppelte Anzahl von Afroamerikanern mit besonderem Pflegebedarf ausweisen müssen. Dies war darauf zurückzuführen, dass der Algorithmus dieser KI das Risiko der Patienten definiert, als die zu erwartenden Kosten der weiteren Behandlung. Da aufgrund diverser Faktoren der US-amerikanische Staat weniger Geld für die Behandlung von Afroamerikanern ausgibt, wurden die Kosten und somit auch das Risiko für Angehörige dieser Ethnizität als geringer eingeschätzt [65]. Solche verzerrten Trainingsdaten werden in Bezug auf ihre Zusammensetzung, auch als „WEIRD Samples“ bezeichnet („western, educated, industrialized, rich and democratic societies“).

Weitere Risiken können der sog. Over-Trust, also das blinde Vertrauen der Ärzte in die Empfehlung der KI-Systeme sowie die fehlende Transparenz in die Entscheidungsprozesse, darstellen. Mit zunehmender Automatisierung in der Medizin kann auch eine gewisse Abnahme der Kompetenzen der Fachkräfte beobachtet werden [72].

Zudem können KI-Systeme durch kaum erkennbare Änderungen an den medizinischen Daten gezielt manipuliert werden, um so falsche Diagnosen bzw. Therapien zu induzieren. Nicht zu vernachlässigen sind potenzielle Datenschutzprobleme.

Diese Risiken verdeutlichen die Notwendigkeit einer sorgfältigen Kontrolle von KI-Systemen in der Medizin. Die europäischen Verordnungen für Medizinprodukte und In-Vitro-Diagnostika (MDR/IVDR) unterteilen Medizinprodukte in 4 Risikoklassen (gering bis hoch). Bei Produkten mit höheren zugesprochenen Risiken müssen Hersteller eine staatlich autorisierte Prüfstelle (sog. benannte Stelle) einbeziehen, um zu kontrollieren, ob das Produkt den EU-Anforderungen entspricht. Neben der Prüfung des Qualitätsmanagementsystems wird die technische Dokumentation des Produkts bewertet – dabei wird jeder Zeitpunkt im Lebenszyklus des Produktes evaluiert: die Planung, das Design, die Entwicklung und Herstellung sowie die klinische Evaluation bis hin zur Inverkehrbringung und Überwachung des Medizinproduktes nach Inverkehrbringung. Weitere Prüfkriterien umfassen unter anderem: regulatorische Konformität, Sicherstellung der klinischen Performanz, Prüfung des KI-Lebenszyklus, KI-Datenmanagement, Modellauswahl, die Bewertung ethischer Aspekte sowie die nachgelagerte Marktüberwachung [72].

Als Teil ihrer digitalen Strategie will die Europäische Union KI regulieren, um bessere Bedingungen für die Entwicklung und Nutzung dieser innovativen Technologie zu schaffen. Dafür wurde während 2 Jahren das weltweit erste umfassende KI-Gesetz entworfen und 2023 verabschiedet. Mit dem AI Act stellt die EU Regeln für den Einsatz von KI auf. Dieses Gesetz sieht vor, KI-Systeme je nach Risiko, welches sie für den Nutzer darstellen, in Kategorien zu unterteilen. Die verschiedenen Risikostufen unterliegen mehr oder weniger Regulierungen. Das Spektrum soll von risikoarmer bis verbotener KI reichen. Medizinische Geräte werden den Hochrisiko-KI-Systemen zugeordnet und bedürfen vor der Inverkehrbringung und während ihres gesamten Lebenszyklus einer Bewertung [46]. Mit der KI-Verordnung werden klare Rahmenbedingungen für das Inverkehrbringen KI-gestützter Medizinprodukte geschaffen, und zudem wird damit ein harmonisierter europäischer Markt gestaltet.

Wir befinden uns in einer Phase exponentiellen Wachstums bei der Nutzung von KI in allen Fachbereichen, auch in der Orthopädie und Sportmedizin. Mit der Verbesserung der Datenerfassung verbessern sich auch die mit KI assoziierten Möglichkeiten einer genaueren Diagnostik, von patientenspezifischen Behandlungsansätzen, verbesserter Ergebnisvorhersage und erweiterter Ausbildung. Ein grundlegendes Verständnis dafür, was KI beinhaltet und wie sie sich auf die Orthopädie und die Patientenversorgung auswirken kann, ist für den Orthopäden von heute und erst recht für jenen von morgen unerlässlich [53].

Für die Integration von KI-Systemen in den klinischen Alltag ist die Akzeptanz der Ärzteschaft essenziell. Ein wesentlicher Aspekt hierfür ist der Nutzen der KI-Anwendung. Ärzte sehen den Nutzen von KI primär in technischen und methodischen Optimierungen von Entscheidungen, die vor, während und nach einer Behandlung getroffen werden müssen. Zudem sind Ärzte der Ansicht, dass die persönliche Beziehung zwischen Arzt und Patient auch in einer von KI geprägten Welt im Mittelpunkt stehen muss [2]. Wird KI in der Medizin eingesetzt, eröffnet dies neue Möglichkeiten, bringt aber auch Herausforderungen mit sich [3]. Die Frage, nach welchen Kriterien KI-Systeme zu bewerten sind, ist Gegenstand politischer, gesellschaftlicher und wissenschaftlicher Debatten [4]. Für einen vertrauenswürdigen Einsatz von KI-Systemen in der Medizin werden die Herausforderungen entlang der Bereiche Fairness, Autonomie und Kontrolle, Transparenz, Verlässlichkeit, Sicherheit und dem Datenschutz transparent adressiert [5, 6]. Um die mit dem Einsatz von KI verbundenen Herausforderungen besser zu meistern, hat z. B. die Schweizerische Verbindung für Ärztinnen und Ärzte (FMH) aus Sicht der Ärzteschaft 10 Forderungen formuliert [71]:

Künstliche Intelligenz hat das Potenzial, die Qualität der medizinischen Versorgung zu verbessern. Sie kann sowohl menschliche Fehler reduzieren als auch die Belastung der Ärzte durch Routineaufgaben minimieren, beispielsweise im administrativen Bereich. Wenn es also gelingt, KI für administrative und medizinische Routineaufgaben erfolgreich in den klinischen Alltag zu integrieren, könnte dies den Ärzten mehr Zeit für anspruchsvolle Aufgaben und für den persönlichen Kontakt mit ihren Patienten verschaffen [73]. Damit würde sich das Berufsbild des Arztes tatsächlich stark verändern. Ärzte sollten diesen Prozess aktiv mitgestalten und sich diesem Wandel mit einer positiven Grundhaltung stellen [48].

Zur Unterstützung dieses Ansatzes definierte die American Medical Association (AMA) im Jahr 2018 KI für Ärzte als erweiterte Intelligenz, um ihre Rolle bei der Erweiterung der ärztlichen Intelligenz zu betonen [44]. Laut einer Umfrage, die von der Abteilung für Orthopädische Chirurgie am Massachusetts General Hospital Boston, MA, USA, im Jahr 2021 durchgeführt wurde, gaben 85 % der Befragten, die sich aus Assistenz- und Oberärzten der Orthopädie zusammensetzten, an, dass sie heute wahrscheinlich oder sehr wahrscheinlich KI-gestützte Risikovorhersagemodelle verwenden würden. 58 % hielten es außerdem für wahrscheinlich oder sehr wahrscheinlich, dass KI-Risikostratifizierungsmodelle und klinische Entscheidungshilfen innerhalb eines halben Jahrzehnts in ihre Praxis integriert werden [39]. Auch wenn das wahre Ausmaß der Auswirkungen von KI auf die Orthopädie noch nicht vollständig geklärt ist, scheint sicher zu sein, dass in ihren praktischen Anwendungen ein großes Potenzial steckt.

In der hier vorliegenden Übersichtsarbeit wurden einige der wichtigsten Anwendungen von KI vorgestellt und zusammengefasst, mit denen Orthopäden in den kommenden Jahren im Alltag rechnen können, darunter Risikostratifizierung, Ergebnisvorhersage, Bildgebung und robotergestützte Chirurgie. In Anlehnung an die AMA-Beschreibung von KI als erweiterte Intelligenz werden Orthopäden letztendlich diejenigen sein, die diese Technologien täglich nutzen, und sie sind wohl die wichtigsten Interessenvertreter, wenn es um die von ihnen gewählten Tools geht. Da jeden Tag mehr Forschungsergebnisse über KI-Anwendungen und deren zunehmende Integration veröffentlicht werden, ist es für Orthopäden von entscheidender Bedeutung, die Grundlagen dieser Technologie zu verstehen.