KI in der ärztlichen Praxis

Beim 129. Deutschen Ärztetag im Mai 2025 in Leipzig war sie ein Schwerpunktthema: Von der künstlichen Intelligenz (KI) erhofft sich die Ärzteschaft Unterstützung in Bürokratie und Diagnostik unter der Prämisse, dass KI-Ergebnisse von den Nutzenden kritisch bewertet werden können. Hier beginnt das Dilemma: KI-Empfehlungen basieren kaum nachvollziehbar auf systemspezifischen Gewichtungen, Parametern und Informationen. Genutzt wird ein riesiger Wissensblock, der unfiltriert auch nicht evidenzbasierte Daten enthält. Sucht die KI eigenständig nach Zusammenhängen in nicht vorsortierten und definierten Datenmengen, können Fragen zufällig korrekt beantwortet werden, obwohl die Antworten auf falschen Prämissen basieren. Oder das Kunsthirn halluziniert und erfindet selbstständig passende Daten. Solche Fehler zu entdecken ist schwierig, da die KI selten die Wege zum Ergebnis erläutert. Während Menschen in ihrer begrenzten Lebenszeit Erfahrungen machen und Lernprozesse durchlaufen, können digitale Systeme in beliebig langen Zeiträumen Daten sammeln, kopieren und untereinander austauschen und werden so dem Menschen à la longue überlegen sein, prophezeite der Informatiker und Nobelpreisträger Prof. Geoffrey Hinton im Jahr 2024. Der Albtraum für Nutzende ist ein Kontrollverlust über autonom agierende KI-Systeme. Allerdings lässt sich deren Qualität nicht beliebig durch Datenmengen und Rechenleistung steigern. Das führt im Gegenteil dazu, dass die KI-Systeme halluzinieren und vermehrt passende Daten erfinden. Der CEO von OpenAI, Sam Altman, glaubt, dass es noch großer technologischer Ideen bedarf, bis die KI das Niveau menschlicher Intelligenz erreicht. …