nach oben

08.02.2024 | Leitthema

Einsatzmöglichkeiten von „large language models“ in der Onkologie

verfasst von: Chiara M. Loeffler, Keno K. Bressem, Daniel Truhn

Einloggen, um Zugang zu erhalten

Zusammenfassung

Hintergrund

Große Sprachmodelle wie ChatGPT („generative pretrained transformer“) haben sich in den letzten 2 Jahren deutlich in ihren Fähigkeiten verbessert. Diese Modelle können nun in einem Maße „denken“ und Sprache verstehen, dass ihr Einsatz in der klinischen Medizin in greifbare Nähe rückt.

Ziel

Ziel ist es, einen Überblick über die zugrunde liegenden Arbeitsprinzipien großer Sprachmodelle und ihre möglichen Anwendungsfälle in der Medizin, insbesondere in der Onkologie, zu bieten.

Schlussfolgerung

Große Sprachmodelle haben das Potenzial, Onkologen in ihrer klinischen Praxis in einer Vielzahl von Situationen zu unterstützen, und können zu einer besseren Versorgungsqualität und effizienteren Prozessen führen, wodurch mehr Zeit für eine effektive Patientenversorgung bleibt.

Adams LC, Truhn D, Busch F, Avan K, Niehues SM, Makowski MR, Bressem KK (2023) Leveraging GPT‑4 for post hoc transformation of free-text radiology reports into structured reporting: a multilingual feasibility study. Radiology 307(4)

Brown TB, Mann B, Ryder N, Subbiah M, Kaplan J, Dhariwal P, Neelakantan A et al (2020) Language models are few-shot learners (http://arxiv.org/abs/2005.14165)

Bubeck S, Chandrasekaran V, Eldan R, Gehrke J, Horvitz E, Kamar E, Lee P et al (2023) Sparks of artificial general intelligence: early experiments with GPT‑4. arXiv [cs.CL] (http://arxiv.org/abs/2303.12712)

Clusmann J, Kolbinger FR, Muti HS, Carrero ZI, Eckardt J‑N, Ghaffari Laleh N, Löffler CML et al (2023) The Future Landscape of Large Language Models in Medicine. Commun Med 3(1):141CrossRefPubMedPubMedCentral

Devaraj A, Wallace BC, Marshall IJ, Junyi Jessy L (2021) Paragraph-level simplification of medical texts. In: Proceedings of the Conference. Association for Computational Linguistics. North American Chapter Meeting 2021, S 4972–4984

Devlin J, Chang M‑W, Lee K, Toutanova K (2018) BERT: pre-training of deep bidirectional transformers for language understanding. http://arxiv.org/abs/1810.04805

Gilbert S, Harvey H, Melvin T, Vollebregt E, Wicks P (2023) Large language model AI Chatbots require approval as medical devices. Nat Med 29(10):2396–2398CrossRefPubMed

Han T, Adams LC, Papaioannou J‑M, Grundmann P, Oberhauser T, Löser A, Truhn D, Bressem KK (2023) Medalpaca—an open-source collection of medical conversational AI models and training data.” arxiv [cs.CL]. http://arxiv.org/abs/2304.08247

Le M, Vyas A, Shi B, Karrer B, Sari L, Moritz R, Williamson M et al (2023) “Voicebox: text-guided multilingual universal speech generation at scale.” arxiv [eess.AS. http://arxiv.org/abs/2306.15687

10.

Liu Y, Ott M, Goyal N, Du J, Joshi M, Danqi C, Levy O, Lewis M, Zettlemoyer L, Stoyanov V (2019) RoBERTa: a robustly optimized BERT Pretraining approach. http://arxiv.org/abs/1907.11692

11.

Moor M, Banerjee O, Abad ZSH, Krumholz HM, Leskovec J, Topol EJ, Rajpurkar P (2023) Foundation models for generalist medical artificial intelligence. Nature 616(7956):259–265CrossRefPubMedADS

12.

Nayak P (2019) Understanding searches better than ever before. Google. https://blog.google/products/search/search-language-understanding-bert/ (Erstellt: 25. Okt. 2019)

13.

Nedungadi P, Iyer A, Gutjahr G, Bhaskar J, Pillai AB (2018) Data-driven methods for advancing precision oncology. Curr Pharmacol Rep 4(2):145–156CrossRefPubMedPubMedCentral

14.

Team NLLB, Costa-jussà MR, Cross J, Çelebi O, Elbayad M, Heafield K, Heffernan K et al (2022) No language left behind: scaling human-centered machine translation.” arxiv [cs.CL]. http://arxiv.org/abs/2207.04672

15.

Patel RS, Bachu R, Adikey A, Malik M, Shah M (2018) Factors related to physician burnout and its consequences: a review. Behav Sci. https://doi.org/10.3390/bs8110098CrossRefPubMedPubMedCentral

16.

Pulumati A, Pulumati A, Dwarakanath BS, Verma A, Papineni RVL (2023) Technological advancements in cancer diagnostics: improvements and limitations. Cancer Rep 6(2):e1764CrossRef

17.

Radford A, Kim JW, Xu T, Brockman G, Mcleavey C, Sutskever I (2023) Robust Speech Recognition via Large-Scale Weak Supervision. In: Krause A, Brunskill E, Kyunghyun C, Engelhardt B, Sabato S, Scarlett J (Hrsg) Proceedings of the 40th International Conference on Machine Learning 23–29 Jul 2023. Bd. 202, S 28492–28518 (Proceedings of Machine Learning Research. PMLR)

18.

Radford A, Narasimhan K, Salimans T, Sutskever I (2018) Improving language understanding by generative pre-training

19.

Singhal K, Azizi S, Tu T, Mahdavi SS, Wei J, Chung HW, Scales N et al (2023) Large language models encode clinical knowledge. Nature 620(7972):172–180CrossRefPubMedPubMedCentralADS

20.

Sung H, Ferlay J, Siegel RL, Laversanne M, Soerjomataram I, Ahmedin J, Bray F (2021) Global cancer statistics 2020: GLOBOCAN estimates of incidence and mortality worldwide for 36 cancers in 185 countries. A Cancer J Clin 71(3):209–249CrossRef

21.

Touvron H, Martin L, Stone K, Albert P, Almahairi A, Babaei Y, Bashlykov N et al (2023) Llama 2: Open Foundation and Fine-Tuned Chat Models.” arXiv [cs.CL]. http://arxiv.org/abs/2307.09288

22.

Truhn D, Reis-Filho JS, Kather JN (2023) Large language models should be used as scientific reasoning engines, not knowledge databases. Nat Med. https://doi.org/10.1038/s41591-023-02594-zCrossRefPubMed

23.

Vaswani A, Shazeer N, Parmar N, Uszkoreit J, Llion J, Gomez AN, Kaiser L, Polosukhin I (2017) Attention is all you need. http://arxiv.org/abs/1706.03762

24.

Wang A, Cho K (2019) BERT has a mouth, and it must speak: BERT as a Markov random field language model. http://arxiv.org/abs/1902.04094

25.

Christiano P, Leike J, Brown TB, Martic M, Legg S, Amodei D (2017) Deep reinforcement learning from human preferences. http://arxiv.org/abs/1706.03741

26.

Ouyang L, Wu J, Jiang X, Almeida D, Wainwright CL, Mishkin P, Zhang C et al (2022) Training language models to follow instructions with human feedback. http://arxiv.org/abs/2203.02155

27.

Wei J, Bosma M, Zhao VY, Guu K, Wei Yu A, Lester B, Du N, Dai AM, Le QV (2021) Finetuned language models are zero-shot learners. http://arxiv.org/abs/2109.01652

28.

Wei J, Xuezhi W, Schuurmans D, Bosma M, Ichter B, Xia F, Chi E, Le Q, Zhou D (2022) Chain-of-thought prompting elicits reasoning in large language models. http://arxiv.org/abs/2201.11903

Titel: Einsatzmöglichkeiten von „large language models“ in der Onkologie
verfasst von: Chiara M. Loeffler
Keno K. Bressem
Daniel Truhn
Publikationsdatum: 08.02.2024
Verlag: Springer Medizin
Erschienen in: Die Onkologie
Print ISSN: 2731-7226
Elektronische ISSN: 2731-7234
DOI: https://doi.org/10.1007/s00761-024-01481-7

Springer Medizin

Einsatzmöglichkeiten von „large language models“ in der Onkologie

Zusammenfassung

Hintergrund

Ziel

Schlussfolgerung

Neu im Fachgebiet Onkologie

Adjuvante Immuntherapie verlängert Leben bei RCC

Alectinib verbessert krankheitsfreies Überleben bei ALK-positivem NSCLC

Bei Senioren mit Prostatakarzinom auf Anämie achten!

ICI-Therapie in der Schwangerschaft wird gut toleriert

Update Onkologie

Springer Medizin

Zusammenfassung

Hintergrund

Ziel

Schlussfolgerung

Bitte loggen Sie sich ein, um Zugang zu diesem Inhalt zu erhalten

Neu im Fachgebiet Onkologie

Adjuvante Immuntherapie verlängert Leben bei RCC

Alectinib verbessert krankheitsfreies Überleben bei ALK-positivem NSCLC

Bei Senioren mit Prostatakarzinom auf Anämie achten!

ICI-Therapie in der Schwangerschaft wird gut toleriert

Update Onkologie