Skip to main content
Erschienen in: Surgical Endoscopy 11/2017

07.04.2017

Construct and face validity of the educational computer-based environment (ECE) assessment scenarios for basic endoneurosurgery skills

verfasst von: Nergiz Ercil Cagiltay, Erol Ozcelik, Gokhan Sengul, Mustafa Berker

Erschienen in: Surgical Endoscopy | Ausgabe 11/2017

Einloggen, um Zugang zu erhalten

Abstract

Background

In neurosurgery education, there is a paradigm shift from time-based training to criterion-based model for which competency and assessment becomes very critical. Even virtual reality simulators provide alternatives to improve education and assessment in neurosurgery programs and allow for several objective assessment measures, there are not many tools for assessing the overall performance of trainees. This study aims to develop and validate a tool for assessing the overall performance of participants in a simulation-based endoneurosurgery training environment.

Methods

A training program was developed in two levels: endoscopy practice and beginning surgical practice based on four scenarios. Then, three experiments were conducted with three corresponding groups of participants (Experiment 1, 45 (32 beginners, 13 experienced), Experiment 2, 53 (40 beginners, 13 experienced), and Experiment 3, 26 (14 novices, 12 intermediate) participants). The results analyzed to understand the common factors among the performance measurements of these experiments. Then, a factor capable of assessing the overall skill levels of surgical residents was extracted. Afterwards, the proposed measure was tested to estimate the experience levels of the participants. Finally, the level of realism of these educational scenarios was assessed.

Results

The factor formed by time, distance, and accuracy on simulated tasks provided an overall performance indicator. The prediction correctness was very high for the beginners than the one for experienced surgeons in Experiments 1 and 2. When non-dominant hand is used in a surgical procedure-based scenario, skill levels of surgeons can be better predicted. The results indicate that the scenarios in Experiments 1 and 2 can be used as an assessment tool for the beginners, and scenario-2 in Experiment 3 can be used as an assessment tool for intermediate and novice levels. It can be concluded that forming the balance between perceived action capacities and skills is critical for better designing and developing skill assessment surgical simulation tools.
Literatur
1.
Zurück zum Zitat Ghaderi I, Manji F, Park YS, Juul D, Ott M, Harris I, Farrell TM (2015) Technical skills assessment toolbox: a review using the unitary framework of validity. Ann Surg 261(2):251–262CrossRefPubMed Ghaderi I, Manji F, Park YS, Juul D, Ott M, Harris I, Farrell TM (2015) Technical skills assessment toolbox: a review using the unitary framework of validity. Ann Surg 261(2):251–262CrossRefPubMed
2.
Zurück zum Zitat Kavic MS (2006) Simulators: a new use for an old paradigm. J Soc Laparoendosc Surg 10(3):281 Kavic MS (2006) Simulators: a new use for an old paradigm. J Soc Laparoendosc Surg 10(3):281
3.
Zurück zum Zitat Mason WTM, Strike PW (2003) Short communication see one, do one, teach one—is this still how it works? A comparison of the medical and nursing professions in the teaching of practical procedures. Med Teach 25(6):664–666CrossRefPubMed Mason WTM, Strike PW (2003) Short communication see one, do one, teach one—is this still how it works? A comparison of the medical and nursing professions in the teaching of practical procedures. Med Teach 25(6):664–666CrossRefPubMed
4.
Zurück zum Zitat Rodriguez-Paz J, Kennedy M, Salas E, Wu AW, Sexton JB, Hunt EA, Pronovost PJ (2009) Beyond “see one, do one, teach one”: toward a different training paradigm. Qual Saf Health Care 18(1):63–68PubMed Rodriguez-Paz J, Kennedy M, Salas E, Wu AW, Sexton JB, Hunt EA, Pronovost PJ (2009) Beyond “see one, do one, teach one”: toward a different training paradigm. Qual Saf Health Care 18(1):63–68PubMed
5.
Zurück zum Zitat Heros RC, Morcos JM (2006) Neurosurgical education. Clin Neurosurg 53:26–37PubMed Heros RC, Morcos JM (2006) Neurosurgical education. Clin Neurosurg 53:26–37PubMed
6.
Zurück zum Zitat Martin JA, Regehr G, Reznick R, MacRae H, Murnaghan J, Hutchison C, Brown M (1997) Objective structured assessment of technical skill (OSATS) for surgical residents. Br J Surg 84(2):273–278CrossRefPubMed Martin JA, Regehr G, Reznick R, MacRae H, Murnaghan J, Hutchison C, Brown M (1997) Objective structured assessment of technical skill (OSATS) for surgical residents. Br J Surg 84(2):273–278CrossRefPubMed
7.
Zurück zum Zitat Aggarwal R, Mytton OT, Derbrew M, Hananel D, Heydenburg M, Issenberg B, MacAulay C, Mancini ME, Morimoto T, Soper N, Ziv A, Reznick R (2010) Training and simulation for patient safety. Qual Saf Health Care 19(Suppl 2):i34–i43. doi:10.1136/qshc.2009.038562 CrossRefPubMed Aggarwal R, Mytton OT, Derbrew M, Hananel D, Heydenburg M, Issenberg B, MacAulay C, Mancini ME, Morimoto T, Soper N, Ziv A, Reznick R (2010) Training and simulation for patient safety. Qual Saf Health Care 19(Suppl 2):i34–i43. doi:10.​1136/​qshc.​2009.​038562 CrossRefPubMed
8.
Zurück zum Zitat Anderson DD, Long S, Thomas GW, Putnam MD, Bechtold JE, Karam MD (2015) Objective structured assessments of technical skills (OSATS) does not assess the quality of the surgical result effectively. Clin. Orthop Relat Res 474:871–873. Anderson DD, Long S, Thomas GW, Putnam MD, Bechtold JE, Karam MD (2015) Objective structured assessments of technical skills (OSATS) does not assess the quality of the surgical result effectively. Clin. Orthop Relat Res 474:871–873.
9.
Zurück zum Zitat Parker SL, McGirt MJ, Asher AL, Selden NR (2015) Quality improvement in neurological surgery graduate medical education. Neurosurg Clin N Am 26(2):231–238CrossRefPubMed Parker SL, McGirt MJ, Asher AL, Selden NR (2015) Quality improvement in neurological surgery graduate medical education. Neurosurg Clin N Am 26(2):231–238CrossRefPubMed
10.
Zurück zum Zitat Kirkman MA, Ahmed M, Albert AF, Wilson MH, Nandi D, Sevdalis N (2014) The use of simulation in neurosurgical education and training: a systematic review. J Neurosurg 121(2):228–246CrossRefPubMed Kirkman MA, Ahmed M, Albert AF, Wilson MH, Nandi D, Sevdalis N (2014) The use of simulation in neurosurgical education and training: a systematic review. J Neurosurg 121(2):228–246CrossRefPubMed
11.
Zurück zum Zitat Rivard JD, Vergis AS, Unger BJ, Hardy KM, Andrew CG, Gillman LM, Park J (2014) Construct validity of individual and summary performance metrics associated with a computer-based laparoscopic simulator. Surg Endosc 28(6):1921–1928CrossRefPubMed Rivard JD, Vergis AS, Unger BJ, Hardy KM, Andrew CG, Gillman LM, Park J (2014) Construct validity of individual and summary performance metrics associated with a computer-based laparoscopic simulator. Surg Endosc 28(6):1921–1928CrossRefPubMed
12.
Zurück zum Zitat Cotin S, Delingette H, Ayache N (2000) A hybrid elastic model for real-time cutting, deformations, and force feedback for surgery training and simulation. Vis Comput 16(8):437–452CrossRef Cotin S, Delingette H, Ayache N (2000) A hybrid elastic model for real-time cutting, deformations, and force feedback for surgery training and simulation. Vis Comput 16(8):437–452CrossRef
13.
Zurück zum Zitat Greco EF, Glenn R, Allan O (2010) Identifying and classifying problem areas in laparoscopic skills acquisition: can simulators help? Acad Med 85(10):S5–S8CrossRefPubMed Greco EF, Glenn R, Allan O (2010) Identifying and classifying problem areas in laparoscopic skills acquisition: can simulators help? Acad Med 85(10):S5–S8CrossRefPubMed
14.
Zurück zum Zitat Bogdanova R, Boulanger P, Zheng B (2016) Depth perception of surgeons in minimally ınvasive surgery. Surg Innov 23: 515–524.CrossRefPubMed Bogdanova R, Boulanger P, Zheng B (2016) Depth perception of surgeons in minimally ınvasive surgery. Surg Innov 23: 515–524.CrossRefPubMed
15.
Zurück zum Zitat Yamaguchi S, Konishi K, Yasunaga T, Yoshida D, Kinjo N, Kobayashi K et al (2007) Construct validity for eye-hand coordination skill on a virtual reality laparoscopic surgical simulator. Surg Endosc 21(12):2253–2257CrossRefPubMed Yamaguchi S, Konishi K, Yasunaga T, Yoshida D, Kinjo N, Kobayashi K et al (2007) Construct validity for eye-hand coordination skill on a virtual reality laparoscopic surgical simulator. Surg Endosc 21(12):2253–2257CrossRefPubMed
16.
Zurück zum Zitat Silvennoinen M, Mecklin JP, Saariluoma P, Antikainen T (2009) Expertise and skill in minimally invasive surgery. Scand J Surg 98(4):209–213CrossRefPubMed Silvennoinen M, Mecklin JP, Saariluoma P, Antikainen T (2009) Expertise and skill in minimally invasive surgery. Scand J Surg 98(4):209–213CrossRefPubMed
17.
Zurück zum Zitat Pallant J (2005) SPSS survival manual: a step by step guide to data analysis using SPSS, 2nd edn. Allen & Unwin, Sydney Pallant J (2005) SPSS survival manual: a step by step guide to data analysis using SPSS, 2nd edn. Allen & Unwin, Sydney
18.
Zurück zum Zitat Csikszentmihalyi M (2000) Beyond boredom and anxiety. Experiencing flow in work and play. Jossey-Bass, San Francisco Csikszentmihalyi M (2000) Beyond boredom and anxiety. Experiencing flow in work and play. Jossey-Bass, San Francisco
19.
20.
Zurück zum Zitat Hunt JMcV (1965) Intrinsic motivation and its role in development. Neb Symp Mot 13:198–274 Hunt JMcV (1965) Intrinsic motivation and its role in development. Neb Symp Mot 13:198–274
21.
Zurück zum Zitat Nakamura J, Csikszentmihalyi M (2014) The concept of flow. Flow and the foundations of positive psychology. Springer, Dordrecht, pp 239–263 Nakamura J, Csikszentmihalyi M (2014) The concept of flow. Flow and the foundations of positive psychology. Springer, Dordrecht, pp 239–263
22.
Zurück zum Zitat Ramos P, Montez J, Tripp A, Ng CK, Gill IS, Hung AJ (2014) Face, content, construct and concurrent validity of dry laboratory exercises for robotic training using a global assessment tool. BJU Int 113(5):836–842CrossRefPubMed Ramos P, Montez J, Tripp A, Ng CK, Gill IS, Hung AJ (2014) Face, content, construct and concurrent validity of dry laboratory exercises for robotic training using a global assessment tool. BJU Int 113(5):836–842CrossRefPubMed
23.
Zurück zum Zitat Verdaasdonk EGG, Stassen LPS, Van Wijk RPJ, Dankelman J (2007) The influence of different training schedules on the learning of psychomotor skills for endoscopic surgery. Surg Endosc 21(2):214–219CrossRefPubMed Verdaasdonk EGG, Stassen LPS, Van Wijk RPJ, Dankelman J (2007) The influence of different training schedules on the learning of psychomotor skills for endoscopic surgery. Surg Endosc 21(2):214–219CrossRefPubMed
24.
Zurück zum Zitat Schreuder HW, van Dongen KW, Roeleveld SJ, Schijven MP, Broeders IA (2009) Face and construct validity of virtual reality simulation of laparoscopic gynecologic surgery. Am J Obstet Gynecol 200(5):540–541CrossRefPubMed Schreuder HW, van Dongen KW, Roeleveld SJ, Schijven MP, Broeders IA (2009) Face and construct validity of virtual reality simulation of laparoscopic gynecologic surgery. Am J Obstet Gynecol 200(5):540–541CrossRefPubMed
Metadaten
Titel
Construct and face validity of the educational computer-based environment (ECE) assessment scenarios for basic endoneurosurgery skills
verfasst von
Nergiz Ercil Cagiltay
Erol Ozcelik
Gokhan Sengul
Mustafa Berker
Publikationsdatum
07.04.2017
Verlag
Springer US
Erschienen in
Surgical Endoscopy / Ausgabe 11/2017
Print ISSN: 0930-2794
Elektronische ISSN: 1432-2218
DOI
https://doi.org/10.1007/s00464-017-5502-4

Weitere Artikel der Ausgabe 11/2017

Surgical Endoscopy 11/2017 Zur Ausgabe

Wie erfolgreich ist eine Re-Ablation nach Rezidiv?

23.04.2024 Ablationstherapie Nachrichten

Nach der Katheterablation von Vorhofflimmern kommt es bei etwa einem Drittel der Patienten zu Rezidiven, meist binnen eines Jahres. Wie sich spätere Rückfälle auf die Erfolgschancen einer erneuten Ablation auswirken, haben Schweizer Kardiologen erforscht.

Hinter dieser Appendizitis steckte ein Erreger

23.04.2024 Appendizitis Nachrichten

Schmerzen im Unterbauch, aber sonst nicht viel, was auf eine Appendizitis hindeutete: Ein junger Mann hatte Glück, dass trotzdem eine Laparoskopie mit Appendektomie durchgeführt und der Wurmfortsatz histologisch untersucht wurde.

Mehr Schaden als Nutzen durch präoperatives Aussetzen von GLP-1-Agonisten?

23.04.2024 Operationsvorbereitung Nachrichten

Derzeit wird empfohlen, eine Therapie mit GLP-1-Rezeptoragonisten präoperativ zu unterbrechen. Eine neue Studie nährt jedoch Zweifel an der Notwendigkeit der Maßnahme.

Ureterstriktur: Innovative OP-Technik bewährt sich

19.04.2024 EAU 2024 Kongressbericht

Die Ureterstriktur ist eine relativ seltene Komplikation, trotzdem bedarf sie einer differenzierten Versorgung. In komplexen Fällen wird dies durch die roboterassistierte OP-Technik gewährleistet. Erste Resultate ermutigen.

Update Chirurgie

Bestellen Sie unseren Fach-Newsletter und bleiben Sie gut informiert.

S3-Leitlinie „Diagnostik und Therapie des Karpaltunnelsyndroms“

Karpaltunnelsyndrom BDC Leitlinien Webinare
CME: 2 Punkte

Das Karpaltunnelsyndrom ist die häufigste Kompressionsneuropathie peripherer Nerven. Obwohl die Anamnese mit dem nächtlichen Einschlafen der Hand (Brachialgia parästhetica nocturna) sehr typisch ist, ist eine klinisch-neurologische Untersuchung und Elektroneurografie in manchen Fällen auch eine Neurosonografie erforderlich. Im Anfangsstadium sind konservative Maßnahmen (Handgelenksschiene, Ergotherapie) empfehlenswert. Bei nicht Ansprechen der konservativen Therapie oder Auftreten von neurologischen Ausfällen ist eine Dekompression des N. medianus am Karpaltunnel indiziert.

Prof. Dr. med. Gregor Antoniadis
Berufsverband der Deutschen Chirurgie e.V.

S2e-Leitlinie „Distale Radiusfraktur“

Radiusfraktur BDC Leitlinien Webinare
CME: 2 Punkte

Das Webinar beschäftigt sich mit Fragen und Antworten zu Diagnostik und Klassifikation sowie Möglichkeiten des Ausschlusses von Zusatzverletzungen. Die Referenten erläutern, welche Frakturen konservativ behandelt werden können und wie. Das Webinar beantwortet die Frage nach aktuellen operativen Therapiekonzepten: Welcher Zugang, welches Osteosynthesematerial? Auf was muss bei der Nachbehandlung der distalen Radiusfraktur geachtet werden?

PD Dr. med. Oliver Pieske
Dr. med. Benjamin Meyknecht
Berufsverband der Deutschen Chirurgie e.V.

S1-Leitlinie „Empfehlungen zur Therapie der akuten Appendizitis bei Erwachsenen“

Appendizitis BDC Leitlinien Webinare
CME: 2 Punkte

Inhalte des Webinars zur S1-Leitlinie „Empfehlungen zur Therapie der akuten Appendizitis bei Erwachsenen“ sind die Darstellung des Projektes und des Erstellungswegs zur S1-Leitlinie, die Erläuterung der klinischen Relevanz der Klassifikation EAES 2015, die wissenschaftliche Begründung der wichtigsten Empfehlungen und die Darstellung stadiengerechter Therapieoptionen.

Dr. med. Mihailo Andric
Berufsverband der Deutschen Chirurgie e.V.