Gå til innhold
Åpen navigasjon

Tilbakemelding

3 tips for å sikre kvaliteten på OSCE

Oppdag metoder for å beskytte vurderingskvaliteten på eksamene dine

Den objektive strukturerte kliniske eksaminasjonen (OSCE) har fått et rykte som "gullstandarden" for vurdering av kompetanse i medisinsk utdanning.1 OSCEs verdi ligger i dens evne til nøyaktig å avgjøre om en student kan utføre praktiske ferdigheter, i stedet for bare å huske, skrive og snakke om dem.2

I godt utformede OSCE-er er studentenes karakterer utelukkende basert på deres prestasjoner, med minimal påvirkning fra andre faktorer. Hvis du allerede bruker OSCE-er i ditt medisinske utdanningsprogram, er du sannsynligvis klar over at kvalitetssikring av eksamenene kan bidra til å opprettholde den konsistensen og standardiseringen som er avgjørende for en vellykket OSCE.

I denne artikkelen diskuterer vi tre områder som er verdt å fokusere på for å sikre kvaliteten på dine OSCE-er.

1. Sikre høy pålitelighet gjennom grundig opplæring av sensorene

Når det gjelder å sikre påliteligheten til dine OSCE-er, vet du at konsekvent vurdering av sensorene dine er avgjørende.⁴ Forskning har vist at selv når en OSCE er godt utformet og valid, er sensorfaktorer en betydelig bidragsyter til eksamensfeil.⁵ Dette antyder at opplæring av sensorene spiller en viktig rolle i å opprettholde påliteligheten.
 

En studie fra 2020 fant at et strukturert opplæringsprogram bestående av en modellvurdering, opplæringswebinarer, praksisvurderinger og fasilitert diskusjon bidro til høyere inter- og intra-rater pålitelighet.⁶ Opplæringsprogrammet hjalp sensorene med å utvikle en felles mental modell, eller "felles forståelse" av hva kompetanse ser ut som. Å utvikle denne felles mentale modellen er avgjørende for å gjøre vurderingene rettferdige og konsistente – men kan være ganske vanskelig å oppnå.⁷

Det er viktig å huske at effektiv opplæring vil ta tid, og sensorene dine vil ha nytte av gjentatt praksis. Du kan vurdere å bruke videoinnspillinger av ekte OSCE-er og la sensorene øve på å vurdere innspillingene. Under sin opplæring bemerket en sensor at "Jo flere videoer jeg gjennomgikk, desto bedre ble jeg til å legge merke til kriteriene jeg vurderte."⁸

Utover den innledende opplæringen er det viktig å holde øye med hvordan påliteligheten din utvikler seg. Programvare som SimCapture kan gjøre denne ofte skremmende oppgaven lettere å håndtere ved å gi rapporter om inter- og intra-rater konsistens, slik at du enkelt kan identifisere eventuelle problemer som trenger oppmerksomhet.

Hvis du allerede har prøvd grundig opplæring for sensorene dine og fortsatt sliter med pålitelighet, kan det være nødvendig å gå dypere inn i de individuelle sensorene. Du kan finne "uteliggere" som påvirker tallene dine. Dette kan være en "hauk" som alltid gir for strenge karakterer, en "due" som gir for milde karakterer, eller en sensor som mangler konsistens i sin vurdering. Det er en vanlig antakelse at alle kliniske instruktører er godt forberedt på å nøyaktig vurdere studenter.⁹ Men noen ganger, av forskjellige grunner, er ikke alle egnet til å være sensor.¹⁰

2. Bygg opp en pool av kompetente SP-er.

Standardiserte pasienter (SP-er) er en essensiell del av OSCE. De bidrar til å skape realistiske scenarioer der studentene kan demonstrere sin kompetanse, og de gir ofte verdifulle tilbakemeldinger til studentene. Omfattende opplæring av SP-er er et viktig steg for å bygge opp en gruppe av høyt presterende SP-er.

I henhold til Association of Standardized Patient Educators (ASPE) Standards of Best Practice, bør opplæringsprogrammet ditt effektivt forberede SP-er til å levere:¹¹
  • konsekvent og nøyaktig rolleframstilling
  • deres unike og verdifulle perspektiv i tilbakemeldinger til studenter
  • nøyaktig og konsekvent utfylling av vurderingsverktøy (hvis vurdering er en del av deres rolle)

Å dekke alle disse områdene i opplæringen vil kreve tid og innsats. En studie fant at det kan ta opptil 15 timer å trene en SP tilstrekkelig, avhengig av deres rolle, erfaring og tilpasningsevne.¹² Men å sikre at hver SP er godt trent vil være verdt innsatsen, da det vil bidra til å opprettholde kvaliteten på dine OSCE-er.

Etter at opplæringen er fullført, kan det være lurt å kvalitetssikre hver SPs prestasjon før de deltar i en OSCE. En måte å gjøre dette på er å ta opp deres prestasjon og få den evaluert av en gruppe trenere.¹³

Når SP-en har begynt å delta i OSCE-er, er det viktig å gi dem tilbakemelding på deres prestasjon. National Board of Medical Examiners anbefaler å lage en sjekkliste over ønskede atferder, og deretter gå gjennom den med SP-en enten umiddelbart etter møtet eller senere ved hjelp av videoinnspillinger. Hvis du bruker video, bør tidspunktet for problemet på sjekklisten noteres for enkel lokalisering under gjennomgangen.¹⁴ Alternativt kan du bruke videodebriefing-programvare som SimCapture, som lar deg annotere videoer, for å gjøre denne prosessen enklere.

3. Optimaliser kvaliteten gjennom kollegavurdering, pilotering og overvåking.

Kvalitetssikring av en ny stasjon er avgjørende for å opprettholde påliteligheten og validiteten til dine OSCE-resultater.¹⁵ En effektiv metode for å oppnå dette er å arrangere en kollegavurderingsworkshop. Deltakerne kan deles inn i små grupper for å sikre at det ikke er noen problemer med klinisk nøyaktighet eller oppgavenes hensiktsmessighet.¹⁶ Etter kollegavurderingen kan pilotering av stasjonen hjelpe deg med å identifisere og rette opp eventuelle problemer.¹⁷

 

Når du har begynt å bruke den nye stasjonen, kan det være lurt å overvåke spørsmålskvaliteten kontinuerlig for å sikre at det ikke oppstår problemer. SimCapture kan gi deg en rapport som bruker korrelasjonsanalyser for enkelt å identifisere om et spesifikt spørsmål trenger forbedring.

Frigjør mer tid til kvalitetssikringsinitiativer.

Du vet at det krever betydelig tid og innsats å gjennomføre dine OSCE-er. Hvis du lurer på hvordan du skal finne tid til mer kvalitetssikring, kan det være lurt å vurdere hjelp fra programvare som kan lette byrden ved å organisere dine OSCE-er. Et program som SimCapture Cloud kan frigjøre tid, innsats og ressurser ved å la deg:

  • Se alle rom og kontrollere dem samtidig
  • Eliminere behovet for å forberede papirer, transkribere dem og laste inn pasienttilfeller manuelt
  • Automatisere og digitalisere dine OSCE-prosesser
  • Få tilgang til rubrikker, evalueringer og opptak når som helst, hvor som helst
  • Ha sømløst samarbeid mellom dine organisasjoner og campuser
  • Frigjøre IT-ressurser ved å eliminere behovet for å vedlikeholde og oppgradere egne systemer

Hvis du allerede bruker SimCapture Enterprise, kan det være verdt å vurdere å bytte til SimCapture Cloud for å maksimere effektiviteten i programmet ditt. Dette vil gi deg mer tid til å fokusere på å opprettholde høy kvalitet på dine OSCE-er.

 

Les mer

References

  1. Furmedge, D. S., Smith, L., & Sturrock, A. (2016). Developing doctors: What are the attitudes and perceptions of year 1 and 2 medical students towards a new integrated formative objective structured clinical examination? BMC Medical Education, 16(1). https://doi.org/10.1186/s12909-016-0542-3
  2. Khan, K., Ramachandran, S., Gaunt, K., & Pushkar, P. (2013). The Objective Structured Clinical Examination (OSCE): Amee guide no. 81. part I: An historical and theoretical perspective. Medical Teacher, 35(9). https://doi.org/10.3109/0142159x.2013.818634
  3. Ibid.
  4. Khan, K., Gaunt, K., Ramachandran, S., & Pushkar, P. (2013). The Objective Structured Clinical Examination (OSCE): Amee guide no. 81. part II: Organisation & Administration. Medical Teacher, 35(9). https://doi.org/10.3109/0142159x.2013.818635
  5. Mortsiefer, A., Karger, A., Rotthoff, T., Raski, B., & Pentzek, M. (2017). Examiner characteristics and Interrater Reliability in a communication OSCE. Patient Education and Counseling, 100(6), 1230–1234. https://doi.org/10.1016/j.pec.2017.01.013
  6. Holland, A., Tiffany, J., Blazovich, L., Bambini, D., & Schug, V. (2020). The effect of evaluator training on inter- and intrarater reliability in high-stakes assessment in simulation. Nursing Education Perspectives, 41(4), 222–228. https://doi.org/10.1097/01.nep.0000000000000619
  7. Zavertnik, J. & Holland, A. (2017). Are you using high-stakes assessment? do you have intra/interrater reliability? NLN Nursing EDge. Retrieved from https://nursingedge.nln.org/2017/10/24/are-you-using-high-stakes-assessment-do-you-have-intrainterrater-reliability/
  8. Ibid.
  9. Kardong-Edgren, S., Oermann, M. H., Rizzolo, M. A., & Odom-Maryon, T. (2017). Establishing inter- and intrarater reliability for high-stakes testing using simulation. Nursing Education Perspectives, 38(2), 63–68. https://doi.org/10.1097/01.nep.0000000000000114
  10. Ibid.
  11. Lewis, K. L., Bohnert, C. A., Gammon, W. L., Hölzer, H., Lyman, L., Smith, C., Thompson, T. M., Wallace, A., & Gliva-McConvey, G. (2017). The Association of Standardized Patient Educators (ASPE) standards of best practice (SOBP). Advances in Simulation, 2(1). https://doi.org/10.1186/s41077-017-0043-4
  12. Khan, K., Gaunt, K., Ramachandran, S., & Pushkar, P. (2013). See reference #4.
  13. Ibid.
  14. Objective Structured Clinical Examinations III: Quality Assurance of Standardized Patients. (2019). National Board of Medical Examiners (NBME). Retrieved from https://www.nbme.org/sites/default/files/2020-01/OSCE_III_Quality_Assurance_of_Standardized_Patients_Lesson.pdf
  15. Khan, K., Gaunt, K., Ramachandran, S., & Pushkar, P. (2013). See reference #4.
  16. Ibid.
  17. Ibid.

Hjelper deg med å bygge OSCE-er av høy kvalitet

SimCapture lar deg effektivt administrere, registrere, debriefe og vurdere simuleringer, både på lærings- og... SimCapture lar deg effektivt administrere, registrere, debriefe og vurdere simuleringer, både på lærings- og behandlingsstedet.

SimCapture