Evaluation of perceived and actual competency in a family medicine objective structured clinical examination

Can Fam Physician. 2017 Apr;63(4):e238-e243.

Abstract

Objective: To examine the relationship between objective assessment of performance and self-rated competence immediately before and after participation in a required summative family medicine clerkship objective structured clinical examination (OSCE).

Design: Learners rated their competence (on a 7-point Likert scale) before and after an OSCE along 3 dimensions: general, specific, and professional competencies relevant to family medicine.

Setting: McGill University in Montreal, Que.

Participants: All 168 third-year clinical clerks completing their mandatory family medicine rotation in 2010 to 2011 were invited to participate.

Main outcome measures: Self-ratings of competence and objective performance scores were compared, and were examined to determine if OSCEs could be a "corrective" tool for self-rating perceived competence (ie, if the experience of undergoing an assessment might assist learners in recalibrating their understanding of their own performance).

Results: A total of 140 (83%) of the third-year clinical clerks participated. Participating in an OSCE decreased learners' ratings of perceived competence (pre-OSCE score = 4.9, post-OSCE score = 4.7; F1,3192 = 4.2; P < .05). Learners' mean self-rated competence for all categories of behaviour (before and after) showed no relationship to OSCE performance (r < 0.12 and P > .08 for all), nor did ratings of station-relevant competence (before and after) (r < 0.19 and P > .09 for all). Ratings of competence before and after the OSCE were correlated for individual students (r > 0.40 and P < .001 for all).

Conclusion: After the OSCE, students' self-ratings of perceived competence had decreased, and these ratings had little relationship to actual performance, regardless of the specificity of the rated competency. Discordance between perceived and actual competence is neither novel nor unique to family medicine. However, this discordance is an important consideration for the development of competency-based curricula.

Objectif: Examiner la relation entre l’évaluation objective du rendement et l’auto-évaluation des compétences, immédiatement avant et après qu’un étudiant en stage obligatoire en médecine familiale eût répondu à un examen clinique objectif structuré (ECOS) récapitulatif.

Type d’étude: Les étudiants ont évalué leurs compétences (sur une échelle de Likert en 7 points) avant et après un ECOS, et ce, relativement aux 3 aspects suivants : les compétences générales, spécifiques et professionnelles nécessaires au médecin de famille.

Contexte: L’Université McGill à Montréal, au Québec.

Participants: Les 168 étudiants de troisième année terminant leurs stages cliniques obligatoires en médecine familiale en 2010 et 2011 ont été invités à participer.

Principaux paramètres à l’étude: On a comparé les scores obtenus aux auto-évaluations des compétences à ceux obtenus de façon objective, et on les a examinés pour savoir si les ECOS pourraient servir d’outil pour corriger l’auto-évaluation des compétences (c.-à-d. si le fait de subir une évaluation pouvait aider un étudiant à réviser son opinion sur ses propres compétences).

Résultats: Un total de 140 étudiants de troisième année (83 %) effectuant leurs stages cliniques ont participé. La cote attribuée par les étudiants à leurs compétences était plus basse après avoir participé à un ECOS (avant : 4,9; après : 4,7 : F1,3102 = 4,2; P < ,05). Il n’y avait pas de relation entre la cote moyenne attribuée par les étudiants à leurs compétences pour toutes les catégories de comportement (avant et après) et leurs résultats à l’ECOS (r < 0,12 et P > ,08 pour toutes les catégories), et c’était la même chose pour les cotes de compétences relatives à une station donnée attribuées avant et après l’ECOS (r <0,19 et P >,09 pour toutes les catégories). Pour chacun des étudiants, on a calculé les corrélations entre les cotes attribuées avant et après les ECOS (r > 0,42 et P < ,001 pour tous les étudiants).

Conclusion: Après un ECOS, le classement attribué par l’étudiant à ses compétences avait diminué, et cette évaluation avait peu de rapport avec son rendement réel, et ce, quelle que soit la spécificité des compétences évaluées. Une telle discordance entre les compétences perçues et réelles n’est ni nouvelle ni unique à la médecine familiale. Il s’agit toutefois d’une observation qui mérite d’être prise en considération pour le développement des programmes d’études axés sur les compétences.

Publication types

  • Evaluation Study

MeSH terms

  • Clinical Clerkship*
  • Clinical Competence*
  • Competency-Based Education / methods
  • Curriculum
  • Educational Measurement*
  • Family Practice / education*
  • Humans
  • Quebec
  • Self-Assessment*