Factors affecting test reproducibility among laboratories

Rev Sci Tech. 2021 Jun;40(1):131-143. doi: 10.20506/rst.40.1.3213.

Abstract

Reproducibility is the ability of an assay to provide consistent results (when testing the same samples) in different laboratories. The validation of a new diagnostic assay should include specific assessment of assay reproducibility to determine the degree to which results are unaffected by minor changes in experimental conditions. Ideally, assessment of reproducibility involves the testing of identical samples in multiple laboratories by multiple analysts using the same method, reagents and controls, albeit with different equipment. Such an assessment will provide estimates of the precision and accuracy of an assay across laboratories. In reality, although the reproducibility of an assay is often assessed by multiple laboratories testing identical samples, the reagents, controls and testing platforms used, while similar, are usually not the same. Thus, reproducibility testing permits the assessment of variability resulting from different testing platforms, reagent supplies and operators. The determination of minor versus major variations in test conditions that may be anticipated in multi-laboratory use is part of the assessment at this stage of validation. Once validated, there are ongoing monitoring requirements to assess the performance characteristics and ensure they are consistently maintained. The use of quality assurance programmes is required, as this offers continued monitoring of assay performance by measuring the precision and accuracy of results for well-characterised samples and controls. Tests recommended by the World Organisation for Animal Health as fit for purpose are widely used internationally and need to have satisfactory reproducibility.

La reproductibilité d’un test désigne son aptitude à fournir des résultats constants (en testant les mêmes échantillons) lors d’analyses effectuées par différents laboratoires. Toute validation d’un nouvel essai diagnostique doit inclure une étape spécifique d’évaluation de la reproductibilité de l’essai, visant à vérifier jusqu’à quel point les résultats du test demeurent inchangés en cas de légères variations dans les conditions de réalisation de l’essai. Idéalement, l’évaluation de la reproductibilité consiste à soumettre des échantillons identiques à une même méthode d’essai réalisée dans plusieurs laboratoires par des analystes à chaque fois différents et en utilisant les mêmes réactifs et contrôles, mais avec des équipements différents. Une telle évaluation fournit une estimation de la précision et de l’exactitude d’un essai conduit par plusieurs laboratoires. Dans la pratique, si la reproductibilité d’un essai est souvent évaluée par des laboratoires différents à partir d’échantillons similaires, les réactifs, les contrôles et les plateformes d’essai ne sont généralement pas les mêmes d’un laboratoire à l’autre, bien qu’étant similaires. Les essais de reproductibilité permettent ainsi d’évaluer la variabilité induite par l’utilisation de plateformes de test et de réactifs différents par des opérateurs eux-mêmes différents. La détermination du caractère mineur ou substantiel des variations des conditions d’essai susceptibles d’être anticipées dans un cadre d’utilisation impliquant de nombreux laboratoires fait partie de l’évaluation à ce stade de la validation. Une fois la validation faite, des exigences de contrôle continu sont requises afin d’évaluer les caractéristiques de performances et de veiller à leur maintien dans le temps. Les laboratoires doivent se doter d’un programme d’assurance qualité qui garantisse le suivi continu des performances des essais à travers une mesure de la précision et de l’exactitude des résultats à partir d’échantillons et de contrôles bien caractérisés. Les tests dont l’aptitude à l’emploi selon l’objectif prévu a été établie et qui de ce fait sont recommandés par l’Organisation mondiale de la santé animale ont vocation à être utilisés dans le monde entier ; il est donc important qu’ils soient suffisamment reproductibles.

Se entiende por “reproducibilidad” el conjunto de características que permiten que un ensayo depare resultados uniformes al ser aplicado a las mismas muestras en laboratorios distintos. El proceso de validación de una prueba de diagnóstico debe incluir una evaluación específica de su reproducibilidad, a fin de determinar en qué medida los resultados se mantienen inalterados ante cambios menores de las condiciones experimentales. Lo idóneo para evaluar la reproducibilidad es que, en múltiples laboratorios, múltiples analistas sometan a prueba muestras idénticas empleando idénticos métodos, reactivos y controles, pero distinto equipo de laboratorio. Semejante evaluación permitirá estimar la precisión y exactitud que ofrece un ensayo en diferentes laboratorios. En realidad, aunque en la evaluación de la reproducibilidad de un ensayo intervienen a menudo múltiples laboratorios que analizan muestras idénticas, los reactivos, controles y dispositivos de prueba utilizados, aún siendo parecidos, no suelen los mismos. La realización de pruebas de reproducibilidad permite pues determinar la variabilidad que introducen distintos dispositivos de prueba, suministros de reactivos y técnicos de laboratorio. Así, la determinación de las variaciones menores frente a las variaciones importantes de las condiciones experimentales que cabe prever cuando múltiples laboratorios emplean un ensayo forma parte de la evaluación en esta fase del proceso de validación. Una vez validado un ensayo, hay una serie de requisitos de seguimiento continuo que sirven para evaluar las características de rendimiento y garantizar que se mantengan estables en el tiempo. Para ello es necesario utilizar programas de garantía de calidad, que ofrecen la posibilidad de hacer un seguimiento continuo del rendimiento de un ensayo cuantificando la precisión y exactitud de los resultados obtenidos con muestras y controles bien caracterizados. Las pruebas que la Organización Mundial de Sanidad Animal recomienda por considerarlas adaptadas a su finalidad, de uso muy extendido a escala internacional, deben presentar un nivel satisfactorio de reproducibilidad.

Keywords: Monitoring; Quality controls; Reproducibility; Validation; Variation.

MeSH terms

  • Animals
  • Laboratories*
  • Reproducibility of Results