"Facekit"-Toward an Automated Facial Analysis App Using a Machine Learning-Derived Facial Recognition Algorithm

Plast Surg (Oakv). 2023 Nov;31(4):321-329. doi: 10.1177/22925503211073843. Epub 2022 Jan 24.

Abstract

Introduction: Multiple tools have been developed for facial feature measurements and analysis using facial recognition machine learning techniques. However, several challenges remain before these will be useful in the clinical context for reconstructive and aesthetic plastic surgery. Smartphone-based applications utilizing open-access machine learning tools can be rapidly developed, deployed, and tested for use in clinical settings. This research compares a smartphone-based facial recognition algorithm to direct and digital measurement performance for use in facial analysis. Methods: Facekit is a camera application developed for Android that utilizes ML Kit, an open-access computer vision Application Programing Interface developed by Google. Using the facial landmark module, we measured 4 facial proportions in 15 healthy subjects and compared them to direct surface and digital measurements using intraclass correlation (ICC) and Pearson correlation. Results: Measurement of the naso-facial proportion achieved the highest ICC of 0.321, where ICC > 0.75 is considered an excellent agreement between methods. Repeated measures analysis of variance of proportion measurements between ML Kit, direct and digital methods, were significantly different (F[2,14] = 6-26, P<<.05). Facekit measurements of orbital, orbitonasal, naso-oral, and naso-facial ratios had overall low correlation and agreement to both direct and digital measurements (R<<0.5, ICC<<0.75). Conclusion: Facekit is a smartphone camera application for rapid facial feature analysis. Agreement between Facekit's machine learning measurements and direct and digital measurements was low. We conclude that the chosen pretrained facial recognition software is not accurate enough for conducting a clinically useful facial analysis. Custom models trained on accurate and clinically relevant landmarks may provide better performance.

Introduction : Il existe de multiples outils pour procéder aux mesures et à l’analyse des caractéristiques faciales à l’aide des techniques d’apprentissage machine de la reconnaissance faciale. Cependant, il reste plusieurs défis à relever avant qu’ils soient utiles en contexte clinique de chirurgie reconstructive et de chirurgie plastique. Des applications pour téléphone intelligent faisant appel à des outils d’apprentissage machine en libre accès peuvent être rapidement mises au point, déployées et mises à l’essai dans un cadre clinique. Dans la présente étude, les chercheurs comparent un algorithme de reconnaissance faciale sur téléphone intelligent pour effectuer les mesures directes et numériques nécessaires lors de l’analyse faciale. Méthodologie : Facekit est une application pour appareil photo de téléphone Android qui fait appel à ML Kit, une application de vision par ordinateur en libre accès créée par Google. Au moyen du module de repères faciaux, les chercheurs ont mesuré quatre proportions faciales chez 15 sujets en santé et les ont comparées aux mesures de surface directe et aux mesures numériques à l’aide de la corrélation intraclasse et de la corrélation de Pearson. Résultats : La mesure de la proportion nasofaciale a obtenu le coefficient de corrélation intraclasse (CCI) le plus élevé, à 0,321, où un CCI supérieur à 0,75 est considéré comme une excellente corrélation entre les méthodes. Des analyses de variance répétées des mesures de proportion entre le ML Kit, la méthode directe et la méthode numérique différaient considérablement (F[2,14] = 6 à 26, p<<0,05). Les mesures Facekit des ratios entre les mesures orbitale, orbitonasale, naso-orale et naso-faciale avaient une faible corrélation globale et étaient corrélées avec les mesures directes et numériques (R<<0,5, CCI<<0,75). Conclusion : Facekit est une application pour appareil photo de téléphone intelligent visant à analyser rapidement les caractéristiques faciales. La concordance entre les mesures d’apprentissage machine de Facekit et les mesures directes et numériques était faible. Les chercheurs concluent que le logiciel de reconnaissance faciale préentraîné n’est pas assez précis pour procéder à une analyse faciale utile sur le plan clinique. Des modèles personnalisés formés à des repères précis et pertinents sur le plan clinique donneront peut-être un meilleur rendement.

Keywords: cosmetic; facial analysis; facial cannons; facial recognition; machine learning.