Google d’Alphabet Inc a déclaré à Reuters cette semaine qu’il développait une alternative à la méthode standard de l’industrie pour classer les tons de peau, qui, selon un nombre croissant de chercheurs en technologie et de dermatologues, est inadéquate pour évaluer si les produits sont biaisés contre les personnes de couleur.

Le problème est une échelle à six couleurs connue sous le nom de Fitzpatrick Skin Type (FST), que les dermatologues utilisent depuis les années 1970. Les entreprises technologiques s’y fient désormais pour catégoriser les personnes et mesurer si des produits tels que les systèmes de reconnaissance faciale ou les capteurs de fréquence cardiaque des montres intelligentes fonctionnent aussi bien sur tous les tons de peau.

Les critiques disent que FST, qui comprend quatre catégories pour la peau « blanche » et une pour « noire » et « marron », ne tient pas compte de la diversité parmi les personnes de couleur. Des chercheurs du département américain de la Sécurité intérieure, lors d’une conférence fédérale sur les normes technologiques en octobre dernier, ont recommandé d’abandonner la FST pour évaluer la reconnaissance faciale, car elle représente mal la gamme de couleurs dans diverses populations.

En réponse aux questions de Reuters sur FST, Google, pour la première fois et avant ses pairs, a déclaré qu’il poursuivait discrètement de meilleures mesures.

« Nous travaillons sur des mesures alternatives, plus inclusives, qui pourraient être utiles dans le développement de nos produits, et collaborerons avec des experts scientifiques et médicaux, ainsi qu’avec des groupes travaillant avec les communautés de couleur », a déclaré la société, refusant de fournir des détails. sur l’effort.

La controverse fait partie d’un calcul plus large sur le racisme et la diversité dans l’industrie technologique, où la main-d’œuvre est plus blanche que dans des secteurs comme la finance. Veiller à ce que la technologie fonctionne bien pour toutes les couleurs de peau, ainsi que pour les différents âges et sexes, prend une importance croissante à mesure que les nouveaux produits, souvent alimentés par l’intelligence artificielle (IA), s’étendent à des domaines sensibles et réglementés tels que les soins de santé et les forces de l’ordre.

Les entreprises savent que leurs produits peuvent être défectueux pour les groupes sous-représentés dans les données de recherche et de test. L’inquiétude concernant le FST est que son échelle limitée pour les peaux plus foncées pourrait conduire à une technologie qui, par exemple, fonctionne pour la peau brun doré mais échoue pour les tons rouges expresso.

De nombreux types de produits offrent des palettes bien plus riches que FST. L’année dernière, Crayola a lancé 24 crayons de couleur chair et les poupées Barbie Fashionistas de Mattel Inc cette année couvrent neuf tons.

La question est loin d’être académique pour Google. Lorsque la société a annoncé en février que les caméras de certains téléphones Android pouvaient mesurer la fréquence cardiaque du bout des doigts, elle a déclaré que les lectures seraient en moyenne erronées de 1,8 %, que les utilisateurs aient la peau claire ou foncée.

La société a ensuite donné des garanties similaires selon lesquelles le type de peau n’affecterait pas sensiblement les résultats d’une fonctionnalité de filtrage des arrière-plans des vidéoconférences Meet, ni d’un outil Web à venir pour identifier les affections cutanées, surnommé de manière informelle Derm Assist.

Ces conclusions découlent des tests avec le FST à six tons.

‘Point de départ’

Le regretté dermatologue de l’Université Harvard, le Dr Thomas Fitzpatrick, a inventé la balance pour personnaliser le traitement par rayonnement ultraviolet pour le psoriasis, une affection cutanée qui démange. Il a regroupé la peau des «blancs» en chiffres romains I à IV en demandant combien de coups de soleil ou de bronzage ils développaient après certaines périodes au soleil.

Une décennie plus tard vint le type V pour la peau « brune » et VI pour « noire ». L’échelle fait toujours partie de la réglementation américaine pour tester les produits de protection solaire, et elle reste une norme dermatologique populaire pour évaluer le risque de cancer des patients et plus encore.

Certains dermatologues disent que l’échelle est une mesure médiocre et surutilisée pour les soins, et souvent confondue avec la race et l’origine ethnique.

« Beaucoup de gens penseraient que je suis de type V, qui brûle rarement ou jamais, mais je brûle », a déclaré le Dr Susan Taylor, dermatologue de l’Université de Pennsylvanie qui a fondé la Skin of Color Society en 2004 pour promouvoir la recherche sur les communautés marginalisées. « Regarder ma teinte de peau et dire que je suis de type V ne me rend pas service. »

Les entreprises technologiques, jusqu’à récemment, étaient indifférentes. Unicode, une association de l’industrie supervisant les emojis, a fait référence à FST en 2014 comme base pour l’adoption de cinq tons de peau au-delà du jaune, affirmant que l’échelle était « sans associations négatives ».

Une étude de 2018 intitulée « Gender Shades », qui a révélé que les systèmes d’analyse faciale confondaient plus souvent les personnes à la peau plus foncée, popularisé à l’aide de FST pour évaluer l’IA. La recherche a décrit FST comme un « point de départ », mais les scientifiques d’études similaires qui sont venues plus tard ont déclaré à Reuters qu’ils utilisaient l’échelle pour rester cohérent.

« En tant que première mesure pour un marché relativement immature, il sert à nous aider à identifier les signaux d’alarme », a déclaré Inioluwa Deborah Raji, une membre de Mozilla spécialisée dans l’audit de l’IA.

Dans une étude d’avril testant l’IA pour détecter les deepfakes, les chercheurs de Facebook Inc ont écrit que FST « n’englobe clairement pas la diversité des tons de peau marron et noir ». Pourtant, ils ont publié des vidéos de 3 000 personnes à utiliser pour évaluer les systèmes d’IA, avec des balises FST attachées sur la base des évaluations de huit évaluateurs humains.

Le jugement des évaluateurs est central. L’année dernière, la startup de logiciels de reconnaissance faciale AnyVision a donné des exemples de célébrités aux évaluateurs : l’ancien grand joueur de baseball Derek Jeter en tant que type IV, le mannequin Tyra Banks a V et le rappeur 50 Cent a VI.

AnyVision a déclaré à Reuters qu’il était d’accord avec la décision de Google de revoir l’utilisation du FST, et Facebook a déclaré qu’il était ouvert à de meilleures mesures.

Microsoft Corp et les fabricants de montres connectées Apple Inc et Garmin Ltd font référence à FST lorsqu’ils travaillent sur des capteurs liés à la santé.

Mais l’utilisation de la FST pourrait alimenter de « fausses assurances » sur les lectures de fréquence cardiaque des montres intelligentes sur une peau plus foncée, ont écrit des cliniciens de l’Université de Californie à San Diego, inspirés par le mouvement pour l’égalité sociale Black Lives Matter, dans le journal Sleep l’année dernière.

Microsoft a reconnu les imperfections de FST. Apple a déclaré qu’il testait sur des humains à travers des tons de peau en utilisant diverses mesures, FST seulement parfois parmi eux. Garmin a déclaré qu’en raison de nombreux tests, il pensait que les lectures étaient fiables.

Victor Casale, qui a fondé la société de maquillage Mob Beauty et a aidé Crayola sur les nouveaux crayons, a déclaré qu’il avait développé 40 teintes de fond de teint, chacune différente de l’autre d’environ 3%, soit suffisamment pour que la plupart des adultes les distinguent.

La précision des couleurs sur l’électronique suggère que les normes technologiques devraient avoir 12 à 18 tons, a-t-il déclaré, ajoutant: « Vous ne pouvez pas en avoir seulement six ».