La technologie de reconnaissance faciale, bien qu’ancienne, connaît une expansion rapide, notamment grâce à l’apprentissage profond. Cependant, ses erreurs potentielles soulèvent des préoccupations majeures sur la vie privée et la justice.
La reconnaissance faciale (RF) est une technologie qui remonte à 60 ans, mais c’est au cours de la dernière décennie, avec l’avènement des méthodes d’apprentissage profond, qu’elle a pris une ampleur inquiétante. Aujourd’hui, elle est utilisée par des détaillants, des voisins et les forces de l’ordre, qui commencent à stocker des images faciales et à construire un album photo fragmenté de nos vies. Toutefois, cette technologie n’est pas infaillible et présente des risques importants, principalement liés aux erreurs de classification.
Il existe trois scénarios possibles lors de l’utilisation de la RF : 1) le logiciel identifie correctement un suspect, 2) il confond un autre individu avec le suspect (faux positif), ou 3) il ne trouve aucune correspondance (faux négatif). Les taux de faux négatifs dans des scénarios optimaux, comme la comparaison d’une photo de passeport avec une photo prise par un agent frontalier, peuvent atteindre environ 2 pour 1 000, tandis que les faux positifs sont souvent inférieurs à 1 pour 1 million. Cependant, les choses se compliquent lorsque les demandes envers la technologie augmentent.
Par exemple, lors d’une enquête policière, si une image d’une caméra de sécurité est comparée à une photo d’un suspect, de nombreux facteurs peuvent influencer la performance de l’algorithme, tels que la composition des données d’entraînement ou les différences entre les groupes d’âge. Une étude au Royaume-Uni a révélé que certaines catégories de population, notamment les femmes et les personnes à la peau plus foncée, étaient exposées à des risques de mé identification beaucoup plus élevés.
Les erreurs de RF ne sont pas seulement théoriques. En 2020, l’arrestation injustifiée de Robert Williams a conduit à un règlement obligeant la police de Detroit à reconnaître les limites de cette technologie. Plus récemment, en 2023, un tribunal a interdit à Rite Aid d’utiliser la RF pendant cinq ans à cause de l’utilisation d’un algorithme biaisé sur le plan racial. Des incidents comme ceux-ci soulignent le besoin urgent de régulations plus strictes et de méthodes d’entraînement d’algorithmes plus équitables.
À l’avenir, alors que des événements tels que des foires commerciales utilisent la RF pour vérifier les participants, la question de la précision et de l’éthique de cette technologie devient de plus en plus pressante. Le défi est de trouver un équilibre entre l’innovation technologique et la protection des droits individuels, tout en évitant que ces systèmes ne deviennent des instruments de discrimination et d’injustice.