PimEyes, un moteur de recherche public qui utilise la reconnaissance faciale pour comparer des photos de personnes en ligne, a interdit les recherches sur les mineurs, craignant qu’il ne mette en danger les enfants. Cependant, les experts s’inquiètent toujours des risques potentiels de la technologie, même avec la nouvelle protection.
PimEyes interdit la reconnaissance faciale des mineurs
Le nouveau système de détection de PimEyes, qui utilise l’IA de détection de l’âge pour identifier si la personne est un enfant, est encore en chantier. Après l’avoir testé, le New York Times a constaté qu’il avait du mal à identifier les enfants photographiés sous certains angles. L’IA ne détecte pas toujours avec précision les adolescents.
Le directeur général de PimEyes, Giorgi Gobronidze, a déclaré qu’il prévoyait de mettre en œuvre un tel mécanisme de protection depuis 2021. Cependant, la fonctionnalité n’a été pleinement déployée qu’après que l’ écrivain du New York Times Kashmir Hill a publié la semaine dernière un article sur la menace que l’IA représente pour les enfants . Selon Gobronidze, les organisations de défense des droits humains œuvrant en faveur des mineurs peuvent continuer à les rechercher, tandis que toutes les autres recherches produiront des images qui masqueront le visage des enfants.
« Nous nous engageons à protéger les enfants », a déclaré Gobronidze au New York Times. « Nous pensons que cette nouvelle fonctionnalité est un pas dans la bonne direction. »
Cependant, les experts s’inquiètent toujours des risques potentiels de la technologie, même avec la nouvelle protection.
« C’est une bonne chose que PimEyes ait pris des mesures pour protéger les enfants », a déclaré Daly Barnett, technologue à l’Electronic Frontier Foundation. « Mais il est important de se rappeler que la reconnaissance faciale est une technologie puissante qui peut être utilisée à des fins néfastes. »
Barnett a cité l’exemple de Clearview AI, un autre moteur de reconnaissance faciale qui a été utilisé par les forces de l’ordre pour identifier les manifestants.
« La reconnaissance faciale peut être utilisée pour traquer les gens, les surveiller et même les harceler », a déclaré Barnett. « Il est important d’être conscient des risques avant d’utiliser cette technologie. »
Le nouveau système de détection de PimEyes est un pas dans la bonne direction, mais il ne suffit pas à atténuer tous les risques potentiels de la technologie. Les utilisateurs doivent être conscients des risques avant d’utiliser PimEyes ou tout autre moteur de reconnaissance faciale.
Source : The Verge