Le terme «reconnaissance faciale» n’apparaît que quatre fois sur la page de 27 pages document qui décrit la vision de l’Europe pour l’avenir de l’intelligence artificielle. Trois de ces quatre cas figurent en notes de bas de page.

Connu sous le nom de Livre blanc sur l’intelligence artificielle, le document fait partie de la Commission de l’Union européenne agenda ambitieux Réglementation du secteur technologique des 27 États membres de l’UE, publiée cette semaine (19 février).

Les experts en éthique de l’IA mettent en garde contre l’utilisation non réglementée de la reconnaissance faciale actuellement utilisée par les deux Gouvernements et le secteur privé. Le fait que la technologie controversée soit à peine mentionnée dans le Livre blanc représente un changement remarquable dans la volonté de l’UE de tracer une ligne dure quant à son utilisation.

Le mois dernier un Projet de livre blanc a révélé que l’Europe envisageait une interdiction temporaire de cinq ans de la reconnaissance faciale, une décision saluée par les défenseurs des droits numériques mais contrée par la communauté de la sécurité. Cette interdiction n’apparaîtra plus dans le projet final. FT signalé Cette semaine, l’interdiction a été supprimée des projets ultérieurs en raison des craintes qu’elle étoufferait l’innovation et mettrait en danger la sécurité nationale.

Au lieu de cela, le document non contraignant fournit une définition des applications d’IA à haut risque qui peuvent affecter les droits des personnes, telles que: B. en matière d’emploi, de transport, de formation Divi et d’application de la loi. Ces outils doivent passer par des tests supplémentaires, une certification et une surveillance humaine.

Le visage d’une personne montre souvent sa race et son sexe, c’est pourquoi la reconnaissance faciale est un candidat évident pour la race et le sexe. Discrimination. Bien que le Livre blanc n’impose aucune nouvelle restriction à la reconnaissance faciale, il jette les bases d’une législation que l’UE devrait adopter plus tard cette année.

Une solution proposée dans le livre blanc exigerait que les données de formation utilisées par les fournisseurs d’IA proviennent de la population européenne locale, ce qui reflète mieux la diversité démographique. Données d’entraînement contenant des quantités disproportionnées homme blanc est l’une des façons dont il a été démontré que la reconnaissance faciale crée des préjugés contre les femmes et les personnes de couleur. Cependant, Joseph Halpern, professeur d’informatique à l’Université Cornell, estime que les données de formation ne sont qu’une très petite partie du problème.

«On sait qu’il y a des problèmes avec les algorithmes de reconnaissance faciale en raison de mauvais ensembles de formation. Cependant, je crains que, bien que l’ensemble de données de l’UE puisse résoudre les problèmes connus, qui sait quels autres préjugés il pourrait introduire », a écrit Halpern dans un courrier électronique adressé à Quartz. Halpern préférerait une déclaration claire sur les attentes et les pénalités d’un algorithme si ces attentes ne sont pas satisfaites.

Les citoyens devraient également recevoir un avertissement clair sur le moment où la reconnaissance faciale peut être utilisée, dit-il. Alors que la proposition suggère une certification IA «digne de confiance», qui exige une conformité réglementaire pour les applications à faible risque, elle n’impose pas les mêmes exigences pour l’application de la loi. «Le problème que je soupçonne que la plupart des gens ont à voir avec la reconnaissance faciale chinoise parmi la population ouïghoure n’est pas qu’elle identifie mal les gens. C’est plutôt pour identifier trop bien les gens », a écrit Halpern.

La reconnaissance faciale automatisée dans les espaces publics sans le consentement d’une personne est devenue controversée en Europe. L’Divi planifie l’installation caméras de reconnaissance faciale automatisées dans les gares et les aéroports, malgré l’opposition des groupes de défense des droits civiques. Vice-présidente de la Commission européenne pour le numérique Margrethe Vestager accepté Bien qu’il existe des exceptions aux règles du RGPD cette semaine, il existe des exceptions pour la sécurité publique. Cependant, les critiques préviennent qu’une telle faille donne aux gouvernements la liberté d’installer une technologie de surveillance de type Orwell dans les espaces publics.

« Nous sommes heureux que le rapport de l’UE reconnaisse que la reconnaissance faciale dans les espaces publics est une menace pour les droits fondamentaux et le RGPD », a déclaré Amba Kak, directeur des stratégies et programmes mondiaux à l’Institut AI Now de NYU, pour envoyer un e-mail à Quartz. «Mais il arrête d’imposer des limites strictes et recommande à la place un« large débat européen »sur le sujet. Il est urgent que la Commission prenne l’initiative de tracer des lignes rouges autour de la reconnaissance faciale, en particulier lorsqu’il s’agit de la question de la concentration du pouvoir et des dommages que cette technologie représente pour la société civile. « 

Stephanie Hare, chercheuse en éthique de l’IA qui défenseurs Pour une interdiction temporaire de la reconnaissance faciale par le Parlement européen l’année dernière, l’omission du Livre blanc est qualifiée de « décevante ». Sans interdiction générale, les États membres sont responsables de la réglementation de la reconnaissance faciale. Et les pays européens ont des points de vue différents sur l’éthique et la légalité de la technologie.

Par exemple, l’Agence suédoise de protection des données a approuvé l’utilisation de la reconnaissance faciale identifier les suspects criminels mais a bloqué son utilisation dans écoles. France utilisée reconnaissance de visage à AliceM, son programme d’identification nationale obligatoire est actuellement contesté par un groupe de protection des données de la plus haute juridiction du pays.

«Dans l’ensemble, l’UE autorise la technologie gratuite de reconnaissance faciale en direct pour tout le monde», a écrit Hare dans un e-mail à Quartz, «alors qu’elle aurait pu faire preuve de leadership».





Source link

Recent Posts