Cédric O devant les parlementaires européens sur le réglement IA

[Selim]

Il était question de reconnaissance faciale. Il y a des choses intéressantes...

Cédric .O : (...) Notre société est basée sur une technologie numérique, sur celle des vaccins dont les rythmes de rupture et de développement est très rapide et qui laisse de côté tout une partie de notre population, dont le problème n’est pas qu’elle comprenne ou sache coder des algorithmes d’IA, le problème et qu’elle ne comprend pas la grammaire de ce Monde, or l’ignorance créé le fantasme et la défiance. Je crois qu’au sein de l’Union Européenne le principal défi technologique, économique mais surtout démocratique est de faire société et d’améliorer la culture technique de l’ensemble de nos populations et cela passe par l’éducation. (...).

Svenja HAHN, Groupe Renew Europe :

C’était très intéressant d’entendre les priorités numériques de la Présidence française, pourrions-nous peut-être également parler de la règlementation sur l’IA, parce qu’il y a eu certain problème, nous savons que le gouvernement français est favorable à l’utilisation de la reconnaissance faciale pour les services de répression de la criminalité alors que d’autres estiment que c’est une violation des droits fondamentaux, ceci tous particulièrement en Allemagne. J’estime que nous devons appuyer l’innovation et je ne crois pas que la France veuille bafouer les droits fondamentaux. Toutefois je vois un problème général en matière de surveillance et dans l’utilisation de l’IA dans ce domaine, certain État membre ont des systèmes plus fragiles, notamment deux voisins de l’Allemagne. Je voudrais savoir comment la Présidence française veut rapprocher ces points de vue qui sont fortement éloignés ? il semble également qu’il y est des confusions concernant ce qu’est la reconnaissance biométrique des espaces publiques, comment peut-on garantir que les technologies numériques ne soient pas détournées par les gouvernements pour contrôler et à des fins qui ne seraient pas voulues ?

Cédric .O : Je crois que vous touchez un des points les plus sensible du texte sur l’IA, un des points qui pourrait le faire échouer ou du moins empêcher qu’il prospère. Je souhaite corriger un des éléments que vous avez évoqués, la France n’est pas favorable à la reconnaissance faciale de manière indiscriminée, il y a très peu de dispositif de reconnaissance faciale en France et d’ailleurs aujourd’hui le cadre est posé par la commission national informatique et liberté. Il y a des débats sur le sujet en France de toute évidence, mais à ce stade il n’y a quasiment pas de déploiement de reconnaissance faciale en France. L’état du débat est assez proche de celui de l’Europe.
Maintenant considérant le règlement, je pense qu’il faut différencier deux questions, ce qui relève d’un règlement européen et ce qui relève de la souveraineté des États. En la matière s’agissant des questions de renseignement ou de maintien de l’ordre publique il me semble que cela relève de la souveraineté des états dès lors qu’ils sont en lien avec les valeurs de l’Europe. Là il s’agit du champ d’application de la règlementation de l’IA.

La deuxième question c’est celle de la technologie, je ne peux pas développer en quelques minutes ce sujet, mais la reconnaissance faciale cela ne veut rien dire, parle-t-on d’authentification ou parle-t-on d’identification dans l’espace publique ? en France par exemple la commission informatique et liberté a considéré qu’utiliser des logiciels algorithmiques pour regarder si les gens portaient des masques dans le métro de manière statistique était permis. Que faisons-nous des caméras qui sont sur les voitures autonomes ? comment traitons-nous les reconnaissances de mouvement de foule ? je pense que la question de la reconnaissance faciale, même le terme de reconnaissance faciale obère le débat que nous pouvons avoir sur quels sont les protocoles qui sont réellement à risque et quels sont les protocoles qui ne posent pas de problème compte tenu de leur design et de la manière dont ils ont été conçus et de leur architecture informatique.
https://www.journalgeneraldeleurope.org/2022/02/10/cedric-o-reponds-aux-deputes-europeens-du-comite-aida-lors-de-son-audition/

Puis il écarte une question venu d'une eurodéputé d'extrême-droite sur l'identité numérique. Puis :

Sandra PEREIRA, Le groupe de la gauche au Parlement européen – GUE/NGL :

Le changement numérique pourrait entrainer des déséquilibres et une concentration monopolistique de certaines activités et attaquer les souverainetés des peuples, les salaires et l’emploi, qu’en pensez-vous ?

Cédric .O : De par mes expériences précédentes chez Safran, et notamment au bas de l’échelle, je crois que la numérisation et l’automatisation sont un facteur essentiel pour lutter contre la pénibilité d’énormément de tâches qui aujourd’hui participe de la difficulté des postes qui sont tout en bas de l’échelle.

[felix]

Cédric O toujours, devant la mission du Sénat sur la reconnaissance faciale :

Auditionné par la mission d’information sur la reconnaissance faciale, Cédric O renvoie le débat [sur la reconnaissance faciale] à la prochaine législature, faute d’avoir mené les expérimentations durant le quinquennat. « C’est un sujet hautement inflammable », rappelle-t-il.
...
Quant au JO 2024, Cédric O note « que le gouvernement n’a pas pris la décision « compte tenu du contexte et de la sensibilité du sujet ». « De toute évidence, il faudra trouver des moyens pour assurer la sécurité sans l’utilisation de ces mécanismes d’identification en temps réel. Des dizaines de Jeux Olympiques ont été organisées sans la reconnaissance faciale. Aurait-on pu dans le cadre d’une élection présidentielle, avec le surmoi politique qui nous habite les uns et les autres, avoir un débat apaisé sur le fait de déployer de la reconnaissance faciale dans le cadre des JO ? Je ne suis pas sûr. Je suis même certain du contraire ».
https://www.publicsenat.fr/article/parlementaire/reconnaissance-faciale-la-chine-est-l-anti-modele-souligne-cedric-o-198277

[Alouette]

@felix merci du suivi

Inflammable c'est le mot : " Le président de la commission des lois, François-Noël Buffet l’interroge sur la sécurité des JO 2024. A l’origine, la proposition de loi sur la Sécurité globale comportait un volet sur la reconnaissance faciale notamment en vue d’assurer des Jeux Olympiques.

« On ne fera pas deux fois le débat devant le Parlement. C’est un sujet hautement inflammable. Je ne pense pas qu’on puisse faire un premier débat sur les expérimentations et un autre sur le droit commun […] Mon avis personnel est qu’il faut des expérimentations », a-t-il affirmé "