Qu'est-ce-que la vidéo-surveillance automatisée ?



  • On parle ici souvent de vidéo-surveillance automatisée (VSA), notamment pour la documenter et l'attaquer.

    Mais je ne suis pas certain de comprendre tout ce que cette notion recouvre et ça me bloque pour penser la stratégie.

    Merci de dire ce que recouvre la VSA pour vous

    Pour moi, j'aurais tendance à dire que ça couvre : tout système de captation d'image dont les images peuvent être analysées automatiquement afin de détecter des objets selon certains critères. Du coup c'est très très large, on peut y mettre toute caméra ou presque. Mais je suis même pas sûr d'avoir listé tous les critères possibles.

    Une fois qu'on a affiné le contour de la VSA, l'autre question est de quelle VSA demandons-nous l'interdiction ?

    J'aurais tendance à répondre simplement : toute VSA utilisée à fins sécuritaires, un peu comme on a déjà tranché pour la reco faciale. Mais l'argumentation est peut être un peu plus subtile à développer. Ptet qu'il serait plus simple à justifier de ne demander que l'interdiction que de la VSA biométrique (où les seuls objets détectés sont des humains identifiables), mais c'est ptet dommage de s'arrêter là.



  • @Oncela a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    tout système de captation d'image dont les images peuvent être analysées automatiquement afin de détecter des objets selon certains critères.

    Je pense qu'il faut être plus précis : "tout système d'analyse d'image...". Pour moi la VSA recoupe les applications de "vision assistée par ordinateur" qui constituent un nouveau marché au sein de la vidéosurveillance (et inclut donc la reconnaissance faciale).

    Quelques exemples vidéos des applications possibles en guise d'illustration :

    Je pense qu'en effet, il ne faut pas du tout s'arrêter à la VSA biométrique (même si la stratégie, juridique notamment, paraît peut être plus aisée) car, d'une part, tacler l'identification automatisée, on le fait déjà avec la reconnaissance faciale et, d'autre part, la VSA "en générale" nous permet d'attaquer plus généralement l'automatisation, et donc le passage à l'échelle par l'informatique, de la vidéosurveillance 1.0. Ce qui me semble absolument nécessaire dans la lutte contre la Technopolice.



  • D'accord avec @Felix, c'est plus l'aspect analyse que captation qui est crucial je trouve.

    Je pense que c'est important de bien avoir en tête le fait qu'un logiciel comme Briefcam a deux utilités:

    • Analyse en "live": assistance aux opérateurs pour faire un tri parmi les images
    • Analyse à postériori: assistance à l'analyse d'un stock d'image existants (enquetes...)

    Du coup ca éloigne un peu du côté captation.

    J'ajouterai que "afin de détecter des objets selon certains critères" est peut être un peu restrictif (detection d'emotions, mouvements...meme si en soit ca passe par de la detection d'objets/personnes).

    Je verrai plus qq chose comme: "tout système d'analyse d'images utilisé dans un but sécuritaire", mais je ne trouve pas ca encore satisfaisant.

    Edit: "tout système d'analyse d'images issues de caméras de vidéosurveillances"? Mais ca peut être un peu restrictif?
    Edit 2: Définition de la VSI par un acteur privé: 'La VSI consiste à l'association d'un logiciel d'analyse algorithmique des images (et des sons) au système de vidéosurveillance pour détecter, reconnaître, mémorise, apprendre" https://ressources.itfacto.com/wp-content/uploads/2016/02/VSI1.pdf"



  • @cccccc a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    Définition de la VSI par un acteur privé: 'La VSI consiste à l'association d'un logiciel d'analyse algorithmique des images (et des sons) au système de vidéosurveillance pour détecter, reconnaître, mémorise, apprendre" https://ressources.itfacto.com/wp-content/uploads/2016/02/VSI1.pdf"

    C'est encore ceux qui vendent la VSA qui en parle (la définisse) le mieux ! :)



  • @Selim hey hey, apres en réfléchissant on peut sûrement faire mieux!;-)



  • Plutôt d'accord avec @Selim et @cccccc : la VSA ca serait l'analyse et non la captation.

    Mais on est d'accord que ca veut pas dire pour autant que je vais être pour la captation non plus ! Je pense que les deux combats vont ensemble d'ailleurs, vu que comme tu le dis @Oncela la plupart des images captées sont aujourd'hui analysées derrière. Ou que d'ailleurs, la VSA a tendance à visibiliser la présence des caméras de vidéosurveillance. Ou que du côté des industriels, la captation sans analyse n'aurait plus d'intérêt



  • @Martin a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    la VSA ca serait l'analyse et non la captation

    Oui, je m'attendais à cette réponse de votre part :) Donc je me continue mon raisonnement avec un exemple théorique (mais peut être moins théorique qu'il n'y parrait).

    Imaginez un réseau de caméra sur toute une ville, qui centralise et enregistre sur une seule base toutes les images en continue. À côté de la base, il y a un ordinateur d'analyse d'image. Mais la base n'est pas reliée à l'ordinateur. Du moins pas encore. Pendant ce temps, la police continue de déployer des caméras partout. En vérité, la police ne consulte même plus vraiment les caméra, car elle a compris que ça ne sert à rien. Elle attend simplement que le débat public change en sa faveur, dans l'espoir qu'une loi ou qu'un décret lui donne l'autorisation de relier la base à l'ordinateur. Et d'ailleurs, c'est notamment afin de pousser le débat public qu'elle déploie tant de caméra - par propagande, un peu.

    Je trouverais qu'on perdrait du temps à ne pas considérer que tout le système de captation fait déjà parti d'un système d'analyse. Et c'est même pas qu'une vision de l'esprit : dans mon exemple, les caméra n'existent que pour le système d'analyse. Si on ne les considère pas comme faisant parti d'un système d'analyse, on ne peut trop pas les considérer comme faisait parti de quoi que ce soit - si on voulait les contester, on ne saurait pas trop quel argument avancer.

    Ma discussion est pas purement théorique/culturelle, elle a aussi un objectif opérationnel : appliquer à la vidéo-surveillance les dispositions protégeant les données biométriques (article 10 directive police-justice). Ça nous offrirait une arme extrêmement puissante juridiquement. C'est ce que je commençais à développer au point I, C, de cette fiche sur le carré : https://carre.technopolice.fr/#49876081



  • Ton hypothèse est d'autant moins théorique que comme l'ont relevé les gens du groupe @Carto à Marseille, les caméras sont nativement équipées de logiciels d'analyse automatisée. D'ailleurs @eda tu as les rèfs des modèles ?

    On peut attaquer la captation aussi, et tu avais de chouettes idées contentieuses sur ce point, mais je pense qu'on sera plus clair si dans notre discours et nos stratégies ont arrive à faire le distinguo entre les deux. Et typiquement, je pense qu'il n'est stratégiquement pas idéal de faire du traitement des données biométriques l'argument principal contre la VSA (d'autant que ça ne marchera pas pour toutes ses applications).



  • @felix a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    je pense qu'il n'est stratégiquement pas idéal de faire du traitement des données biométriques l'argument principal contre la VSA (d'autant que ça ne marchera pas pour toutes ses applications)

    Je vois ce que tu veux dire. Ça nous laisse quoi d'autre comme critique ? Vous parlez souvent de critiquer le caractère automatisée de la prise de décision en tant que telle, peu importe ce sur quoi porte la décision. C'est une piste intéressante car plus large, en effet. Et on a des dispositions qui encadrent précisément les prises de décision automatisée. On a aussi déjà un discours sur la censure automatisée ou sur l'aide à l'aide à la décision automatisée style Parcoursupp.

    Et je m'arrête là car je viens d'avoir un petit Eureka juridique en écrivant ceci ^_^ Je creuse ça et je reviens (teaser : « profilage vidéo »)



  • Donc je pars de votre proposition « la VSA est une analyse automatisée d'aide à la décision ».

    L'article 11 de la directive police-justice prévoit que « toute décision fondée exclusivement sur un traitement automatisé, y compris le profilage, qui produit des effets juridiques défavorables pour la personne concernée ou l'affecte de manière significative, est interdite ».

    Cette interdiction de principe est levée si la décision est « autorisée par le droit de l'Union ou le droit d'un État membre auquel le responsable du traitement est soumis et qui fournit des garanties appropriées pour les droits et libertés de la personne concernée ».

    Dit comme ça, c'est pas très puissant. C'est pas super enthousiasment d'aller discuter la notion de « garanties appropriées » devant un juge tant l'issue serait incertaine. Et puis surtout, la police aura beau jeu de dire qu'aucune décision n'est prise « exclusivement » sur la VSA, qui n'est qu'une aide à la décision (on peut contester ce point, mais c'est relou).

    Mais c'est sans compter le dernier paragraphe de cet article 11, auquel j'avais jamais trouvé de sens très utile : « tout profilage qui entraîne une discrimination à l'égard des personnes physiques sur la base des catégories particulières de données à caractère personnel visées à l'article 10 est interdit ».

    Parmi les données visées à l'article 10, on retrouve les « données biométriques » (oui, mon argument est toujours sur les données biométriques, désolé, mais vos remarques m'ont fait revisiter le problème d'un tout autre angle).

    Toute l'astuce vient de la notion de « profilage », que je n'avais jamais envisagé qu'en matière de publicité ciblée, mais que je viens de redécouvrir comme s'appliquant parfaitement aux questions sécuritaires et de VSA.

    Le profilage est défini à l'article 3, paragraphe 4, comme « toute forme de traitement automatisé [...] consistant à utiliser [des] données personnelles pour évaluer certains aspects personnels relatifs à une personne physique, notamment pour analyser ou prédire des éléments concernant [...] le comportement, la localisation ou les déplacements de cette personne ».

    Autrement dit, l'État a l'interdiction pur et simple, sans exception, de traiter de façon automatisée des données biométriques afin d'établir un profil visant à prédire le comportement ou déplacement des personnes, si cette analyse « entraîne une discrimination ».

    C'est sûrement ce dernier critère de « entraîner une discrimination » qu'on doit renforcer et expliciter, car le texte ne dit rien de précis lui-même. Mais je pense pas que ce soit compliqué de défendre que subir un contrôle policier après avoir été individualisé dans une foule est une discrimination. « Discriminer » est au sens littéral synonyme de « individualiser » (c'est son seul et unique sans, d'ailleurs, non ?), et c'est bien ce que cherche à faire la VSA la plupart du temps.

    Si on arrive à démontrer ça : interdiction pure et simple. Ça ne couvre pas tous les usages VSA qu'on connaît, certes. Mais ça en couvre beaucoup : analyse d'émotion, analyse de mouvement, de comportement. Même analyse de bruit dans certains cas, je me dis.



  • @Oncela Ça l'air bien, même si en effet un peu novateur, mais ça se tente. Dire aussi qu'a minima, le défaut de base légale de ces nouvelles formes de surveillance les rend illégale (ce qui est moins puissant car une nouvelle loi réglerait ce problème), mais articulé à des choses plus audacieuses comme ce que tu décris ça pourrait rendre bien...



  • Trop cool @Oncela pour l'analyse ! J'ai l'impression que cette définition juridique est assez large pour y faire rentrer toutes les formes de vidéosurveillance automatisée ?

    Et un autre argument (je ne sais pas si c'est possible de le traduire juridiquement) serait de dire que c'est impensable que ce soit des entreprises qui puissent décider de la norme, de ce qui est normal ou anormale dans une société. Or, c'est ce que font tous les dispositifs d'aide à la décision : alerter les opérateurs vidéo parce qu'une personne est restée statique 300 secondes, qu'une autre court dans la rue. Ou encore si une alerte est donnée car un individu fait des grands gestes, ce qui est considéré comme un "comportement suspect" par le logiciel.
    Bref cela donne des pouvoirs énormes sur les entreprises qui conçoivent les algo de VSA



  • @Selim a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    le défaut de base légale de ces nouvelles formes de surveillance les rend illégale

    Ah oui oui, on laisse toujours cet argument en filet, y a aucun doute. Mais ça me semble trop risqué de se contenter de cet argument sans être plus agressif et constructif à côté - et j'imagine qu'il faut être audacieux pour être agressif :)



  • @Alouette a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    c'est impensable que ce soit des entreprises qui puissent décider de la norme

    C'est vraiment une bonne approche, mais je l'ai pas encore assez creusé perso. Je pense que c'est la même réflexion qu'on va avoir vis à vis de la police prédictive (et même de la justice prédictive). Je pense que @bastien a déjà un peu avancé sur la question.



  • @Oncela a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    C'est sûrement ce dernier critère de « entraîner une discrimination » qu'on doit renforcer et expliciter, car le texte ne dit rien de précis lui-même. Mais je pense pas que ce soit compliqué de défendre que subir un contrôle policier après avoir été individualisé dans une foule est une discrimination. « Discriminer » est au sens littéral synonyme de « individualiser » (c'est son seul et unique sans, d'ailleurs, non ?), et c'est bien ce que cherche à faire la VSA la plupart du temps.

    Classe. C'est bon les "illuminations" d'@Oncela un vendredi après midi;-) Après le point sur la discrimination, faudrait s'assurer que tout le monde, enfin at least la directive, l'entende de la même façon...

    @felix: juste sur le fait que les caméras soient, ou non équipées nativement, ca dépend vraiment du modèle. Tu vois le projet Aquilae (@Ju en a parlé ici) (mais briefcam de meme) vend son avantage sur le fait qu'il n'y a pas besoin de changer les caméras. En bref ils font l'analyse sur le flux recu par toutes les caméras lanbda. Donc en gros si oui ou non elles sont vendues avec le logiciel intégré, ca ca dépend du modèle.



  • Ce thread m'a permis de comprendre que la VSA, beaucoup plus que le reco faciale, entretient un rapport très important avec l'idée de futur, de prédiction. On ne recherche pas tant une valise ou un corps pour l'identifier, mais pour cerner son futur.

    C'est un changement de paradigme que je trouve passionnant.

    J'en arrive à me dire que le profilage publicitaire GAFAM et le profilage sécuritaire Technopolice sont les revers de la même pièce : les GAFAM prédisent nos envies pour nous laisser sur le droit chemin de la consommation ; la police prédit nos déviances pour nous laisser sur le droit chemin de la consommation. Et tout ça avec les mêmes outils : études statistiques en amont, puis pose de capteurs partout en aval, pour détecter les événements révélateurs de notre futur.



  • @Oncela a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    Et tout ça avec les mêmes outils : études statistiques en amont, puis pose de capteurs partout en aval, pour détecter les événements révélateurs de notre futur.

    Yes...Prédire et conduire...

    Btw, en regardant SHARE, on voit que eux se concentre vraiment sur "Biometric mass surveillance".



  • @cccccc Oui, la campagne des amies serbes, c'est très centré sur la reconnaissance faciale. C'est aussi le choix d'EDRi avec leur campagne à laquelle ont est associés. Mais -- au risque de me répéter -- je crois qu'il est vraiment important de commencer à parler de ces autres formes de VSA et de leurs dangers, qui ne sont pas juste de l'ordre de l'identification mais aussi de l'anticipation, du suivi, de détection de l'anormal, du passage à l'échelle de la vidéosurveillance via l'automatisation, dans une approche gestionnaire -- parfois simplement statistique (exemple de Two-I qui dans sa démo calcul en temps réel le nombre d'attroupement de + de 3, 5, ou 7 personnes dans les grandes villes françaises à partir de l'analyse vidéo).


  • Marseille

    @felix a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    Ton hypothèse est d'autant moins théorique que comme l'ont relevé les gens du groupe @Carto à Marseille, les caméras sont nativement équipées de logiciels d'analyse automatisée. D'ailleurs @eda tu as les rèfs des modèles ?

    Je viens de poster un résumé avec toutes les infos et les spécifications comparées des trois modèles identifiés + 1 modèle fortement soupçonné dans ce post en te pinguant @felix. Pour les détails très détaillés des caméras faut lire le manuel, il est mis parfois en lien dans les messages du fil. Vous me dites si besoin d'analyse plus poussée ou des questions précises ;)



  • @felix a dit dans Qu'est-ce-que la vidéo-surveillance automatisée ? :

    du passage à l'échelle de la vidéosurveillance via l'automatisation, dans une approche gestionnaire

    On est bien d'accord.


Log in to reply