Droit d'accès aux algorithmes publics
-
Je partage deux documents qui pourraient nous être utiles pour tenter d'avoir accès aux algos utilisés pour des choses telles que la compariason/reconnaissance faciale, la police prédictive. Même si le droit comporte encore de sacrée limites.
- Les demandes citoyennes de transparence au sujet des algorithmes publics, par Loup Cellard
- Guide des algorithmes publics, Étalab
-
@felix On risque d'être bien limité sur ce genre de technos: "et que ce traitement n’est pas couvert par l’un des secrets définis par la loi (2° de l’article L.311-5), et notamment: délibérations du Gouvernement, défense nationale, conduite de la politique extérieure, sûreté de l’Etat, sécurité publique, sécurité des personnes ou des systèmes d’information, recherche et prévention d’infractions, etc."
-
@cb Mmmh de ce que je comprends il faudrait que la publication du code source porte atteinte à la sécurité publique (art. 311-5 du code des relations entre le public et l'administration). Si tel est bien le cas, pas si évident pour le destinataire d'une demande CADA de le démontrer.
-
@Selim Tu as sûrement raison.Plus qu'à faire une demande pour voir ce que ca donnerait;-) On peut essayer d'identifier des projets et contacter Etalab ou direct en CADA? On verra bien les retours.
-
Du nouveau sur l'accès aux algos?;-)
-
@cccccc Pas que je sache. Aucune demande n'est partie. Si quelqu'un.e veut se lancer, c'est évidemment une piste intéressante à explorer !
-
@Selim Je t'ai envoyé un message pour voir si on peut se coordonner;-)
-
J'ai une demande que je m'apprête à envoyer à la mairie de Marseille et qui tente de faire valoir la communicabilité des algorithmes utilisés par le système de vidéosurveillance automatisée à Marseille.
La VSA conduit à des décisions individuelles (même s'ils risquent de le nier), donc ça rentre bien sous le coup de la loi. À voir si le secret des affaires ou tout autre obstacle juridique ne sera pas mobilisé contre cette demande. À l'inverse, plus difficile de faire valoir que le système de Big Data M-PULSE, sorte de prototype de police prédictive, conduit à des décisions individuelles. Du coup je l'ai exclu de ma demande mais si vous voyez une manière de l'y raccrocher, je suis évidemment preneur. Plus accessoire, je fais aussi valoir la communicabilité des études d’impact pour ces deux projets, toujours pas rendues publiques (si elles sont toujours pas prêtes c'est que vraiment ils se moquent du monde)...
Voici le dispositif du mon courrier (toutes suggestions, demandes d'ajouts, etc. bienvenus -- ping @Martin @bastien @Alexis :):
... J’aimerais donc, en vertu de l'article L.2121-26 du code général des collectivités territoriales et du titre 1er de la loi modifiée n°78-753 du 17 juillet 1978, solliciter les décisions administratives et les documents administratifs produits, reçus ou traités par la ville de Marseille et afférents
- au projet d’Observatoire Big Data de la Tranquillité Publique (rebaptisé M-Pulse),
- au projet d’expérimentation de la vidéosurveillance automatisée (ou « vidéoprotection intelligente »), ainsi qu’
- au recours aux drones par les autorités municipales et leurs partenaires publics et privés.
Les documents sollicités incluent notamment
- les conventions, dossiers, notes internes, rapports et études, dossiers de subvention, procès-verbaux des réunions afférentes, correspondances, contrats ou conventions associés, y compris leurs éventuelles annexes et avenants.
- En vertu de l’article L312-1-1-3 du Code des relations entre le public et l'administration, je sollicite également des informations générales s’agissant des algorithmes utilisés dans le cadre du dispositif de vidéosurveillance automatisé (étant entendu que celui-ci conduit à identifier des personnes et des situations et emporte donc des « décisions individuelles »), ainsi que
- les études d’impact réalisées par la ville et ses prestataires pour ces différents programmes, conformément aux obligations prévues à l’article 35 du règlement n°2016/679 relatif à la protection des données (RGPD) et à l’article 27 de la directive n° 2016/680 dite « police-justice » (études d’impact dont la Commission d’accès aux documents administratifs a jugé, dans sa décision 20183041 du 8 novembre 2018, qu’ils étaient communicables).
-
@felix a dit dans Droit d'accès aux algorithmes publics :
informations générales
Cela me semble trop imprécis. Tu devrais peut-être plutôt demandé les règles définissant les traitement algorithmiques, les codes sources et les pondérations.
-
Pareil qu'Alexis ! Ils vont commencer à te connaître à la mairie :)
-
Merci pour vos retours. J'ai essayé de décliner ainsi :
Les documents sollicités incluent notamment les conventions, dossiers, notes internes, rapports et études, dossiers de subvention, procès-verbaux des réunions afférentes, correspondances, contrats ou conventions associés, y compris leurs éventuelles annexes et avenants. En vertu de l’article L. 312-1-3 du Code des relations entre le public et l'administrationtion, je sollicite également des informations générales s’agissant des algorithmes utilisés dans le cadre de l’observatoire Big Data et du dispositif de vidéosurveillance automatisée. Ces informations incluent notamment les règles définissant les principaux traitements utilisés. S’agissant de la vidéosurveillance automatisée, étant entendu que celle-ci conduit à suivre des personnes et à identifier des situations dans lesquelles ces personnes sont placées et qu’elle emporte donc des « décisions individuelles », je vous demande de faire application de l’article R311-3-1-2 du même code, et ainsi de me transmettre des informations quant au degré et au mode de contribution du traitement algorithmique à la prise de décision, aux données traitées et à leurs sources exactes (modèles de caméras et emplacements), aux paramètres de traitement et à leur pondération ou encore aux opérations effectuées par le traitement. Enfin, je sollicite les études d’impact réalisées par la ville et ses prestataires pour les trois différents programmes, conformément aux obligations prévues à l’article 35 du règlement n°2016/679 relatif à la protection des données (RGPD) et à l’article 27 de la directive n° 2016/680 dite « police-justice » (études d’impact dont la Commission d’accès aux documents administratifs a jugé, dans sa décision 20183041 du 8 novembre 2018, qu’ils étaient communicables). Faute de réponse sous un mois, je saisirai la Commission d’accès aux documents administratifs.
-
Trop intéressé de voir la réponse. Si il partage sur les algos ca serait juste ouf.
