logo
Adresse de l'article https://www.lagazettedescommunes.com/615263/les-algorithmes-publics-un-allie-a-manier-avec-precaution/

NUMÉRIQUE
Les algorithmes publics, un allié à manier avec précaution
Gabriel Zignani | Actu juridique | France | Publié le 29/03/2019

Un guide sur le nouveau cadre juridique des algorithmes publics, ouvert à contribution, vient d'être publié par la mission Etalab. Définition, analyse des usages mais aussi obligation de transparence, la mission de Matignon en charge des données publiques explique aux collectivités comment les algorithmes seront les alliés de leur action publique de demain.

peterschreiber-Adobe-ordi-servicenumeriqueLa mission Etalab a publié mi-mars un guide des algorithmes publics à l’usage des administrations. « L’objectif est de sensibiliser les administrations et les collectivités territoriales sur le cadre juridique, car pour qu’il soit appliqué, il doit être connu des agents, » explique Simon Chignard, conseiller stratégique chez Etalab. « Trop souvent, quand les autorités expliquent la loi, elles se contentent de lister les obligations, sans expliquer le contexte. » Ce qui n’est pas le cas dans ce guide. Le cadre légal n’arrive qu’en troisième partie. « Il faut d’abord que les agents comprennent pourquoi il y a des obligations de transparence. »

Le guide commence par une analyse des usages des algorithmes publics, relatée par le membre d’Etalab : « Cela permet de faire comprendre ce qu’est un algorithme. Il y a des usages classiques : au niveau local, les algorithmes peuvent par exemple être utilisés pour calculer le montant d’une taxe. Il y a aussi des usages plus récents, avec un aspect prédictif. C’est par exemple le cas quand les algorithmes sont utilisés pour l’attribution de places de crèches. »

Les caractéristiques des algorithmes publics

Il existe deux types d’algorithmes, que l’on distingue selon le degré d’intervention humaine dans cette prise de décision. Certains fonctionnent sans intervention humaine, on parle alors de traitement automatisé. D’autres sont des outils d’aide à la décision : ils aident l’humain à prendre une décision. Dans les collectivités, la grande majorité des algorithmes utilisés sont de ce type. Ils sont par exemple utilisés pour classer des dossiers selon des critères de priorité pour qu’ils soient ensuite étudiés par une commission qui prendra formellement la décision.

Par rapport aux algorithmes mis en oeuvre par le secteur privé, les algorithmes publics ont des caractéristiques particulières:

Le guide explique d’ailleurs que « les algorithmes publics sont des formes de l’action publique et sont à ce titre soumis à la même forme d’exigence de redevabilité. Les administrations qui conçoivent et utilisent des algorithmes publics doivent donc rendre des comptes de leur utilisation auprès des individus concernés, mais aussi de la société dans son ensemble. »

Le cadre juridique applicable

Les utilisations d’algorithmes dans le secteur public sont très nombreuses. Mais les administrations ne doivent pas ignorer les risques liés à ces traitements que sont, selon Simon Chignard : « la méfiance voire la défiance de la société vis-à-vis d’outils parfois perçues comme des « boîtes noires », le risque de biais pour les algorithmes apprenants et les risques éthiques associés notamment à des utilisations peu ou mal anticipées des traitements algorithmiques.

La puissance publique doit donc s’assurer qu’elle use de manière responsable des algorithmes dans l’exécution de ses missions de service public. « La Loi pour une République numérique, et plus récemment le Règlement européen sur la protection des données personnelles ont introduit en ce sens des obligations liées à la transparence et la redevabilité des algorithmes lorsqu’ils fondent des décisions administratives individuelles, » continue le conseiller stratégique d’Etalab.

Plus précisément, le guide des algorithmes publics liste les obligations de transparence :

Dernière nouveauté : le législateur a introduit en 2018 dans la loi dite “Informatique et libertés” (article 10 [4] de la loi du 6 janvier 1978) une obligation supplémentaire concernant les traitements automatisés (c’est-à-dire sans intervention humaine) : à compter du 1er juillet 2020, tout traitement automatisé devra comporter, à peine de nullité, l’obligation de mention explicite.

« Ce guide est désormais ouvert à contribution. Il a vocation à être complété, » pointe Simon Chignard. D’autres contenus seront prochainement publiés pour compléter ce guide, notamment des fiches pratiques sur une méthodologie d’identification des algorithmes ainsi que des exemples de mention et d’information détaillée.

REFERENCES


POUR ALLER PLUS LOIN