« Pas d’algorithme sans corde de rappel humaine » – Axelle Lemaire

Les collectivités respectent-elles les obligations de transparence concernant les algorithmes qu’elles utilisent ?

La majorité des collectivités territoriales en sont encore au stade de la prise de conscience et de la compréhension des enjeux, entre transparence démocratique et efficience de l’action publique. C’est un sujet nouveau et on ne peut pas s’attendre à ce que des obligations soient mises en œuvre du jour au lendemain. Toutefois, cela fait maintenant quatre ans que les principes de transparence et de communicabilité sont posés par la loi, et il est temps d’engager le mouvement. Aujourd’hui encore, la question se résume souvent à « qu’est-ce qu’un algorithme ? » ou « comment l’identifier ? ». Il est probable que, comme Monsieur Jourdain, les administrations utilisent des algorithmes sans le savoir.

Malgré ces débuts hésitants, faut-il aller plus loin dans l’encadrement ?

Le cadre juridique mériterait d’être précisé. Notamment pour définir la notion d’algorithme, ce qui permettrait d’en harmoniser la compréhension. Surtout, une avancée serait nécessaire pour limiter les risques de discrimination selon l’âge, le sexe, l’origine sociale&hellip avec la reconnaissance d’un principe d’opposabilité et de nullité lorsque des algorithmes publics viennent créer ou renforcer des discriminations. Même sur la transparence, il faudrait aller plus loin, dans une V2 de la loi pour une République numérique ! Son champ pourrait être étendu à toutes les situations dans lesquelles le recours à des algorithmes peut avoir des conséquences sur les politiques publiques.

Comment passer de la théorie à la pratique ?

Il faudrait réussir à encoder les principes éthiques (transparence, loyauté, intelligibilité, responsabilité, etc.) pour guider la production et l’utilisation des algorithmes publics. Cependant, la mise en pratique est complexe. Comment un développeur doit-il incorporer le principe d’intelligibilité dans un algorithme auto-apprenant ? La seule réponse par le droit n’est pas suffisante. L’entrée dans l’ère des algorithmes pose un changement de paradigme pour l’administration française. Cela suppose des moyens humains et des ressources financières dédiés aux informaticiens, juristes et métiers. Les calculs algorithmiques peuvent rendre l’administration plus efficace, personnalisée, en phase avec la réalité du terrain. En revanche, ils peuvent aussi la déshumaniser. Pas d’algorithme sans corde de rappel humaine, voilà un principe élémentaire essentiel.