les obligations liées au traitement de données personnelles
l'article 119 de la loi Informatique et Libertés, qui s'applique tant au secteur public que privé, précise que "toute personne physique justifiant de son identité a le droit d'interroger le responsable d'un traitement à caractère personnel en vue d'obtenir (...) 5° les informations permettant de connaître et de contester la logique qui sous-tend le traitement automatisé en cas de décision prise sur le fondement de celui-ci et produisant des effets juridiques à l'égard de l'intéressé".
Les obligations spécifiques de transparence des algorithmes
prévues par le code des relations entre le public et l'administration (CRPA), qui sont détaillées dans la section suivante.
Les obligations liées à l'ouverture des codes sources
L'obligation pour une administration de réaliser un inventaire des principaux traitements algorithmiques utilisés pour prendre des décisions administratives individuelles et de leurs règles est prévue par l'article L312-1-2 du code des relations entre le public et l'administration (CRPA).
Elle rentre dans le cadre des obligations de transparence des administrations ayant recours à des traitements algorithmiques. Le code des relations entre le public et l'administration (CRPA) précise le périmètre des administrations et traitement concernés.
La transparence permet aux personnes concernées :
de comprendre la manière dont une décision administrative a été rendue ;
de faciliter l'exercice de leurs droits.
Pour les administrations, elle permet d'instaurer une relation de confiance avec les personnes concernées.
🇪🇺 "Draft Ethics guidelines for trustworthy AI", European Commission’s High-Level Expert Group on Artificial Intelligence, mars 2019
🇪🇺 "algo:aware - State of the Art Report", Optimity Advisors for the European Commission, décembre 2018
🇪🇺 "Automating societies: taking stock of automated decision-making in the EU", Algorithm Watch, janvier 2019
🇪🇺 "Understanding algorithmic decision-making: Opportunities and challenges", Future of Science and Technology Panel, Parlement européen, mars 2019
(A développer : décisions locales, jurisprudences, ...)