Le Cabinet Office annonce une nouvelle norme pour les outils qui influencent les résultats des examens, l’attribution des allocations de logement et la réparation des nids-de-poule.

Les ministres et les organismes publics doivent révéler l’architecture des algorithmes qui influencent les résultats des examens, l’attribution des allocations de logement et la réparation des nids-de-poule, conformément aux nouvelles normes de transparence.

Le Royaume-Uni veut collaborer avec La Chine et la Russie

Le gouvernement britannique a publié une norme de transparence pour les algorithmes, c’est-à-dire la série d’instructions qu’un ordinateur suit pour accomplir une tâche ou produire un résultat unique. Les algorithmes font l’objet d’une controverse croissante, qu’il s’agisse du rôle qu’ils ont joué dans l’établissement des résultats du baccalauréat l’année dernière ou des décisions relatives aux demandes d’allocations.
Dans le cadre de la nouvelle approche, les ministères et les organismes du secteur public seront tenus d’expliquer où un algorithme a été utilisé, pourquoi il l’a été et s’il a atteint son objectif. Il y aura également une obligation de révéler l’architecture derrière l’algorithme. La norme sera testée par plusieurs ministères et organismes du secteur public dans les mois à venir avant d’être réexaminée et lancée officiellement l’année prochaine.

La nouvelle norme sera divisée en deux niveaux. Le premier requiert une brève description de l’algorithme, y compris comment et pourquoi il est utilisé. Le second comprend des informations plus détaillées sur le fonctionnement de l’outil, les données qui ont été utilisées pour former l’algorithme et le niveau de supervision humaine qui le sous-tend.

Lors de l’annonce de la nouvelle norme, le Cabinet Office a souligné plusieurs utilisations réussies d’algorithmes, notamment la réparation de nids de poule par le conseil municipal de Blackpool et les scanners de l’hôpital Moorfields Eye à Londres. Cependant, les algorithmes deviennent un mot d’ordre de plus en plus important dans les cercles politiques et réglementaires, en particulier avec le projet de loi sur la sécurité en ligne en cours d’examen au Parlement et dans le sillage des révélations de la dénonciatrice de Facebook, Frances Haugen.

Un mythe et un illusion

S’adressant aux députés ce mois-ci, la secrétaire d’État à la culture, Nadine Dorries, a averti les patrons de la technologie qu’ils devaient mettre un frein à leurs algorithmes sous peine d’être punis par le projet de loi sur la sécurité en ligne. « Supprimez dès aujourd’hui vos algorithmes nuisibles et vous ne serez pas soumis – les personnes nommées – à une responsabilité pénale et à des poursuites », a-t-elle déclaré.

Annonçant la nouvelle norme, Lord Agnew, ministre d’État au Cabinet Office, a déclaré : « Les algorithmes peuvent être exploités par les organisations du secteur public pour les aider à prendre des décisions plus justes, à améliorer l’efficacité des services publics et à réduire les coûts associés à leur prestation. Toutefois, ils doivent être utilisés dans les processus décisionnels de manière à gérer les risques, à respecter les normes les plus élevées en matière de transparence et de responsabilité, et à établir des preuves claires de leur impact. »

Adrian Weller, directeur de programme pour l’intelligence artificielle à l’Institut Alan Turing, un organisme de recherche soutenu par le gouvernement pour la science des données et l’IA, a salué une « initiative pionnière ». Il a déclaré : « Les organisations se tournent de plus en plus vers les algorithmes pour automatiser ou soutenir la prise de décision. Nous avons l’occasion de mettre en place les bons mécanismes de gouvernance au fur et à mesure que leur adoption augmente. C’est pourquoi je suis ravi de voir le gouvernement britannique publier l’une des premières normes nationales de transparence algorithmique au monde. »