L’Unesco fait avancer la « déclaration universelle » sur l’intelligence artificielle

L’Unesco fait avancer la « déclaration universelle » sur l’intelligence artificielle


Le texte propose un cadre réglementaire pour les technologies controversées telles que la reconnaissance faciale et les systèmes de recommandation de plateformes.


Les États membres de l’Unesco disposent désormais d’un guide pour « aborder de manière responsable les effets connus et inconnus de l’intelligence artificielle sur les humains, les sociétés, l’environnement et les écosystèmes ». C’est l’objectif de la recommandation sur l’éthique de l’intelligence artificielle, une sorte de déclaration universelle pour l’utilisation de ces systèmes, qui a été adoptée par les 193 pays de l’organisation lors de la conférence générale de mercredi.

Ces orientations définissent les principes qui devraient guider le développement de technologies controversées telles que la reconnaissance faciale et abordent également des questions moins controversées, telles que l’effet potentiel des systèmes de recommandation sur la diversité culturelle ou linguistique. « Ce texte établit pour la première fois un cadre réglementaire mondial pour l’utilisation de l’intelligence artificielle. Elle repose sur trois piliers : le respect des droits de l’homme, l’État de droit et la lutte contre les discriminations », a expliqué Audrey Azoulay, directrice générale de l’Unesco, à EL PAÍS.

Une déclaration mon contraignante

Le document de 30 pages, que Mme Azoulay qualifie de « texte historique », n’est pas juridiquement contraignant, mais l’Unesco espère qu’il deviendra une référence mondiale pour le développement et l’utilisation éthique de cette technologie. Dans ce contexte, il existe déjà de nombreux cadres et lignes directrices élaborés par des organisations à différents niveaux, de l’initiative d’entités telles que l’OCDE à des propositions telles que la charte des droits numériques adoptée par le gouvernement espagnol le 14 juillet.

« L’Unesco appelle ses 193 États membres à prendre toutes les mesures nécessaires pour mettre en œuvre ce cadre éthique. L’Organisation évaluera régulièrement sa mise en œuvre, en demandant aux États de rendre compte de leurs progrès et de leurs pratiques dans ce domaine. Ces résultats seront analysés par des experts et soumis au débat public de manière transparente », a déclaré M. Azoulay, ajoutant que des groupes d’experts comprenant des représentants de Google, de Facebook, de Microsoft, de l’université de Stanford, de l’université de New York et de l’Académie chinoise des sciences et des technologies ont participé à la rédaction du document, qui a été lancé début 2020.

En septembre de l’année dernière, un premier projet a été présenté et un délai a été ouvert pour que les pays de l’Unesco soumettent leurs commentaires et observations sur le texte, qui a continué à être révisé jusqu’à la dernière conférence générale. Parmi les points clés de la recommandation récemment adoptée figure la clarification des principes de base concernant le développement de certaines des technologies les plus contestées du moment, comme les systèmes de reconnaissance faciale.

Selon le document adopté par l’Unesco, qui compte des pays comme la Chine parmi ses membres, ces systèmes « ne devraient pas être utilisés à des fins de surveillance de masse ou de responsabilisation sociale ». Dans le cas des armes autonomes, la sous-directrice générale de l’Unesco pour les sciences sociales et humaines, Gabriela Ramos, explique dans un communiqué que, bien qu’il n’y ait aucune référence explicite aux drones militaires ou aux armes autonomes létales, la recommandation établit des règles de base telles que « les décisions de vie ou de mort ne devraient pas être prises par des systèmes d’intelligence artificielle » et précise que dans ces scénarios « le dernier mot devrait être humain ».

La recommandation aborde également des scénarios moins extrêmes mais tout aussi pertinents, tels que l’effet potentiel des systèmes de recommandation utilisés par les plateformes de streaming comme Netflix ou Spotify sur la diversité culturelle et linguistique. Un récent rapport de l’UE a noté que les critères utilisés par ces modèles pour proposer de nouveaux contenus ne sont « ni transparents ni vérifiables » et sont probablement basés sur des facteurs économiques qui profitent aux plateformes.

« Les artistes locaux ou les contenus créatifs et culturels sous-représentés ont moins de chances d’apparaître dans les recommandations de ces systèmes si leurs œuvres ou leurs performances ne sont pas suffisamment lucratives », indique le rapport. Dans ce contexte, le guide récemment publié invite les pays à s’efforcer de mieux comprendre et évaluer les effets positifs et potentiellement négatifs des systèmes de recommandation.

Relations homme-robot

Dans la perspective d’un avenir hypothétique mais de plus en plus plausible où les gens interagissent avec des robots et des systèmes d’intelligence artificielle capables de reconnaître et de reproduire les émotions humaines, le document appelle à une évaluation des implications éthiques de ces relations, en particulier lorsqu’elles sont établies avec des mineurs. « L’interaction constante avec la technologie de l’intelligence artificielle, y compris les algorithmes sociaux, pourrait soumettre les enfants et les adultes à la manipulation et à des conséquences négatives pour leur santé mentale », poursuit Ramos.

En outre, elle souligne la nécessité pour les individus d’être informés à tout moment s’ils ont affaire à l’un de ces systèmes ou s’ils sont soumis à des décisions prises par ceux-ci. Elle demande également que des mécanismes soient mis en place pour accéder aux raisons qui sous-tendent une décision affectant les droits ou les libertés des utilisateurs, ainsi que des moyens de la contester ou de demander une réévaluation.

D’autres sujets inclus dans le cadre de cette recommandation sont la protection de la vie privée, la prévention des biais qui peuvent nuire aux performances de ces systèmes, la promotion d’un environnement plus inclusif dans le secteur responsable du développement de ces technologies ou encore la réduction de l’impact environnemental de ces systèmes. Selon une étude publiée dans la revue Nature, l’entraînement d’un algorithme d’intelligence artificielle peut produire près de 300 000 kilos de dioxyde de carbone, soit l’équivalent de 125 vols aller-retour entre New York et Pékin.

Par ailleurs, le document qui vient d’être adopté par l’Unesco impose aux gouvernements d’éduquer leurs citoyens sur les droits numériques qu’il vise à protéger. « Si nous éduquons une nouvelle génération de consommateurs numériques conscients de leurs droits et dotés de l’esprit critique nécessaire pour naviguer dans la sphère numérique, nous leur donnerons les moyens de demander des comptes aux grandes entreprises technologiques et nous exigerons que l’IA soit développée de manière humaine et éthique », déclare Ramos.

Flavien ROUX

Flavien ROUX est un spécialiste des opérateurs téléphoniques. Il a travaillé dans le domaine téléphonique pendant plus de vingt ans. Flavien aime partager ses connaissances à travers notre site internet.