25 janvier 2019 – La Commission d’accès à l’information a signé la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (IA). En proposant des valeurs et des principes devant guider le développement de l’IA et son utilisation, cette Déclaration élabore un cadre éthique visant à orienter le développement et le déploiement de l’IA vers des finalités moralement et socialement désirables, mais aussi respectant les droits des individus.
Elle résulte d’un important travail de co-construction auquel a participé la Commission et qui a impliqué une diversité de participants : citoyens, experts, responsables publics, parties prenantes de l’industrie, organisations de la société civile et ordres professionnels.
En signant la Déclaration, la Commission signifie son engagement envers un développement de l’IA au service du bien-être de tous et de chacun et son accord avec les principes éthiques qui y sont décrits.
La protection des renseignements personnels et le respect de la vie privée : un principe au cœur de la Déclaration de Montréal
La Déclaration comporte dix principes, dont l’un est le principe de protection de l’intimité et de la vie privée. Ce principe prévoit notamment :
- Des espaces d’intimité dans lesquels les personnes ne sont pas soumises à une surveillance ou à une évaluation numérique, qui doivent être protégés de l’intrusion de systèmes d’IA ou de systèmes d’acquisition et d’archivage des données personnelles (SAAD).
- Les personnes doivent avoir un contrôle étendu sur les informations relatives à leurs préférences. Les systèmes d’IA ne doivent pas construire de profils de préférences individuelles pour influencer le comportement des personnes concernées sans leur consentement libre et éclairé.
- Les SAAD doivent garantir la confidentialité des données et l’anonymisation des profils personnels.
- Toute personne doit pouvoir garder un contrôle étendu sur ses données personnelles, en particulier par rapport à leur collecte, leur usage et leur dissémination. L’utilisation par des particuliers de systèmes d’IA et de services numériques ne peut être conditionnée à l’abandon de la propriété de ses données personnelles.
D’autres principes tout aussi pertinents
D’autres principes de la Déclaration abordent des sujets tout aussi pertinents concernant la protection des renseignements personnels ou la transparence de l’État.
Par exemple, le principe de prudence rappelle l’importance d’assurer la fiabilité, la sécurité et l’intégrité des systèmes d’IA. Il prévoit également que le développement de ces systèmes doit prévenir les risques d’une utilisation néfaste des données d’utilisateurs et protéger l’intégrité et la confidentialité des données personnelles. Les erreurs et les failles découvertes dans les différents systèmes devraient être partagées publiquement par les institutions publiques et les entreprises dans les secteurs qui présentent un danger important pour l’intégrité personnelle et l’organisation sociale, et ce, à l’échelle mondiale.
Les principes d’équité et d’inclusion visent notamment à éviter la discrimination ou les biais susceptibles de résulter de certains systèmes d’IA. On y prévoit qu’il faut éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales.
Pour sa part, le principe de participation démocratique prévoit la transparence des algorithmes lorsqu’ils conduisent à la prise de décisions au sujet des individus :
- Les décisions des systèmes d’IA affectant la vie, la qualité de la vie ou la réputation des personnes, devraient toujours être justifiables dans un langage compréhensible aux personnes qui les utilisent ou qui subissent les conséquences de leur utilisation. La justification consiste à exposer les facteurs et les paramètres les plus importants de la décision et doit être semblable aux justifications qu’on exigerait d’un être humain prenant le même type de décision.
- En vertu de l’exigence de transparence des décisions publiques, le code des algorithmes de décision utilisé par les pouvoirs publics doit être accessible à tous, à l’exception des algorithmes qui peuvent présenter un danger sérieux en cas d’usage détourné. d’usage détourné, un danger sérieux avec une probabilité élevée.
- Tout utilisateur d’un service devrait savoir si une décision le concernant ou l’affectant a été prise par un système d’IA.
Sur la question des décisions prises au sujet des individus, le principe de responsabilité prévoit que si elle affecte la vie, la qualité de la vie ou la réputation d’une personne, une décision finale devrait revenir à un être humain et non à un système d’IA.
À qui s’adresse la Déclaration?
La Déclaration de Montréal concerne toute personne, toute organisation et toute compagnie désireuses de participer au développement de l’IA de manière responsable, que ce soit pour y contribuer scéniquement et technologiquement, pour développer des projets sociaux, pour élaborer des règles qui s’y appliquent, pour pouvoir en contester les orientations mauvaises ou imprudentes, ou encore pour être en mesure de lancer des alertes à l’opinion public quand cela est nécessaire.
Elle s’adresse également aux responsables politiques, élus ou nommés, dont les citoyens attendent qu’ils prennent la mesure des changements sociaux en gestation, qu’ils mettent en place rapidement les cadres permettant la transition numérique pour le bien de tous, et qu’ils anticipent les risques sérieux que présente le développement de l’IA.