Les Gouvernements et entreprises ont de plus en plus recours à l’intelligence artificielle (IA), que cela soit pour permettre l'accès à des applications ou à des lieux par authentification biométrique ou pour réaliser des diagnostics médicaux automatisés.
Face à cette situation, la Commission nationale consultative des droits de l’homme (CNCDH) a rendu le 7 avril 2022, un avis sur l’impact de l’intelligence artificielle concernant les droits fondamentaux.
La nécessité d'un cadre juridique
Comme la CNCDH, de nombreuses instances internationales ont alerté sur l'impact de l'IA par rapport aux droits fondamentaux, notamment sur le respect de la dignité humaine, le respect de la vie privée et la protection des données, l'égalité et la non-discrimination, l'accès à la justice et l'accès aux droits sociaux.Actuellement, il n'existe pas de cadre juridique, tant à l'échelon national qu'international, pour prévenir ces risques.
En avril 2021, la Commission européenne a présenté une proposition de règlement établissant des règles harmonisées en matière d’intelligence artificielle. Cette proposition doit encore être adoptée par le Parlement européen et le Conseil européen. Des travaux sont également menés au sein du Conseil de l'Europe.
La CNCDH émet une vingtaine de recommandations pour la mise en place d'un cadre juridique contraignant, qui soit en mesure de garantir le respect des droits fondamentaux.
Tracer des lignes rouges aux usages de l’IA
« Certains usages de l’IA portent une atteinte trop grave aux droits fondamentaux pour être admis. Il revient aux pouvoirs publics d’en prohiber la mise en place ».L'avis de la CNCDH rejoint la proposition récente de règlement de l'UE relative à l’IA, qui dresse une liste des utilisations « interdites en raison de leur caractère contraire aux valeurs de l’Union ».
La proposition de règlement de l’UE sur l’IA prévoit d’interdire :
- les systèmes reposant sur des composants subliminaux que les personnes ne peuvent pas percevoir, ou exploitant les fragilités des enfants et des personnes vulnérables en raison de leur âge ou de leurs handicaps physiques ou mentaux, et qui, en altérant leur comportement, peuvent leur causer un préjudice, physique ou psychologique ;
- les systèmes d’IA permettant la notation sociale des personnes physiques, en fonction de leur comportement ou de leurs caractéristiques personnelles, par les autorités publiques ou pour le compte de celles-ci, à des fins de traitement préjudiciable ou défavorable de certaines personnes physiques ou de groupes de personnes ;
- l’identification biométrique à distance « en temps réel », à des fins répressives, de personnes physiques dans des espaces accessibles au public.
Interdire certains usages
Dans son avis, la CNCDH précise et complète la liste des interdictions posées par la proposition de règlement européen.La CNCDH recommande « l’interdiction de :
- La mise en place de tout type de notation sociale par les administrations ou les entreprises publiques ou privées ;
- L’identification biométrique à distance des personnes dans l’espace public et les lieux accessibles au public ;
- L’utilisation de technologies de reconnaissance des émotions.
Encadrer les usages
« De la conception à l’usage final des systèmes d’IA, l’impact sur les droits fondamentaux doit être régulièrement évalué.Les utilisateurs publics ou privés doivent conduire des études d’impact qui incluent une prise en compte des droits humains, et qui permette d’identifier les risques d’atteinte à ces derniers – en particulier les effets discriminatoires – ainsi que les mesures d’atténuation mises en place au regard des risques encourus.Ces études devraient être complétées par une consultation des parties prenantes, incluant les personnes visées par le système d’IA. »Garantir une intervention humaine
« Pour que l’IA demeure sous le contrôle de l’Homme, la CNCDH appelle à réintroduire l’humain dans le processus de décision automatisée : contrôle du résultat par l’utilisateur et droit au paramétrage de l’algorithme. »Informer et former
« Toute personne concernée par un système d’IA, que l’utilisateur soit public ou privé, doit être informée de l’intervention de l’IA dans la prise de décision la concernant et, de manière intelligible, des modalités de fonctionnement de l’algorithme.Les systèmes d’IA touchant l’ensemble de la population, la CNCDH considère qu’il est fondamental de développer des outils d’information et de formation accessibles à toutes et tous, et d’inclure les enjeux techniques, politiques et sociétaux de l’IA dans les programmes d’éducation à la citoyenneté. »Références :
