Comment faire que le public le plus large comprenne les enjeux techniques, juridiques et politiques d’un algorithme ?  Comment faire de data.gouv.fr un outil pour la médiation numérique ? Lors des rencontres Numérique en Commun[s] à Nantes le 13 septembre, la mission Etalab organise un Forum d’état (le 4eme) pour recueillir  le point de vue des professionnels de la mediation numérique autour de ces deux questions.En 2016, la loi pour une République Numérique a introduit dans le code des relations entre le public et l’administration l’obligation pour les administrations d’informer chaque citoyen, lorsqu’une décision individuelle le concernant a été prise à son encontre à l’aide d’un algorithme.Cette même loi fixe aussi un objectif d’open data par défaut. A partir d’octobre 2017, la loi impose un principe d’ouverture des données par défaut à toutes les administrations, tous les acteurs investis d’une mission de service public et les collectivités locales de plus de 3500 habitants et 50 agents. Rares sont les données publiques qui ne sont pas concernées par cette obligation d’ouverture.Ce quatrième forum Open d’Etat se décline en deux ateliers :Atelier 1 – “Un algorithme c’est comme une recette de cuisine !” : à travers l’exemple du calcul de la taxe d’habitation nous testerons de nouvelles approches de médiation aux algorithmes. Comment faire que le public le plus large comprenne les enjeux techniques, juridiques et politiques d’un algorithme ? Comment décortiquer l’algorithme et lui donner du sens ? Atelier 2 – Faire de data.gouv.fr un outil pour la médiation numérique : comment faire pour que la plateforme data.gouv.fr s’adresse à un public plus large et appuie plus fortement la médiation numérique dans ses actions ? Comment mieux éditorialiser le portail pour rendre l’ouverture des données plus lisible par le plus grand nombre ? Quelles fonctionnalités manque-t-il pour élargir le public de l’ouverture des données ?

D’après un sondage mené par l’IFOP pour la CNIL en janvier 2017, les algorithmes sont présents dans l’esprit des Français mais de façon assez confuse. Si 83 % des personnes interrogées ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%).Leur présence est jugée massive dans la vie de tous les jours par 80% des personnes interrogées qui considèrent qu'ils sont très ou assez présent dans la vie de tous les jours. 65% jugent que cette dynamique va encore s’accentuer dans les années qui viennent : Concernant l’opinion sur les algorithmes, une courte majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables : 57% des personnes interrogées pensent que les algorithmes limitent l’étendue des choix proposés. Chez les plus jeunes, la tendance s’inverse, puisque 53% des moins de 35 et 56% des 18-24 ans mettent plutôt en avant le fait que les algorithmes proposent plus de choix.Enfin, c’est sous l’angle de la perception citoyenne que l’opinion est la plus tranchée en fonction de l’âge. Si 2/3 des personnes interrogées (64%) considèrent que les algorithmes représentent plutôt une menace en raison de l’accumulation de données personnelles sur les choix, les goûts et les comportements, les 18-24 ans inversent cette tendance nettement affirmée puisque 51% estiment au contraire que les algorithmes représentent une opportunité.L’enquête a été menée auprès d’un échantillon de 1001 personnes, représentatif de la population française âgée de 18ans et plus. Les interviews ont eu lieu par questionnaire auto-administré en ligne(CAWI-ComputerAssistedWeb Interviewing) du 9 au 11 janvier 2017.

Les algorithmes jouent un rôle croissant dans la sphère publique, qu’il s’agisse de calculer le montant d’une aide sociale, d’attribuer une place en crèche ou d’évaluer les risques de défaillance des entreprises.De nombreux travaux et rapports ont souligné la diversité des enjeux liés au déploiement de ces systèmes, susceptibles d’influencer voire d’automatiser des décisions pouvant affecter négativement les individus, comme par exemple en matière d’autonomie ou d’équité.« De la sélection de contenus informationnels à la prédiction de récidive en matière de crime, l’utilisation des systèmes algorithmiques s’inscrit dans des environnements et contextes qui conditionnent leurs impacts à l’échelle tant individuelle que sociétale.Face à cette « force d’impact » potentielle, l’appel à évaluer les effets de ces systèmes algorithmiques s’est fait de plus en plus pressant ». Cet intérêt pour les questions d’impact s’est notamment précisé dans le cadre du recours à des systèmes algorithmiques par l’administration pour la prise de décisions administratives susceptibles d’affecter les personnes, de manière individuelle ou collective.La France s’est doté d’un cadre juridique en faveur d’une plus grande transparence de ces systèmes et d’un droit à l’explication pour les individus. Les gouvernements et des acteurs de la société civile ont développé des outils d’évaluation d’impact algorithmique (EIA).« A  quoi correspondent ces évaluations, que contiennent-elles, comment sont-elles mises en oeuvre ? »Ces questions sont abordées dans une étude réalisée par Elisabeth Lehagre, à la demande d’Etalab, qui porte plusieurs actions en ce sens, au sein de la direction interministérielle du numérique (DINUM). Évaluer : quoi ? comment ? pourquoi ? L’étude présente un regard critique sur 7 outils développés dans le Monde (Royaume-Uni, Canada, Nouvelle Zélande, États-Unis et Union européenne).Le premier constat est celui de la diversité des outils examinés : il n’existe pas de modèle-type. Les évaluations d’impact algorithmique se présentent sous des formes et des contenus variés. L’AI Now Institute propose un cadre de bonnes pratiques incluant 5 recommandations d’ordre général (dont la mise en place de procédures pour la vérification et le suivi externe des impacts), Le Groupe d’experts de haut-niveau pour une IA de confiance, rassemblé par la Commission européenne, propose une liste de questions qui servent de base à l’auto-évaluation des systèmes, Le Gouvernement de la Nouvelle Zélande intègre dans sa charte des algorithmes une matrice de risques, qui permet de quantifier la probabilité d’effets négatifs sur les personnes (effet improbable, occasionnel, probable) par rapport au nombre de personnes potentiellement impactées (faible, modéré, élevé). L’outil proposé par le Gouvernement du Canada (conseil du Trésor) se distingue car il permet de calculer automatiquement le niveau de risques d’un systèmes en répondant à quelques questions. Selon le niveau d’incidence ainsi calculé, des recommandations particulières sont formulées. La plupart des outils étudiés cherchent à évaluer les impacts individuels et sociaux, voire sociétaux, des systèmes algorithmiques mis en place. Mais, là encore, c’est la diversité qui prévaut. Certains outils mettent l’accent sur les droits fondamentaux (droits et libertés des personnes, droit à la vie privée, non-discrimination). D’autres privilégient une approche par domaine d’impact: bien-être, santé, environnement par exemple. Des outils d’auto-évaluation qui doivent encore faire leurs preuves L’auteure de l’étude s’est aussi attachée à comprendre comment ces outils sont mis en œuvre, en pratique.Deux questions émergent : la compréhension de ces outils par les acteurs qui sont censé les utiliser, et les limites de l’auto-évaluation. « L’évaluation d’impact est-elle suffisamment compréhensible pour être utilisable ? » s’interroge ainsi l’auteure de l’étude. Les difficultés de compréhension peuvent être multiples : difficulté à cerner de manière précise le périmètre et l’objet de l’évaluation (« systèmes d’intelligence artificielle », « algorithmes », « systèmes de décision automatisée » ?) mais aussi les domaines d’impact (« bien-être », « droits et libertés des personnes » ?).La seconde interrogation concerne l’auto-arbitrage. En effet, la très grande majorité de ces outils ont été pensés comme des outils d’auto-évaluation interne, où les personnes réalisant l’exercice d’évaluation sont aussi celles en charge de la conception et du déploiement de ces outils. « Afin d’éviter les risques liés à l’auto-arbitrage (où les mêmes acteurs sont potentiellement juge et partie), plusieurs recommandations ont été développées, dont l’importance de rendre publique et transparente les évaluations d’impact algorithmique. La possibilité de faire participer des tiers (pairs en interne ou experts externes) à l’évaluation ou au contrôle des systèmes est une autre piste étudiée ». Sommaire de l'étude Introduction Qu’est-ce qu’une évaluation d’impact algorithmique ? Une définition générique pour une notion aux dimensions multiples Un outil d’auto-évaluation aux formes variées : du guide de bonnes pratiques  à l’outil de calcul de risque automatisé Que contient une évaluation d’impact algorithmique ? L’identification de l’objet et des effets à évaluer : sur quoi porte l’évaluation ? Les modalités d’évaluation des impacts : comment est réalisée l’évaluation ? Le cadre de l’évaluation d’impact algorithmique     algorithmique L’évaluation d’impact algorithmique est-elle « utilisable » en pratique Question de la compréhension : l’évaluation d’impact algorithmique est-elle  suffisamment compréhensible pour être utilisable ? Question de l’auto-arbitrage : l’autonomie dans l’évaluation de l’impact algorithmique nuit-elle à son utilisabilité ? Conclusion Le PEReN : un centre d’expertise au sein de l’Etat pour analyser le fonctionnement des plateformes numériques« Aujourd’hui, comprendre l’univers de la donnée est un prérequis indispensable pour analyser le fonctionnement des plateformes numériques, et mettre en place ou adapter leur régulation. »C’est dans ce contexte que le Pôle d’expertise de la régulation numérique (PEReN) a été créé, en 2020, « afin de constituer un centre d’expertise en science des données mobilisable par les services de l’Etat et les autorités administratives indépendantes le souhaitant ».Le PEReN n’est pas une instance de régulation : il  fournit un appui aux services de l’État ayant des compétences de régulation des plateformes numériques, et s’investit dans des projets de recherche en science des données à caractère exploratoire ou scientifique. LaborIA : un  centre de ressources et d’expérimentations sur l’intelligence artificielle dans le milieu professionnelD’après l’OCDE, 32% des emplois sont amenés à être profondément transformés par l’automatisation au cours des vingt prochaines années.Pour accompagner ces transformations et y préparer les entreprises et les salariés, le Ministère du Travail, de l’Emploi et de l’Insertion et l’INRIA s’associent pour créer un centre de ressources et d’expérimentations sur l’intelligence artificielle dans le milieu professionnel.Baptisé « LaborIA », ce centre de ressources permettra de mieux appréhender l’intelligence artificielle et ses effets sur le travail, l’emploi, les compétences et le dialogue social, dans l’objectif de faire évoluer les pratiques des entreprises et l’action publique.

Comment se créent les logiciels que nous utilisons chaque jour ? Qui construit les infrastructures informatiques de nos sociétés contemporaines ? De quoi le numérique est-il fait ?« Ces questions, observent Gabriel Alcaras et Antoine Larribeau, dans l’introduction à ce numéro de la revue Reset qu’ils ont coordonné, « appellent quotidiennement des réponses tantôt idéalisantes, tantôt désenchantées. Quel que soit le ton du discours, une seule chose semble sûre : l’informatique est une machinerie efficace, qui produit des effets sur le monde social. Les débats croissants sur les algorithmes, notamment concernant leur pouvoir et leur opacité, illustrent parfaitement cette logique particulière d’interprétation du monde informatique ».L’objectif de ce numéro spécial de la revue en ligne RESET (Recherches en Sciences Sociales sur Internet) est « d’encourager les sciences sociales à emprunter une porte d’entrée encore trop peu empruntée − l’informatique : à la fois la discipline scientifique et le génie industriel qui participent à la production de nos infrastructures numériques et qui ont pour ressource le code, c’est-à-dire un texte destiné à être exécuté par un ordinateur ».Prendre pour objet l’écriture des codes invite « à considérer cette activité dans toute sa matérialité, en commençant par les conditions concrètes de travail. Si l’informatique s’écrit partout, elle s’écrit différemment selon ces conditions de production. Les mondes informatiques témoignent en effet d’une vaste hétérogénéité de statuts (de la développeuse freelance à l’ingénieur salarié), de contextes (espaces militants, service technique dans une autre industrie, entreprise star de la Silicon Valley), d’échelles (des petits scripts personnels aux vastes projets des multinationales du numérique) et d’espaces (bureau traditionnel, espaces de co-working, télétravail) ».Alors que l’algorithme permet de penser en termes de dispositif, le code incite à se pencher sur l’acte concret d’écriture des programmes, « c’est-à-dire la production d’un texte qui sera interprété ou compilé par les machines, inséré dans des infrastructures matérielles et logicielles, lu et amendé par des collègues, copié-collé par des amateur·ices ou hobbyistes et ainsi de suite ».Ce numéro de la revue RESET invite ainsi à « emprunter et à faire évoluer des questions sociologiques anciennes, voire classiques, afin de les appliquer aux codes ».Enquêter sur l’écriture informatiqueCe numéro s’ouvre sur une enquête dans le monde des développeurs de la Silicon Valley, qui situe l’informatique dans ses conditions matérielles d’écriture. Olivier Alexandre y explore le quotidien et les spécificités de carrières professionnelles caractérisées par un fort degré d’incertitude. À travers des observations, des entretiens et un suivi d’activité en ligne, l’auteur présente « les multiples stratégies mobilisées par ces travailleurs pour répondre aux différentes manifestations de ces incertitudes, que ce soit dans les opérations de conception et de maintenance, dans l’orientation au sein des projets ou dans leurs trajectoires professionnelles». Loin des représentations d’un travail maîtrisé et prévisible, la carrière de développeur informatique est dépeinte « comme une course d’orientation au sein d’une pluralité de médiations et d’outils ».Savoir et ignorance dans la production logicielleTudor Ionescu consacre une étude ethnographique d’une grande richesse à une pratique courante et pourtant considérée comme mauvaise, le hardcoding. « Cette pratique consiste à spécifier un mécanisme ou une donnée de la manière la plus explicite possible dans le code lui-même, sans se donner la peine de réfléchir à une solution plus générale à un problème précis ». L’auteur suit les péripéties d’une équipe de développement qui doit prochainement faire la démonstration d’un robot intelligent sur une chaîne d’assemblage. « Or les ingénieurs n’ont ni le temps, ni les moyens de développer cette technologie. Ils ont donc recours au hardcoding et dictent de façon extrêmement précise et − littéralement − millimitrée les mouvements que la machine doit effectuer, plutôt que d’inventer une intelligence qui déciderait des mouvements par elle-même ». En plus de documenter un grand nombre de problèmes typiques de l’écriture informatique industrielle (dette technique, integration hell), cette enquête propose une réflexion passionnante sur la dualité entre code et exécution ainsi que sur la question de la performativité.Florian Jaton ouvre une fenêtre sur une séquence particulièrement ordinaire de l’écriture informatique : un épisode de débuggage. Il décortique étape par étape une scène de quelques minutes à peine afin de mieux entrer dans la profondeur − parfois vertigineuse − de chaque moment d’écriture. Il montre comment la codeuse adopte temporairement une attitude d’enquêtrice et cherche à comprendre d’où vient le problème. « Ces petits moments de production de connaissances, assez proches de la démarche scientifique, font la lumière sur ces instants anodins et éphémères de l’écriture du code ».La codification du code : du style aux standardsEn s’intéressant aux arènes de standardisation que sont le W3C et l’IETF, Julien Rossi décrit les discussions, les controverses et les formes de consensus qui s’y développent. « Dans ces espaces où « l’injonction au consensus » est omniprésente, les acteurs privilégient le régime de justification technique pour exprimer leurs désaccords et leurs critiques ». Le croisement des matériaux donne alors à voir les postures critiques et politiques des intervenants et révèle les stratégies discursives qui se déploient dans ces espaces de négociation.Pierre Depaz aborde, quant à lui, une autre sphère de la codification de l’écriture informatique : la régulation et la négociation du style. L’auteur y analyse « la tension entre la dimension subjective du style, comme une préférence personnelle dans l’utilisation d’un point-virgule à la fin d’une ligne de code, et l’émergence de normes collectives. Ces dernières visent à maintenir la cohérence du style sur l’ensemble d’un projet, même quand plusieurs personnes y participent ». Pierre Depaz explore ainsi, parmi d’autres tensions entre code et codification, la force de l’argument d’autorité technique.L’autonomie de l’écriture informatique en questionDans une enquête sur des développeurs qui travaillent sur un protocole cryptographique, Sylvain Besençon explore les enjeux autour de la sécurité du code informatique. En s’intéressant à la fois « aux moments critiques et aux instants routiniers de maintenance et de soin apportés au code», il explicite les efforts constants pour le rendre moins vulnérable.Camille Roth et Jérémie Poiroux montrent comment un certain nombre d’outils, notamment algorithmiques, équipent l’écriture du code. Autour du développement d’algorithmes de recommandation, ils montrent « que cette écriture s’appuie sur un grand nombre d’infrastructures et d’outils algorithmiques afin de réparer, d’ajuster ou de faire évoluer le code de leurs propres algorithmes ». Ils s’intéressent en particulier à la pratique de l’A/B testing. qui consiste à proposer différentes versions d’une même fonctionnalité afin de quantifier l’effet de chaque variation sur les usages d’une plateforme donnée. L’exploration de ces pratiques souligne que, contrairement à l’image d’une ingénierie logicielle complètement rationalisée et planifiée, « nombre de développeurs bricolent. Ils ne cherchent pas vraiment à ouvrir les boites noires algorithmiques qu’ils déploient ; la plupart se contentent de multiplier les tests afin de retenir les variations qui semblent donner le meilleur résultat».SommaireGabriel Alcaras et Antoine Larribeau : Codes. L’informatique comme elle s’écritOlivier Alexandre : Le code va changer : Les développeurs de la Silicon Valley face aux incertitudes de la programmationTudor B. Ionescu: The Specification of Ignorance in Robot SoftwareFlorian Jaton : Éléments pour une sociologie de l’activité de programmationJulien Rossi : Écrire le code du code. Enquête sur les controverses techno-politiques au W3CPierre Depaz : Discursive Strategies in Style Guides Negotiation on GitHubSylvain Besençon : (Dé)coder la sécurité de l’information entre maintenance et innovation : le cas d’OpenPGPCamille Roth et Jérémie Poiroux : L’écriture guidée du code. Le cas des algorithmes de recommandation

Le dernier numéro thématique de la revue Tic & société porte sur l’analyse du phénomène des données massives en tant que dispositif algorithmique de collecte et d’accumulation de celles-ci, permettant leur traitement par des mécanismes d’intelligence artificielle. Plus spécifiquement, ce numéro entend interroger les conséquences de ces dispositifs d’automatisation de la production, de la circulation et de la consommation des données sur les modalités de reproduction de la sociétéMaxime Ouellet, coordinateur de ce numéro, s’attache à « poser les bases conceptuelles de l’élaboration d’une théorie critique de la gouvernance algorithmique en montrant comment les développements contemporains de l’intelligence artificielle participent à une disqualification de la lettre au profit du nombre, c’est-à-dire à la substitution de la langue par le code (informatique). Sur le plan sociopolitique, cette mutation conduit à la mise en place d’une nouvelle forme de régulation de la pratique sociale, la gouvernance algorithmique, qui repose sur un processus d’automatisation de la production de connaissances ».  Baptiste Rappin remonte aux sources épistémologiques de cette mutation, qui a été qualifiée de « gouvernementalité algorithmique » ou encore de « société automatique ».« Dans un monde univoque gouverné par la logique du calcul algorithmique, dans lequel la déduction se substitue à la symbolisation, les individus sont sommés de s’adapter en temps réel aux conditions de leur milieu, ils sont contraints d’interagir directement avec autrui, sur le mode de l’ajustement mutuel, évoluant ainsi dans un plan horizontal d’immanence au sein duquel logique algorithmique et logique contractuelle se renforcent l’une l’autre ».Samuel Cossette montre comment ce processus d’automatisation du langage affecte les modalités générales de reproduction sociétale. L’analyse porte plus spécifiquement sur les récents développements dans le domaine de l’argumentation mining, un champ de recherche à la rencontre du Big Data et de la linguistique computationnelle. « Si l’argumentation mining participe d’une logique post-politique propre à la gouvernementalité algorithmique, il n’en demeure pas moins que le langage humain dépasse encore aujourd’hui grandement ce qu’il est possible de traiter de façon informatique. L’auteur conclut en ce sens que c’est dans la dimension symbolique et affective particulière au langage humain qu’on peut trouver les ressources pour résister à la raison algorithmique».David Myles et Martin Blais  ont entrepris d’analyser des guides-conseils développés autour de l’application de rencontres amoureuses Tinder. Les auteurs montrent que ces guides invoquent généralement l’opacité des algorithmes de Tinder pour inciter leurs utilisateurs à «hacker» l’application. «La notion de « hack » ne renvoie pas ici à la capacité des utilisateurs à manipuler le système informatique, mais plutôt à « l’importance pour les usagers de moduler leurs comportements afin de les rendre plus algorithmiquement intelligibles, et ce, notamment en fonction de leur genre ». Les algorithmes de Tinder, concluent les auteurs, participent à la reproduction d’une économie spéculative des rencontres amoureuses».Arnaud Claes et ses coauteurs approfondissent la critique de l’hyperpersonnalisation des contenus médiatiques en l’opérationnalisant dans deux cas d’étude, l’un portant sur l’appropriation des systèmes de recommandation par les jeunes dans le cadre de leur consommation médiatique, l’autre portant sur la modélisation de dispositifs algorithmiques alternatifs qui permettraient d’accroître la diversité des contenus:  « le phénomène des bulles de filtre constitue une forme d’aliénation dans le sens où la définit Simondon,  c’est-à-dire comme une absence de culture technique. Pour contrer ce phénomène, ils plaident en faveur d’une « acculturation technique » qui permettrait de s’émanciper de cette aliénation induite par les algorithmes».Frédérick Bruneault et Andréane Sabourin Laflamme passent en revue les principales théories éthiques qui cherchent à encadrer d’un point de vue normatif les développements contemporains de l’intelligence artificielle. Ils pointent une polarisation entre deux positions,  substantialiste et déflationniste. « Si la position substantialiste repose sur une conception déterministe selon laquelle la technique se développerait de manière autonome, engendrant ainsi la crainte d’une potentielle destruction de l’humanité, la perspective déflationniste repose quant à elle sur une vision instrumentale qui tire son fondement philosophique de la tradition libérale pour qui l’individu est un acteur rationnel  (...) Ces  perspectives reposant sur des conceptions acritiques de la technique qui ignorent les rapports de pouvoir impliqués dans le développement du numérique et de la gouvernance algorithmique», les auteurs privilégient une troisième perspective, informationaliste,  développée par le philosophe Luciano Floridi.Sommaire Maxime Ouellet : Logique algorithmique et reproduction sociétale: les médiations sociales saisies par les algorithmes Maxime Ouellet : Pour une théorie critique de la gouvernance algorithmique et de l’intelligence artificielle Baptiste Rappin : D’univocité en rétroaction : la critique de la cybernétique dans la pensée de Heidegger Samuel Cossette : Langage, post-politique et automatisation : critique préventive de l’argumentation artificielle [Texte intégral] David Myles et Martin Blais : Dix petits hacks Tinder : les algorithmes au service d’une économie spéculative des rencontres amoureuses et sexuelles Arnaud Claes, Victor Wiard, Heidi Mercenier, Thibault Philippette, Marie Dufrasne, Arnaud Browet et Raphaël Jungers : Algorithmes de recommandation et culture technique : penser le dialogue entre éducation et design Frédérick Bruneault et Andréane Sabourin Laflamme : Éthique de l’intelligence artificielle et ubiquité sociale des technologies de l’information et de la communication : comment penser les enjeux éthiques de l’IA dans nos sociétés de l’information ?