Le dispositif d’enquête Vision / NoisIA cherche à dessiner les contours de ce que pourraient être les transformations conduites ou induites par la mise en oeuvre de l’IA dans une organisation.
En mettant en scène différents moments du quotidien des agents de la métropole dans lesquels l’IA pourrait venir s’immiscer, les visiteurs sont invités à y réagir en choisissant le niveau de recours à l’IA leur paraissant le plus approprié (incluant la conservation du statu-quo), tout en prenant en compte le potentiel impact sur le contexte métier. La collecte des ces choix individuels finira par permettre la cartographie des formes "d’IAisation" de l’action publique paraissant souhaitables et souveraines au sein d’une organisation publique.
Cadre et enjeux
Contexte, problématiques et enjeux
Dans l’action publique, certaines missions des agents pourraient être partiellement assistées, impactées ou pour certaines totalement automatisées (et donc remplacées) par les transformations induites par le recours à l’IA.
Aujourd’hui l’utilisation des IA demeure souvent expérimentale sinon spontanée, avant d’être encadrée ou accompagnée par les organisations. Ces changements devront dans un futur proche faire l’objet d’une culture et d’une capacité d’action anticipatrice commune.
Puisque c’est les agents de la métropole dont les activités seront impactées par de potentielles implémentations futures, c’est à eux de donner leur avis sur ces sujets, en tant qu’experts de leur métier et non en tant qu’experts de l’IA.
Pour ce faire la confrontation à des futurs inspirants, non prédictifs et non prescriptifs [1] doit permettre l’appréhension du niveau de pertinence (objectif) et désirabilité (subjective) d’une implémentation de l’IA au sein de ces métiers.
Vision / NoisIA est un dispositif permettant à chacun de s’engager dans un débat porté par ses idées, autour d’un médiateur et d’une trame d’échange permettant d’hybrider les réalités et de s’éloigner des "simplifications" et stéréotypes clivantes autour du sujet, inspirées de la science fiction (nb : thématique du workshop). Ce dispositif permet ainsi d’entamer un questionnement actuel, tout en effectuant une collecte de données (quantitative via le dispositif, qualitative via le médiateur ou une IA qui peut prendre des notes des avis et des suggestions) recentrées sur les questions présentes de besoins de changement, bien au-delà du contexte IA.
Bénéficiaires, utilisateurs, usagers
Ce dispositif est à destination de la Métropole de Lyon, il est conçu comme un outil d’intelligence collective, bénéficiant à la fois aux agents car il leur permet d’orienter les futures décisions technologiques relatives à leurs missions, et aux décideurs qui pourront ainsi baser leurs choix sur des contributions à la fois quantitatives et qualitatives.
Ancrage thématique / liens éventuel aux défis
Le but de l’expérience est de ne pas tomber dans un biais dystopique ou utopique autour de l’IA. En effet, certains imaginent l’IA comme une menace qui va les remplacer, tandis que d’autres les voient comme une solution magique à tous les problèmes. En lançant un débat collectif et constructif, on contribue à créer un point de vue nuancé relatif à cette question complexe, qui contrairement à des avis trop tranchés permettra de faire évoluer les choses dans le bon sens. Il est aussi question de précision : l’IA peut s’avérer très pertinente pour certaines tâches, avec un rapport bénéfice/risque positif évident, et pas du tout pour d’autres. Cette démarche peut donc aussi possiblement permettre d’identifier de fausses bonnes idées ; par exemple par des agents ayant une connaissance fine de processus (techniques ou serviciels) et donc en capacité d’identifier les inconvénients ou risques de l’automatisation intégrale de certaines tâches.
Projet et réponse proposée
Nous avons travaillé sur une expérience collective qui prendrait place à la Métropole de Lyon, en parallèle d’une enquête en ligne. La majorité de l’expérience est donc transférable en site web, dans lequel la médiation sera remplacée par des textes et des illustrations, et qui servira de collecte à la fois données quantitatives (de par le nombre de répondants et via les réponses aux questions générales) et qualitatives (via les réponses propres aux expertises spécifiques des différentes directions métiers, pouvant permettre une factorisation ou une pondération positive de la valeur des contributions ciblées).
Déroulé de l’expérience
Quatre agents et un(e) médiateur/rice, autour d’une table tactile (dans l’idéal plutôt un vidéoprojecteur sur une table et capteur type Kinect.)
Vue projetée d’une carte de la Métropole de Lyon avec quatre POI (points d’intérêt) correspondants aux quatre scénarios. De petits objets imprimés en 3D permettant l’interaction et le contrôle du dispositif sont sur les bords de la table.
Le médiateur sélectionne un des POI, cela active le premier scénario, la carte zoom sur le POI. Il annonce succinctement les différentes situations qui vont être présentées. Le scénario est illustré par une illustration générée par IA.
Le médiateur explique l’impact des différents niveaux d’intensité pour la situation concernée.
Chaque participant fait tourner l’objet pour choisir une intensité désirable d’IA entre 0% et 100%, et il explique son choix aux autres.
La micro-zone sur laquelle est posé l’objet change visuellement, en fonction de l’intensité de l’AI.
Au fur et à mesure des votes, un pourcentage moyen évolue et l’ensemble de l’illustration s’adapte à la note moyenne.
En fonction du temps disponible, le médiateur propose des discussions autour du sujet.
Selon les points d’intérêts des participants, le médiateur oriente la suite de l’expérience en choisissant les scénarios les plus pertinents.
À la fin de l’ensemble de l’expérience, le médiateur partage la synthèse globale de l’enquête.
Les participants sont invités à scanner un QR code pour participer si ils le veulent à l’enquête en ligne qui, bien qu’elle n’invite pas au débat, permet à tous d’explorer toutes les situations proposées à leurs rythmes, et est particulièrement utile pour la collecte de données globale.
Scénarios de projection
Trois scénarios ont été travaillés :
Ils peuvent être explorés en détail via les liens ci dessus, l’application Web sera quand à elle bientôt publiée.
Comment ca marche ?
Le dispositif prend place dans un espace ouvert dans un diamètre de 4m environ. La médiation et l’interaction se fait sur une table tactile et en complément un vidéo-projecteur projette l’animation de la table en direct sur un mur adjacent pour une plus grande visibilité. L’expérience nécessite un médiateur qui après avoir introduit le contexte du dispositif, invite quatre visiteurs à participer à l’expérience autour de la table. Une fois entré dans une situation particulière (ex : faire face à la canicule dans le scénario “gestion de crise”), le médiateur présente et balaye les trois différents niveaux d’IA et leurs implications. Il invite ensuite les quatre visiteurs, à tour de rôle, de faire leur vote en faisant une rotation de l’objet de contrôle, en définissant ainsi un pourcentage. Le visuel s’adapte selon la moyenne des quatre votes et le médiateur invite les participants à regarder la vidéo de la situation correspondante (sur l’ordinateur en arrière plan).
Matériel : Table tactile existante (ERASME), vidéo-projecteur et support d’affichage, écran d’ordinateur, objets imprimés en 3D avec une partie cuivrée.
Indicateurs du “changement” / qu’est ce qu’on mesure comme transformation ?
Avant de participer à l’expérience, les agents de la métropole :
- soit n’ont jamais réfléchi aux questions autour de l’IA dans leur métier
- soit ont un avis basé sur des recherches autour du sujet
- soit ont un avis basé sur des clichés et des craintes non justifiés
L’objectif du dispositif est qu’a la fin de l’expérience, ils aient profité du débat collectif, et que chacun de ces profils aient évolué vers un avis plus documenté et ancré dans le réel.
Cette transformation est d’ailleurs mise en lumière dans l’évolution dans les votes des participants, qui peuvent changer en fonction des arguments des autres personnes autour de la table.
Enquête en parallèle
Retour des utilisateurs sur le dispositif
Voici un résumé des commentaires recueillis auprès d’une dizaine de personnes interrogées :
En ce qui concerne l’aspect visuel, les utilisateurs ont apprécié sa capacité à favoriser la projection et l’imagination, le considérant comme un soutien visuel.
Certains auraient souhaité une mise en avant plus prononcée des aspects dystopiques de l’IA, tandis que d’autres estiment qu’il est peu pertinent que leur vote en tant que citoyen ait un impact aussi important que celui d’un agent. Ils suggèrent une distinction entre le rôle du citoyen et celui de l’agent. NB : ce dispositif a bien été conçu pour les agents et non les citoyens, et une pondération (avec des coefficients) est prévue pour valoriser leurs expertises propres en fonction des situations.
Les utilisateurs ont particulièrement apprécié le choix du niveau d’IA en pourcentage fin : un choix catégorique en trois niveaux comme nous l’avons envisagé laisserait beaucoup moins de liberté et ne serait pas représentatif de l’opinion de l’usager.
Suivant la qualité du discours du médiateur, les gens ne comprennent pas systématiquement les changements de scénarios : ils pensent avoir à voter pour une autre situation dans le même scénario. Il serait judicieux de rappeler l’énoncé du scénario et de la situation par un titre qui accompagne le visuel, et insister sur les transitions dans le discours du médiateur.
Les visiteurs n’éprouvent pas de difficultés à donner leur opinion et à justifier leur choix. Le dispositif encourage le débat et se prête bien à la discussion en médiateur/visiteur. Par ailleurs le dispositif se prête moins au format de la restitution (sur des sessions de 10min), il a en effet été pensé pour intervenir au sein des locaux de la métropole, sur un temps d’échange plus long.
Certains usagers reprochent un manque de précision sur les scénarios. Il s’agirait alors de mieux introduire le contexte du scénario avant de rentrer dans des situations précises.
Concernant l’interaction au moment du vote : certains y trouvent un ”côté assez magique”, d’autres reprochent le manque de précision, des bugs, voire pour certaines personnes un dysfonctionnement complet. Certains utilisateurs auraient apprécié une interaction différente entre l’humain et la machine.
Documentation technique et sources
https://www.notion.so/Documentation-technique-et-sources-c21c3e40223648909ab86b54b5fb5a0d?pvs=21
Equipes
Porteurs / Partenaires
Estelle Hary — Design friction
William Oechsner — Coninck
Equipe
Pierre-Elie Coursac — Chargé de mission MDL
Arthur Panckoucke — Consultant interne en organisation MDL
Lucie Fernandes — Étudiante en DSAA Design interactif
Nathan Parent — Étudiant en DSAA Design produit
Stella Poignet — Étudiante en DSAA Design interactif
Suivi et liens
Mahé Chemelle
Sandrine Chatagnon
Jean-Baptiste Joatton
Personnes ressources
Soriana IM - Maquette
Patrick Vincent — Erasme
Christophe Monnet — Erasme
Anthony Couret — Freelance developper
