Organisation affiliée : École nationale d’administration publique
Type de publication : Rapport
Date de publication : Mars 2021
Lien vers le document original
L’information et les données n’ont plus la même valeur depuis l’arrivée de technologies de l’information et de la communication sophistiquées. Par « données », nous entendons les éléments qui constituent des informations de base sur lesquelles peuvent s’appuyer des décisions, des raisonnements, des recherches et qui sont traités par l’humain ou la machine.
Au-delà de quelques applications servant principalement la reddition de comptes et les suivis de gestion, l’usage d’outils automatisés d’analyse de données n’en est encore qu’à ses balbutiements dans les organisations publiques. Ceci peut s’expliquer de différentes manières dont la nature des données recueillies et la difficulté que peut poser leur analyse. La reconnaissance vocale ou la reconnaissance faciale sont de bons exemples de ces difficultés même si elles s’estompent à mesure que les technologies se développent. C’est vrai aussi parce que ces approches bouleversent les manières de travailler et soulèvent aussi de nouvelles questions, dont celles liées à l’éthique ou la transparence.
Toutefois, à mesure que se développent de nouveaux outils d’apprentissage automatique et que l’intelligence artificielle prend de plus en plus d’espace, les organisations s’intéressent davantage à la richesse que représentent leurs données et souhaitent en tirer profit.
Le milieu municipal est caractérisé par la proximité entre l’administration et ses citoyens et par un univers informationnel extrêmement riche, mais encore souvent sous-exploité.
Le 3-1-1 [Au Québec] est ainsi devenu une sorte de guichet unique pour appuyer les services municipaux. Il ne s’agit pas ici de participation citoyenne, mais plutôt de requêtes liées aux services municipaux. Le CANU amasse toutefois une foule d’informations et de données sur différents sujets qui finissent par former une base de connaissances très riche et diversifiée, et dont l’utilisation pourrait dépasser la simple réponse municipale aux requêtes des citoyens.
Dans l’univers municipal, le choc numérique a produit un certain nombre de points de rupture dans les approches traditionnelles de travail. Deux de ces points de rupture touchent la relation du citoyen avec la municipalité. Le premier est l’amélioration de la prestation de services et le second est le renforcement de la participation citoyenne.
Le 3-1-1 apparaît donc comme un pivot informationnel pour la municipalité qui peut aussi lui être d’un très grand apport si l’information est analysée en profondeur. C’est ici que l’intelligence artificielle peut jouer un rôle important
Les données du 3-1-1 représentent une sorte d’entre-deux. C’est-à-dire qu’à travers les données recueillies par le 3-1-1 pour la prestation de services, il est possible d’en faire l’analyse pour améliorer indirectement la participation citoyenne. Deuxièmement et à titre d’exemple, les données du 3-1-1 pourraient permettre l’extraction de tendances ou d’indications susceptibles d’alimenter la réflexion stratégique municipale sur la base de ce que pensent et rapportent les citoyens sur divers aspects de la gestion municipale.
Le 3-1-1 donne aux citoyens la possibilité d’agir comme « capteurs de l’environnement et produire des informations et des données très riches qui peuvent être intégrées à la gestion et à la prise de décisions. »
Cette approche pourrait permettre d’améliorer la gestion interne en déterminant plus rapidement les besoins et même en les prévoyant et permettre la proactivité. Elle pourrait aussi dynamiser la participation citoyenne selon les catégories d’information amassée et la capacité de les analyser promptement et rigoureusement.
Le 3-1-1 apparaît donc comme un pivot informationnel pour la municipalité qui peut aussi lui être d’un très grand apport si l’information est analysée en profondeur. C’est ici que l’intelligence artificielle peut jouer un rôle important. Mais au-delà de sa dimension purement technologique, cette approche soulève divers enjeux de gestion et de gouvernance.
La gestion et la gouvernance en mode algorithmique : quelques défis et pistes de solution
Le 3-1-1 est un bel exemple pour comprendre le type d’enjeux auxquels sont confrontées l’intégration et l’utilisation de l’intelligence artificielle dans une organisation. En effet, il s’agit d’une utilisation qui pourrait produire des décisions qui touchent concrètement et immédiatement la vie citoyenne.
Mais aussi, le processus décisionnel interne pourrait être sensiblement affecté car cette information, une fois analysée, deviendrait une source de preuve à considérer tant au niveau administratif qu’au niveau politique.
On comprend les enjeux qui pourraient en découler. Par exemple, ces analyses pourraient alimenter de nouveaux débats en venant remettre en cause, à tort ou à raison, les expertises techniques menées par l’administration. La raison technique et la raison politique seraient ainsi davantage confrontées.
Vu les répercussions de ces usages informationnels, au moins deux conditions doivent être satisfaites pour que l’intelligence artificielle puisse fonctionner. D’une part, il faut qu’il y ait une confiance administrative, politique et citoyenne bien établie dans les algorithmes utilisés pour permettre l’usage de l’intelligence artificielle dans la production d’informations. D’autre part, il faut que le fonctionnement interne, c’est-à-dire la gestion quotidienne de l’administration, puisse intégrer de tels résultats dans ses processus d’analyse et de décision.
En effet, comme ces approches appuient ou remplacent le jugement de décideurs plusieurs enjeux éthiques s’ensuivent. En tant que technologie d’extraction et d’analyse de l’information, l’IA permet entre autres de faire des prédictions basées sur de multiples informations amassées de diverses manières. Introduire la prise de décision algorithmique soulève donc la difficile question de sa gouvernance afin d’en assurer la transparence et d’en comprendre et maîtriser les impacts.
Ces analyses pourraient alimenter de nouveaux débats en venant remettre en cause, à tort ou à raison, les expertises techniques menées par l’administration. La raison technique et la raison politique seraient ainsi davantage confrontées
Les décisions prises à partir de l’IA pourraient miner la crédibilité des municipalités si le citoyen ne comprend pas comment les analyses des données 3- 1-1 sont effectuées et sur quelles bases les autorités arrivent à privilégier tel ou tel résultat. La confiance doit donc satisfaire aux attentes politique, administrative et citoyenne.
Cet encadrement est nécessaire pour au moins trois raisons. Premièrement, les algorithmes sont complexes à comprendre et nécessitent la contribution d’experts pour les évaluer et en juger la pertinence et la justesse. Deuxièmement, la complexité entourant leur construction rend difficile la responsabilisation de tel ou tel contributeur à sa conception. Troisièmement, les retombées des décisions algorithmiques pourraient produire des distorsions quant à l’exercice de la démocratie. En effet et simplement à titre d’illustration, si l’algorithme analyse les données 3-1-1 en donnant un poids plus élevé aux données de tel ou tel quartier de la ville, la décision posera un sérieux problème démocratique de représentation.
On pourrait soutenir que ce type de régulation devrait se faire aux niveaux supérieurs de gouvernement pour assurer une homogénéité dans l’application à l’ensemble du pays ou de la province. Or, la multiplicité des contextes commanderait plutôt une décentralisation de la réglementation au niveau des juridictions infranationales qui devraient avoir le pouvoir sur les algorithmes de leurs domaines respectifs. Ce modèle aurait l’avantage d’appliquer le principe de subsidiarité et de s’assurer de la pertinence de l’encadrement par rapport aux enjeux réels.
Il faut que les processus de gestion des données, d’analyse et de prise de décisions soient ajustés pour tenir compte de cette source de preuve dans le développement des politiques publiques de la ville et dans ses délibérations pour son développement futur.
Ceci soulève plusieurs enjeux. D’abord, au niveau des citoyens, il faut que ceux-ci soient encouragés à utiliser le 3-1-1 et qu’ils comprennent le rôle stratégique de ce hub informationnel municipal. Ensuite, il est nécessaire d’avoir des politiques de gestion de l’information très rigoureuses qui permettent d’une part d’assurer la qualité du côté de l’entrée et de l’organisation des informations et, d’autre part, de garantir la mise en commun des diverses sources de preuve autour d’un dossier ou d’un thème : données expertes, données politiques et données citoyennes issues du 3-1-1. Enfin, il faut que l’analyse, le développement des politiques publiques et la décision montrent clairement que l’apport de chacune des sources a été considéré.
Conclusion
Ceci illustre bien les répercussions que peut avoir l’usage de l’intelligence artificielle sur l’administration publique, allant de son fonctionnement jusqu’à la décision publique qui affectera la vie citoyenne.
Il est donc important de mettre en place les balises nécessaires et les processus aptes à satisfaire aux conditions de réalisations de telles implantations. Il en va de la crédibilité des institutions. Ici, la représentativité des opinions, la prise en compte des opinions exprimées dans les décisions, la transparence dans le traitement algorithmique et les processus de décisions eux-mêmes doivent être pensés pour créer un écosystème décisionnel cohérent.
Les Wathinotes sont soit des résumés de publications sélectionnées par WATHI, conformes aux résumés originaux, soit des versions modifiées des résumés originaux, soit des extraits choisis par WATHI compte tenu de leur pertinence par rapport au thème du Débat. Lorsque les publications et leurs résumés ne sont disponibles qu’en français ou en anglais, WATHI se charge de la traduction des extraits choisis dans l’autre langue. Toutes les Wathinotes renvoient aux publications originales et intégrales qui ne sont pas hébergées par le site de WATHI, et sont destinées à promouvoir la lecture de ces documents, fruit du travail de recherche d’universitaires et d’experts.
The Wathinotes are either original abstracts of publications selected by WATHI, modified original summaries or publication quotes selected for their relevance for the theme of the Debate. When publications and abstracts are only available either in French or in English, the translation is done by WATHI. All the Wathinotes link to the original and integral publications that are not hosted on the WATHI website. WATHI participates to the promotion of these documents that have been written by university professors and experts.