Intelligence Artificielle & Politique : trouver l'équilibre entre éthique et innovation

Pour sa troisième session des Mercredis de l’IA, l’association IMT Atlantic Alumni a décidé de s’intéresser aux enjeux et applications de l’IA en politique. Pour brosser ce vaste sujet dans toute sa complexité, les organisateurs ont invité des personnalités aux profils complémentaires autour de Stéphane Berzin, animateur du débat.

Christine Hennion, députée des Hauts-de-Seine, membre de la commission des affaires économiques et des affaires européennes, et Lucien Castex, expert du droit et des politiques du numérique, représentant pour les affaires publiques de l’Afnic et chercheur à l’Université Sorbonne Nouvelle, ont partagé leurs points de vue principalement sur les questions éthiques qu’impliquent les relations entre l’IA et la politique.

Afin de donner des exemples concrets d’outils d’aide à la décision, destinés aux décideurs politiques, l’IMT Atlantique Alumni a fait appel à Antoine Bacalu, fondateur de la startup Datapolitics, et deux membres de l’équipe OpenStudio, Jean-Luc Marini et Renaud Aioutz-Lefebvre qui ont présenté l’Atlas des Synergies Productives, outil développé au sein de notre Lab IA.

Les applications de l’IA en politique

Comme le rappelle Christine Hennion au début de la conférence, l’IA peut avoir une réelle utilité dans les administrations au bénéfice de l’intérêt général. De l’orientation des bacheliers sur la plateforme Parcoursup, à la recherche de fraude, en passant par son utilité dans les domaines de la santé ou de l’environnement, etc, les applications possibles de l’IA dans les politiques publiques sont très vastes.

L’IA pourrait même devenir une passerelle entre le « service public » et les entreprises privées du numérique qui développent des outils intelligents pour le bien commun.

En quoi l’open data et l’IA peuvent aider à éclairer des diagnostics et des choix de politiques publiques territoriales ?

Ce questionnement a guidé le développement de l’Atlas des Synergies Productives, une solution conçue par OpenStudio en partenariat avec l’Université Clermont-Auvergne, et présentée par Renaud Aioutz-Lefebvre et Jean-Luc Marini lors de ce webinar. Le directeur de notre agence parisienne a rappelé en premier lieu la génèse de la conception de cet outil : « le point de départ de l’Atlas des Synergies a été la prise de conscience de la fragilité du système productif français, à l’occasion de la crise de la Covid 19 en mars 2020. » En effet, le premier confinement a paralysé l’import/export mondial et a provoqué de fait, des pénuries et des ruptures d’approvisionnement. À l’inverse, ce choc a également montré la résilience de certaines entreprises capables d’être assez agiles pour modifier leur outils productifs et s’adapter rapidement aux nouveaux besoins (gel hydroalcoolique, blouse, etc). « En tant qu’informaticiens, nous nous sommes donc demandés comment des algorithmes couplés à des jeux de données pouvaient révéler un éclairage nouveau sur le système industriel de nos territoires. Comment reconstruire un système productif plus résilient en essayant de comprendre pourquoi certaines entreprises ont pu rapidement faire des sauts productifs et répondre aux besoins du moment. « , explique Renaud Aioutz-Lefebvre. Le concept de l’outil est donc de modéliser ces interrogations afin d’aider les développeurs économiques dans leurs décisions pour mieux sécuriser les systèmes productifs locaux.

Préserver notre savoir-faire industriel, mieux distribuer la production sur le territoire, développer l’économie circulaire, l’emploi,… l’Atlas des Synergies Productives s’intéresse à ces grands enjeux politico-économiques.

Les fondements techniques de l’Atlas des Synergies Productives

Les travaux menés par Ricardo Haussman au sein du Growth Lab d’Harvard ont servi de base pour modéliser les tissus productifs à travers des notions de complexité économique et d’avantage compétitif. Cependant la vue d’Harvard était à l’échelle des pays (import/export) et l’enjeu était d’appliquer ces mêmes modèles à des localités, notamment les territoires d’industrie qui sont au nombre de 148 en France (déclinaison possible au niveau des régions).

« La territorialisation des données était donc un vrai enjeu pour décliner le modèle d’Harvard à l’échelle de ces territoires avec les jeux de données à notre disposition. «  .

Renaud Aioutz-Lefebvre, Directeur de l’Agence OpenStudio de Paris

La deuxième phase de travail a ensuite été de modéliser l’espace productif à partir de technologies d’IA, puis de proposer dans un troisième temps, un moteur de recommandation hybride (toujours basé sur l’IA) qui permet de trouver des proximités, des opportunités, ou de détecter des fragilités dans le tissus économiques d’un territoire donné.

Jean-Luc Marini, directeur de notre Lab IA, a pris le relais de la présentation pour expliciter le travail technique réalisé sur ce projet : « Pour construire cet espace vectoriel productif qui permet de vérifier les proximités et les parentés productives, et d’effectuer des recommandations en matière de synergies et de sauts productifs, on a choisi de s’appuyer sur différents types de données. Tout d’abord des données issus de l’observatoire de la complexité économique de l’université d’Harvard, des données Prodcom qui sont liés à la production de produits manufacturés d’Eurostat, des données ouvertes de l’INSEE, de Pôle emploi, mais nous espérons aussi pouvoir tirer parti de l’open data régional, ou des données foncières aux services des territoires« . Toutes ces données ont permis de produire un prototype aux résultats très pertinents, même si l’objectif à terme, est de collecter plus de données européennes (microéconomiques) pour éviter par la suite de recourir aux données d’Harvard, à la fois en raison de son approche macroéconomique mais également par souci de moindre dépendances.

La conception de l’Atlas des Synergies Productives a demandé l’alliance de nombreuses techniques : natural language processing (traitement automatique du langage), outils de data visualisation pour représenter ces espaces vectoriels productifs, et surtout un moteur de recommandation hybride qui permet, entre autres, de suggérer des sauts productifs, etc.

« Toutes ces techniques sont basées sur l’IA, sans laquelle il serait impossible de traiter ces données. Dans la cas de l’Atlas des Synergies Productives, l’IA est vraiment au service de la résilience industrielle. » 

Jean-Luc Marini, directeur du Lab IA et de l’Agence OpenStudio de Lyon

Comment l’IA peut-elle enrichir et donner de la clarté aux débats politiques ?

Si l’Atlas des Synergies Productives est un outil destiné spécifiquement au pilotage de politiques économiques et industrielles à l’échelle des territoires, le projet de la startup Datapolitics parcourt un tout autre terrain : le débat politique.

Fondée par Antoine Bacalu, Datapolitics est une plateforme de data science qui permet d’agréger et analyser des données, afin de clarifier l’information et ainsi augmenter la qualité du débat politique sur des grands thèmes de société. « Il y a tellement d’informations, de données sur tous ces sujets que les débats sont noyés, explique Antoine Bacalu lors de son intervention, le but de cette plateforme est donc de donner une vue claire et synthétique de ces sujets pour aider les politiques à prendre des décisions et à suivre leur impact dans la vraie vie. » 

Cette plateforme s’adresse à la fois aux politiques (comme aide à la décision) mais aussi aux médias, pour les aider à décrypter les débats et créer du contenu pertinent.

Cette solution, toujours en développement, permettrait d’agir sur trois niveaux :

• La visualisation en un coup d’œil d’une description d’un phénomène de société. 
• Un système prédictif pour établir un scénario possible en cas de non-action politique sur un sujet.
• Un système de recommandation d’actions. Ce dernier point est encore à l’étude.

Un système prédictif en politique est-il pertinent dans une société en perpétuel mouvement ?

Lors de la rencontre, Christine Hennion a questionné la solution de Datapolitics : « Dans la période de rupture dans laquelle nous évoluons actuellement, peut-on réellement se fier à une IA pour prédire l’avenir ? L’IA se basant sur des données du passé, est-ce qu’il est possible de réellement prévoir des scénarios sur des grands sujets de société ? « . Pour répondre à la remarque formulée par la députée des Haute-Seine, Antoine Bacalu a précisé qu’ « il y avait évidemment un certain nombre de précautions à prendre », mais que ces scénarios avait surtout pour objectif d’apporter une vision claire sur des problèmes complexes. Datapolitics n’a pas vocation à prendre des décisions, mais d’être une aide la décision.  Le but est d’apporter de l’information contextualisée, « il s’agit de sortir le nez des données, d’expliquer pourquoi il va arriver tel ou tel événement si rien est fait dès maintenant. », nuance Antoine Bacalu.

Ce questionnement autour des enjeux éthiques liés à l’usage de l’IA en politique, et dans la société au sens large, est évidemment le sujet qui a soulevé le plus de réflexions lors de cette conférence des Mercredis de l’IA.

Les enjeux éthiques et démocratiques liés à l’usage de l’IA

Qu’il s’agissent des applications de l’IA pour un usage politique direct ou de son entrée dans nos vies quotidiennes, l’IA est une technologie a manié en responsabilité. Toutefois, il faut savoir ou placer le curseur de l’éthique pour ne pas cloisonner totalement l’innovation.

Est-ce un danger pour la démocratie de se baser sur l’IA pour prendre des décisions d’ordre politique?

L’humain au cœur de la décision politique

Cette question pourrait largement être l’objet à elle seule de toute une conférence, elle pose un débat philosophique sur la place de l’IA par rapport à l’humain, et de la définition de son libre-arbitre. Peut-on conférer un quelconque « pouvoir de gouvernance » à un algorithme ? Doit-on se fier à une décision basée sur les prédictions d’une IA qui ne pourra ni expliquer le raisonnement qui l’a mené à ce résultat, ni l’argumenter ? Pour Lucien Castex, il est en effet difficile d’ « accepter une décision prise par une machine, lorsqu’il n’est pas possible de la contester ». L’IA permet de construire des scénarios au plus proche du monde réel, et d’en tirer des suggestions, des prédictions, afin d’anticiper les futurs possibles. Toutefois, il faut rester vigilant selon Lucien Castex, et ne pas laisser un algorithme prédictif influencer ce qu’il va se passer et finalement biaiser l’avenir. Il est important de toujours remettre à sa place l’IA qui doit rester un outil, une aide efficace, mais pas une entité qui se substituerait au pouvoir décisionnel de l’Homme et le priverait de sa liberté d’être subjectif.

Attention aux données biaisées anti-démocratiques

Christine Hennion soumet un autre point de vigilance sur les relations entre IA et politique : les biais des données.

« Les outils utilisés directement par les politiques ne doivent pas avoir de biais qui porteraient atteinte à nos principes démocratiques et à notre liberté, dans la manière dont elles sont utilisées. »

Christine Hennion, Députée des Haut-de-Seine, membre de la commission des affaires économiques et des affaires européennes.

Discrimination, sexisme,…les données utilisées doivent absolument être « nettoyées » de ces biais parasites qui pourraient rendre l’intérêt de l’IA caduque en politique, voire la faire considérer comme un danger pour la démocratie. Il faut donc que les jeux de données couplés aux algorithmes ne défavorisent aucun groupe, ni aucune personne, une condition sine qua non pour que les politiques puissent adopter cette technologie dans une démocratie exigeant l’égalité et la liberté. 

Comment s’assurer de l’éthique des usages de l’IA dans notre société ?

Depuis plusieurs années, l’IA s’est insérée dans notre quotidien. Cette technologie est déjà massivement utilisée par les réseaux sociaux, le e-commerce, les plateformes de VOD, …des services entrés dans la majorité des foyers français. Selon Christine Hennion, les politiques doivent intervenir pour préserver les citoyens des dérives possibles de l’IA : « Ces IA qui analysent nos préférences, nos choix, nos amis, ont tendance à nous enfermer dans des schémas, dans des façons de penser, dans des manières d’être. […] ces IA peuvent cloisonner et favoriser le communautarisme… », prévient la Députée.

L’IA peut en effet intervenir sur pratiquement tous les sujets de société (économie, santé, transport, agriculture, climat…). Afin de pallier ces problématiques d’éthiques dans l’usage « quotidien » de l’IA, il serait indispensable d’intégrer une réglementation de la donnée dans tous les textes de législature où le numérique pourrait être impliqué. Ce regard transversal permettrait de tirer le meilleur de l’IA sans menacer le « vivre ensemble » ou encore le droit à la vie privée.

Comment légiférer tout en laissant les entreprises européennes innover et s’imposer au niveau international ? 

Cette réglementation de l’IA évoquée lors de la conférence a mené à une réflexion sur le positionnement de la France (et de l’Europe) face à la concurrence d’autres pays, en Asie ou en Amérique du nord, où les questions éthiques ont moins d’influence sur le développement de cette technologie. Il s’agit d’un fort enjeu politique, puisque les innovations (comme l’IA) représentent un potentiel économique énorme à l’échelle d’un pays. « Le politique, dans l’intérêt général, doit se soucier du développement économique de son pays, et donc soutenir le développement de l’IA et son écosystème : les entreprises mais aussi les formations dans ce secteur  » , soutient Christine Hennion. Un point de vue partagé par Lucien Castex : « Il faut évidemment aider nos entreprises européennes à innover pour qu’elles soient capable d’être des concurrentes sérieuses au niveau mondial. En fait c’est l’émergence de ce nouveau modèle qu’il faut trouver. » Un équilibre est donc à chercher entre innovation et respect des droits et liberté.

« Il faudrait évaluer par le risque les applications de l’IA avec une gradation des obligations à leurs opposer. »

Lucien Castex, représentant pour les affaires publiques de l’Afnic et chercheur à l’Université Sorbonne Nouvelle.

Grâce à sa connaissance du monde de la recherche, Jean-Luc Marini a donné une piste, une orientation dans cette recherche d’équilibre, : « il faut faire attention à ne pas voir les choses de manière monolithique, il y a des temps différents dans l’émergence d’une innovation. », pour le directeur du Lab IA d’OpenStudio, « il faut laisser une certaine liberté dans la phase de recherche (la R&T) dans laquelle il y a besoin d’expérimenter, et justement de déceler d’éventuelles problématiques. Ensuite lorsqu’on arrive à la phase R&D dans l’objectif d’une commercialisation d’une solution IA, là en effet, un cadre juridique plus draconien s’impose, surtout lorsqu’on a affaire à de la manipulation de données sensibles. »

L’acceptation de l’IA dans notre société, une volonté politique

Quels leviers les politiques peuvent-ils actionner pour favoriser l’acceptation de l’IA par l’opinion publique ? Un travail sur la transparence de cette technologie et sur l’éducation au numérique, tout en favorisant le made in Europe/made in France dans la conception d’outils intelligents, semblent être les pistes à suivre.

Comment démystifier l’IA ?

L’IA est certes une science, un objet de recherche, mais elle concerne tout un chacun aujourd’hui. Elle ne doit plus être réservée à la seule compréhension des ingénieurs. Cette explicabilité, qui fait cruellement défaut à l’IA, est en partie la raison de cette aura d’appréhensions qui l’entoure.

Elargir le cercle des parties-prenantes dans la construction d’un outil impliquant l’IA

Première solution effleurée pendant cette session des Mercredis de l’IA : intégrer des représentants des corporations concernées dans la construction d’une solution d’IA. En clair, ne plus rester dans un cercle exclusif de « personnes qui savent », mais au contraire ouvrir les portes aux citoyens, aux experts métiers dès la phase de recherche, pour rendre les solutions d’IA plus compréhensibles.

C’est la démarche défendue par OpenStudio, notamment dans la construction d’un outil aussi complexe que l’Atlas des Synergies Productives : « l’explicabilité se construit dès le départ, préconise Jean-Luc Marini, il faut mener cette réflexion avec des experts métier qui jouent un rôle décisif dans la construction de l’outil. Ces experts métiers sont très rapidement mis dans la boucle pour construire des IA qui répondent à des volontés particulières et avoir une certaine explicabilité et interprétabilité. » Renaud Aioutz-Lefebvre souligne également le parti pris open source / open data qu’a choisi OpenStudio, et qui « permet d’offrir la possibilité à des contradicteurs de souligner d’éventuel biais, et de contribuer à les redresser dans le cadre d’une démarche scientifique ». Cette ouverture, ce partage des connaissances sont les premières pierres à poser sur l’édifice de d’explicabilité.

Développer une vraie éducation au numérique

Cet élargissement du cercle des concepteurs de l’IA doit s’accompagner d’une véritable éducation au numérique. Même si les nouvelles générations sont plus sensibilisées aux nouvelles technologies, l’IA et la multiplicité de ses techniques n’en restent pas moins difficiles à cerner. Sans faire de chaque citoyen un expert de l’IA, miser sur la pédagogie serait l’une des clefs de l’acceptation de l’IA dans la société.

Antoine Bacalu a illustré ce gap entre l’IA et le citoyen, par un exemple d’actualité : la polémique provoquée en Angleterre suite à la détermination par une IA des notes de l’examen équivalent à notre baccalauréat, en 2020. L’examen ayant été annulé à cause de la crise sanitaire, le choix de mettre entre les mains d’un algorithme l’avenir de ces étudiants, a été très mal perçu, d’autant que des biais ont défavorisé certains groupes de populations.

« Techniquement le travail est fait, mais politiquement ça ne passe pas. »

Antoine Baccalu, fondateur de la startup Datapolitics

Cet échec politique montre à quel point il est important, d’une part, d’intégrer des experts métiers (afin d’éviter ces biais), et d’autre part, de communiquer sur le sujet avec beaucoup de pédagogie et de psychologie.

Aller vers une souveraineté technologique européenne

Pour l’ensemble des intervenants de la conférence, la transparence de l’IA viendra aussi par le fait de favoriser des entreprises françaises (en tout cas européennes), pour la conception d’outil d’IA utilisé sur des sujets de société importants.

Cette volonté de promouvoir le made in France/Europe est fondamentale puisqu’elle permettra de s’éloigner de l’utilisation d’outils au fonctionnement plus opaque, dont l’éthique est difficile à jauger.

Pour aller plus loin, il faudrait favoriser une relocalisation des compétences pour conserver notre expertise française, et créer des synergies créatrices sur notre territoire. Le grand chantier sera donc de trouver les moyens de résorber la fuite des talents de la Tech, afin de développer des technologies tout aussi performantes que celles des mastodontes du numérique, mais plus éthiques et transparentes.

Retrouvez la conférence « IA et Politique » des Mercredis de l’IA en intégralité sur https://www.imt-atlantique.org/uploads/2020/12/Club-IA/IA_et_politique1.mp4