Des assistants vocaux à Chat GPT, l’essor de l’intelligence artificielle au cours des dernières années a été spectaculaire. L’IA est désormais omniprésente dans de nombreux aspects de notre vie quotidienne et fais évoluer de nombreux domaines comme la médecine, la finance, l’éducation et la recherche scientifique. Si des exemples récents montrent que son utilisation peut constituer une menace pour la démocratie, notre intervenant David Mas voit lui des usages positifs à l’IA dans ce domaine. Explications 👀
Jeudi 4 avril 2024, nous organisions les premières Rencontres du club Open Source Politics. Cet événement majeur pour nous avait pour but de mettre en lumière les enjeux, défis et opportunités liés aux communs numériques et à la démocratie. Dans ce cadre, nous avons accueilli David Mas, chief AI officer chez Make.org pour explorer avec lui les enjeux soulevés par les nouvelles avancées techniques de l’intelligence artificielle (IA).
L’IA une menace pour la démocratie ?
Lors des primaires démocrates du New Hampshire, certains électeurs démocrates ont reçu un appel téléphonique du président américain Joe Biden les incitant à ne pas aller voter. Si l’utilisation de messages téléphoniques pré-enregistrés est courante dans la vie démocratique américaine, il a été révélé que le message en question constituait un deepfake (ou hypertrucage). Le deepfake est une technique de synthèse multimédia reposant sur l’intelligence artificielle pouvant être utilisée pour créer des infox et des canulars malveillants. Si l’appel n’a pas eu de conséquences directs sur les résultats du vote, cette utilisation de l’IA révèle les possibilités offertes aux personnes malveillantes souhaitant truquer ou influer sur le cours d’une élection.
En Slovaquie, lors des élections législatives de septembre 2023, , et à quelques heures du vote, une fausse interview réalisée avec une IA a massivement circulé. On y entend le chef de file du parti centriste et pro-européen « Slovaquie progressiste », Michal Simecka, converser avec une célèbre journaliste d’investigation de la façon dont le vote va être manipulé pour favoriser sa candidature. La vidéo a été retirée par Facebook et TikTok quelques heures après avoir été mise en ligne, mais elle a été partagée plusieurs milliers de fois. S’il est difficile d’évaluer précisément l’impact de la fausse interview et des nombreuses fausses informations diffusées pendant la campagne, l’élection a débouché sur la victoire du parti national-populiste et prorusse Smer avec 23 % des voix.
Les applications positives de l’IA pour la démocratie numérique
Open Source Politics est bien consciente des risques que font peser l’IA, mais nous avons demandé à David lors de notre événement du 4 avril de se concentrer sur ses applications positives et sur la nécessité de l’utiliser de façon à renforcer la démocratie.
Se repérer dans de larges bases documentaires
En offrant la possibilité d’automatiser de grandes quantités de données et de fournir une synthèse rapide et efficace des informations, l’utilisation de l’IA peut trouver des applications très positives pour la démocratie et notamment pour les plateformes de participation citoyenne.
Rendre les travaux des assemblées citoyennes plus accessibles
Ainsi, grâce à sa capacité de synthèse, l’IA peut accélérer la formation et permettre de suivre les débats sur des questions citoyennes complexes, comme le permet la nouvelle plateforme développée par Make.org pour naviguer à travers les ressources rassemblées lors de la convention citoyenne sur la fin de vie. En rendant l’information plus accessible et compréhensible, l’IA abaisse les barrières à l’entrée pour de nombreux citoyens, facilitant ainsi une participation plus large et plus informée. Sur ce sujet, notre autre intervenante de l’après-midi Claudia Chwalisz, fondatrice de l’institut international de recherche et d’action DemocracyNext, soulignait que les temps d’apprentissage sont très importants dans le cadre des consultations citoyennes. Pour elle, les deux approches doivent être complémentaires. L’IA ne doit pas remplacer l’expérience d’apprentissage collectif qui est cruciale dans le processus délibératif.
L'aide à la formulation de contributions
Un autre avantage significatif de l’IA qui pourrait être particulièrement pertinent pour les plateformes de participation, réside dans son aide à la contribution. En posant des questions et en fournissant des suggestions, l’IA peut aider à formuler des idées de manière plus claire et à donner voix à ceux qui ont du mal à s’exprimer. Sur les plateformes participatives, il est souvent observé que les contributions bien formulées sont celles qui reçoivent le plus de soutiens. Les assistants IA peuvent aider à niveler les écarts en permettant à tous les citoyens, indépendamment de leurs compétences rédactionnelles, de formuler leurs idées de manière efficace et convaincante.
En outre, les IA conversationnelles peuvent faciliter les discussions en ligne, recréant ainsi des expériences délibératives similaires à celles en présentiel. Un exemple frappant est le modérateur IA développé à Stanford, qui a montré comment l’IA peut aider à structurer et à modérer des débats complexes, offrant ainsi une nouvelle dimension aux discussions citoyennes en ligne.
En cas de bon usage de son potentiel, l’IA peut donc représenter une opportunité majeure pour renforcer la démocratie et encourager une participation citoyenne plus large.
Les problèmes soulevés par utilisation de l’IA dans la pratique démocratique
Lors de la séance de questions-réponses, plusieurs préoccupations importantes ont été soulevées par le public.
La démocratie face aux deepfakes
Parmi celles-ci, les usages négatifs de l’IA, comme les deepfakes et les fake news, ont été particulièrement discutés. Ces technologies deviennent de plus en plus réalistes, posant ainsi des menaces sérieuses sur la vérité et à la confiance publique.
L'IA, machine à biais ?
L’introduction de l’IA sur les plateformes numériques peut également introduire des biais, un aspect actuellement étudié en profondeur par le CNRS et Sciences Po. Ces institutions travaillent à limiter les effets négatifs des biais pour garantir que l’IA reste un outil bénéfique. David a souligné que l’objectif principal de l’IA doit être de faciliter le dialogue entre les citoyens et les institutions, et non de remplacer les interactions humaines. L’IA devrait servir à rapprocher les institutions des citoyens, en simplifiant et en enrichissant les échanges, plutôt que de créer une distance supplémentaire.
L’empreinte environnementale de l’intelligence artificielle
En ce qui concerne le bilan carbone de l’IA, David a admis que l’utilisation de cette technologie augmente effectivement l’empreinte carbone. Cependant, il a assuré que des efforts sont en cours pour développer des modèles d’IA plus efficaces et moins énergivores que ceux actuellement disponibles, comme Chat GPT.
Et du côté de la souveraineté numérique ?
Sur la question de la dépendance aux géants technologiques américains (GAFAM), David a mis en avant le fait que plusieurs entreprises françaises sont à la pointe de la recherche en IA.
Ce que nous retenons
Nous avons souhaité dédier un temps aux enjeux posés par l’IA lors de nos rencontres du Club Open Source Politics car, au-delà de nos réserves éthiques, nous pensons que l’intelligence artificielle a le potentiel de renforcer considérablement la démocratie et d’élargir la participation citoyenne. Les outils d’IA peuvent faciliter l’accès à l’information, améliorer l’interaction entre les citoyens et les représentants élus, et aider à identifier les préférences des citoyens. De plus, l’IA peut contribuer à une prise de décision plus éclairée et basée sur des données.
Cependant, il est crucial de rester vigilant face aux risques potentiels associés à l’IA. Son utilisation abusive ou inappropriée peut porter atteinte à la vie privée et à la liberté d’expression, et peut également être un outil de diffusion de désinformation et de manipulation de l’opinion publique. Les géants technologiques, avec leurs ressources financières considérables, pourraient dominer le marché et limiter la concurrence, ce qui soulève des inquiétudes quant à la dépendance aux géants technologiques et au risque de capture des innovations en IA.
Pour maximiser les bénéfices de l’IA pour la démocratie, il est essentiel de promouvoir une utilisation responsable et éthique de cette technologie. Cela inclut la création de réglementations et de normes pour garantir la transparence et la responsabilité, ainsi que l’éducation des citoyens sur les risques et les avantages de l’IA.
