Face à l’émergence massive de spams générés par l’intelligence artificielle sur les plateformes de participation citoyenne, Open Source Politics présente Decidim AI, le module de la communauté Decidim que nous avons amélioré pour qu’il succède à notre ancien Spam Bot Detector.
Cette solution innovante, que nous avons présentée lors de la conférence OW2 cet été, utilise l’IA pour protéger la démocratie participative contre les contenus automatisés indésirables. Le module est disponible à partir de la version 0.29+ de Decidim.
En image : Bertille Mazari et Simonas Žilinskas lors de la présentation OW2.
Un défi technologique contemporain
Les plateformes de participation citoyenne affrontent désormais des spams générés par IA. Ces contenus automatisés deviennent de plus en plus subtils. Ces contenus automatisés peuvent compromettre l’intégrité des processus participatifs en noyant les contributions légitimes sous un flot de messages artificiels. Ainsi, ils nécessitent une approche nouvelle pour préserver la qualité des échanges démocratiques.
Comment fonctionne Decidim AI ?
Le module analyse en temps réel l’ensemble des contenus créés sur les plateformes Decidim grâce à un modèle de langage (LLM). Cette analyse s’effectue de manière transparente, sans impact sur l’expérience des internautes ni sur la charge de travail des personnes administrant les plateformes Decidim.
Dès qu’une contribution apparaît – commentaire, proposition, pétition, rencontre ou profil – le système soumet automatiquement le contenu à l’IA. Celle-ci répond uniquement par “SPAM” ou “NOT_SPAM”. Ces réponses suivent les instructions fournies via le prompt de configuration que nous avons mis en place.
Lorsqu’un contenu est identifié comme spam, un signalement automatique apparaît dans l’interface d’administration (menu “Modération globale”) et un email de notification est envoyé aux administratrices et administrateurs. Néanmoins, le contrôle reste total pour masquer, bloquer ou annuler le signalement. L’équipe d’administration de la plateforme conserve donc tous ses pouvoirs de décision.
Une technologie hébergée en France
Notre module Decidim AI s’appuie actuellement sur le modèle Llama-3.3-70b-instruct de Meta, hébergé exclusivement chez Scaleway sur des serveurs parisiens. Ce choix d’hébergement français garantit la conformité RGPD et la souveraineté des données.
Scaleway s’engage à ne pas collecter, lire ou réutiliser les contenus transmis à leur API, sauf en cas d’activité anormale nécessitant un diagnostic technique. Les données sont stockées pendant 6 mois sur les serveurs français, sans accès possible pour Meta ou des services tiers.
Données traitées et perspectives d'évolution
Open Source Politics conserve une trace de chaque requête pour analyser les performances du modèle. Notre objectif est de constituer un dataset de qualité. Ainsi, nous pourrons entraîner à court terme un modèle plus petit et spécialisé dans la participation citoyenne. Cette solution sera plus performante et surtout moins énergivore.
Les contenus analysés incluent les titres et descriptions des propositions, pétitions et événements, les commentaires, ainsi que les informations de profil des utilisatrices et utilisateurs (pseudonyme, présentation, URL personnel, langue).
Améliorations à venir
Plusieurs développements sont prévus pour enrichir les fonctionnalités :
- Un système d’alerte intelligent qui détecte les campagnes de spam coordonnées en analysant l’activité des plateformes en temps réel
- Des options de modération configurables : notifications groupées, masquage automatique des contributions spam, blocage automatique après plusieurs signalements
- Le développement d’un modèle d’IA spécifiquement entraîné pour la participation citoyenne
Decidim AI répond à un enjeu central des plateformes participatives : maintenir la qualité des échanges tout en préservant la liberté d’expression. Cette solution technique permet aux admins de se concentrer sur l’animation des débats plutôt que sur la modération manuelle.
Decidim AI est disponible pour toutes les plateformes Decidim version 0.29+. Cette solution a été présentée lors de la conférence OW2con’25 dans la présentation “Protecting participatory democracy from AI with AI”. Pour plus d’informations sur nos solutions de participation citoyenne, prenez rendez-vous avec un membre de notre équipe.
Crédit image
- Photos OW2 : Laurent Pointecouteau ©
