Pourquoi l’intégrité de notre environnement informatique devient aussi importante que l’intelligence des systèmes que nous concevons
On parle généralement de l’intelligence artificielle en termes de ce qu’elle est capable de faire. Elle peut aider à découvrir des médicaments, à développer des logiciels, à analyser d’énormes ensembles de données, à traduire des langues et à accomplir des tâches qui, autrefois, exigeaient un temps et une expertise humains considérables. Mais une autre question mérite davantage d’attention : quel est l’impact de l’IA sur l’environnement dans lequel nous déterminons ce qui est vrai ?
C’est la question que j’ai récemment explorée dans un article rédigé pour le symposium mondial AI4Peace à Rome. Mon argument était que l’un des défis les plus lourds de conséquences posés par l’intelligence artificielle ne réside pas simplement dans la production de fausses informations. Il s’agit de la dégradation progressive de l’environnement informationnel partagé dont dépendent les sociétés fonctionnelles.
L’IA générative a considérablement réduit le coût de production de contenus synthétiques convaincants. Des images peuvent être fabriquées de toutes pièces, des voix clonées et des récits plausibles créés en quelques secondes. La réaction immédiate s’est naturellement concentrée sur la détection de ces créations, et il est certes nécessaire de renforcer l’authentification, les normes de provenance et les mesures de protection concernant les médias synthétiques.
Mais la fabrication n’est qu’une partie du problème. La question la plus difficile concerne ce qui se passe une fois que l’information pénètre dans l’écosystème numérique. Les systèmes de recommandation décident de ce que des milliards de personnes voient chaque jour, et ces systèmes ont été largement optimisés pour favoriser l’engagement plutôt que la précision, le contexte ou la complexité.
L’indignation, la certitude et les contenus qui confirment les croyances existantes ont souvent plus de portée que ceux qui les nuancent, les compliquent ou les remettent en question. L’IA renforce cette dynamique en permettant la création de contenus à très grande échelle, l’adaptation des messages à des publics spécifiques et l’amélioration constante de l’efficacité des systèmes pour capter l’attention.
Le danger ne réside pas simplement dans le fait que les gens croient à des informations erronées isolées. Il réside dans le fait que la confiance dans l’environnement informationnel lui-même commence à s’affaiblir. Lorsque presque n’importe quelle image peut être fabriquée, n’importe quelle voix clonée et n’importe quel événement reconstitué de manière convaincante, le scepticisme peut s’étendre du faux au vrai. Le résultat final pourrait être moins une société dans laquelle les gens croient tout qu’une société dans laquelle ils se sentent capables de croire presque n’importe quoi.
Les démocraties n’ont jamais reposé sur le fait que tout le monde soit d’accord. Le désaccord leur est essentiel. Mais un désaccord constructif nécessite tout de même un terrain d’entente : la capacité à établir que certaines choses se sont produites et d’autres non, la conviction que les preuves comptent, et des institutions capables d’établir les faits avec un degré raisonnable de crédibilité.
Dès lors que ce terrain d’entente commence à disparaître, le désaccord politique change de nature. Les gens ne se disputent plus seulement sur ce qu’il faudrait faire. Ils se disputent de plus en plus sur ce qui est réel.
Des événements récents nous mettent en garde contre les conséquences possibles d’une telle évolution. À la suite des meurtres commis à Southport, au Royaume-Uni, en 2024, de fausses informations concernant l’identité et le parcours de l’agresseur se sont rapidement propagées en ligne avant même que les faits élémentaires n’aient été établis. Lors de l’élection présidentielle roumaine de 2024, une activité en ligne coordonnée impliquant des plateformes sociales, des réseaux de bots et des contenus manipulés a contribué à une crise suffisamment grave pour que la Cour constitutionnelle du pays annule le résultat du premier tour. Aux États-Unis, les électeurs du New Hampshire ont reçu des appels automatisés générés par l’IA, utilisant une version synthétique de la voix du président Joe Biden, les encourageant à ne pas voter lors de la primaire présidentielle de 2024 dans cet État.
Les technologies et les circonstances étaient différentes, mais la leçon générale à en tirer est similaire. L’intégrité de l’environnement informationnel ne peut plus être considérée comme une question technologique secondaire. Elle fait désormais partie intégrante de l’infrastructure d’une société démocratique.
Les gouvernements ont commencé à réagir. La loi européenne sur les services numériques et la loi sur l’IA constituent des tentatives sérieuses visant à renforcer la responsabilité, la transparence et les garanties autour de la technologie. Elles sont importantes, mais la réglementation se heurtera inévitablement à des difficultés face à un problème qui évolue aussi rapidement.
Les règles peuvent exiger la divulgation d’informations. Les régulateurs peuvent enquêter sur les plateformes. Les gouvernements peuvent interdire certaines pratiques. Ce que la législation a beaucoup plus de mal à modifier, c’est la structure des incitations d’une économie de l’information fondée sur la captation de l’attention.
Si l’indignation génère plus d’engagement que la nuance, il existe une raison commerciale d’amplifier cette indignation. Si une désinformation chargée d’émotion se propage plus vite qu’une correction soigneusement nuancée, la supprimer quelques heures plus tard n’efface pas son effet. La réglementation peut s’attaquer aux contenus préjudiciables sans nécessairement modifier les systèmes qui rendent ces contenus commercialement attractifs au départ.
C’est pourquoi la réponse ne peut incomber aux seuls gouvernements. Les entreprises technologiques, les développeurs d’IA, les universités, les chercheurs, les organisations de la société civile et les institutions éthiques détiennent chacun une partie de la solution. De meilleures normes techniques sont nécessaires pour déterminer l’origine des contenus. Les chercheurs indépendants ont besoin d’un accès significatif aux données afin que les systèmes de recommandation puissent être étudiés correctement. L’éducation doit mettre davantage l’accent sur l’esprit critique face à l’information.
Les entreprises technologiques doivent également se pencher sur une question plus large. La conformité est importante, mais l’environnement civique que leurs choix de conception contribuent à créer l’est tout autant.
Rien de tout cela ne justifie un pessimisme vis-à-vis de l’intelligence artificielle. L’IA accélère déjà les découvertes scientifiques, améliore les soins de santé, augmente la productivité, facilite la surveillance environnementale et aide les gens à communiquer au-delà des frontières linguistiques et culturelles. Son potentiel d’amélioration de la vie humaine reste énorme.
Les mêmes technologies qui créent de nouveaux risques peuvent également contribuer à y remédier. Les systèmes d’IA pourraient améliorer la traçabilité et la vérification de l’information. Les systèmes de recommandation pourraient être conçus pour exposer les utilisateurs à des points de vue alternatifs crédibles plutôt que de renforcer sans cesse leurs convictions existantes. L’IA pourrait aider à identifier les manipulations coordonnées, faciliter le dialogue entre les communautés et rendre l’information de haute qualité plus facile à trouver.
La question centrale n’est donc pas de savoir si l’IA est bonne ou mauvaise. Il s’agit plutôt de déterminer quels objectifs nous choisissons lors de sa conception et de son déploiement.
Cela est étroitement lié à la philosophie qui sous-tend le « Human Code » de NJF Holdings. Ce cadre part du principe que le progrès technologique doit, en fin de compte, renforcer l’autonomie humaine et favoriser l’épanouissement humain. Cela implique de se demander non seulement ce qu’une technologie peut accomplir, mais aussi quel type de société ses incitations et ses systèmes encouragent.
La prochaine phase de l’IA exigera davantage que des modèles de plus en plus performants. Elle exigera également que les entreprises, les institutions et les décideurs politiques soient prêts à réfléchir sérieusement à l’environnement informationnel que ces modèles contribuent à créer.
Il est tentant de considérer la désinformation comme la responsabilité de quelqu’un d’autre. Les gouvernements devraient la réglementer, les plateformes devraient la modérer et les entreprises technologiques devraient la détecter. Ces trois acteurs ont un rôle important à jouer, mais le défi, plus profond encore, est également d’ordre culturel.
Les sociétés saines reposent sur la curiosité, l’humilité intellectuelle et une certaine volonté de dialoguer avec ceux qui voient le monde différemment. Elles ont besoin de citoyens capables de distinguer les preuves des simples affirmations, sans présumer que le désaccord en soi est un signe de mauvaise foi. Ces qualités ne peuvent pas être simplement imposées par la loi.
La technologie peut les renforcer ou les affaiblir. Les systèmes d’information mis en place aujourd’hui façonneront la manière dont des milliards de personnes appréhendent le monde pendant des décennies ; ils ne doivent donc pas être jugés uniquement en fonction de leur niveau d’intelligence, de la rapidité de leur réponse ou de leur capacité à capter l’attention.
Ils doivent également être évalués à l’aune de leur capacité à aider les gens à se comprendre mutuellement, à préserver la distinction entre informations authentiques et synthétiques, et à protéger le terrain d’entente dont dépendent les sociétés pluralistes.
L’IA n’a pas pour vocation de nous mettre d’accord. Mais elle devrait nous permettre de rester capables d’être en désaccord sur une même réalité.
Nicole Junkermann est une entrepreneuse et investisseuse internationale, fondatrice de NJF Holdings. Par l’intermédiaire de NJF Capital et de la plateforme d’investissement plus large de NJF Holdings, elle a investi dans des entreprises technologiques actives dans les domaines de l’intelligence artificielle, de la cybersécurité, des technologies de la santé et d’autres secteurs technologiques émergents. Son Human Code explore la manière dont le progrès technologique peut renforcer les capacités, la résilience et l’autonomie humaines.