← Retour à la une
Europe · Actualité générale · Reporterre

Les IA conversationnelles peuvent devenir climatosceptiques pour plaire à leurs utilisateurs

Publié par Reporterre · France il y a 13 min
Les IA conversationnelles peuvent devenir climatosceptiques pour plaire à leurs utilisateurs
Reporterre

Résumé détaillé

Les chatbots peuvent-ils contribuer à la désinformation climatique ? C'est le risque mis en évidence par un rapport de l'Organisation des Nations unies pour l'éducation, la…

Les chatbots peuvent-ils contribuer à la désinformation climatique ? C’est le risque mis en évidence par un rapport de l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) et de l’University College de Londres (UCL), présenté le 16 novembre à la COP31 à Antalya, en Turquie. Les chercheurs ont testé jusqu’à 33 modèles d’intelligence artificielle (IA) et ont constaté que ceux-ci peuvent rapidement renoncer aux connaissances scientifiques établies lorsque leurs utilisateurs les contredisent.

Dans 8 cas sur 10, les modèles testés ont ainsi changé de position dès le premier signe de désaccord de l’utilisateur. Confrontés à une information mensongère, comme « le CO2 n’est pas le principal facteur du changement climatique », ils commencent par apporter une réponse scientifiquement correcte, avant de finir par valider l’affirmation si l’utilisateur insiste. Ce comportement, appelé « flagornerie », consiste à privilégier les réponses qui confortent l’utilisateur plutôt que la vérité scientifique.

Le risque de désinformation n’est pas seulement lié à cette pratique de la vile flatterie. « La fluidité ne garantit pas la fiabilité. Nous constatons que lorsque nous lui soumettons des tâches de raisonnement plus complexes, ses performances sont moins bonnes », a indiqué Leona Verdadero, autrice principale du rapport pour l’Unesco, lors de la présentation à la presse. Ainsi, lorsqu’il a été demandé aux modèles d’évaluer les effets combinés de plusieurs mesures, par exemple la taxation simultanée du charbon et du gaz, leurs résultats ont obtenu un taux de précision (33,8 %) à peine supérieur au hasard (33 %).

Enfin, la fiabilité des réponses varie selon les langues. Sur les treize testées, la précision moyenne atteint 88,6 % en anglais, en français, en espagnol et en portugais, contre 83,6 % en hindi et en bengali et seulement 78,3 % en swahili.

Début de l'article, extrait de Reporterre. Pour lire la suite, ouvrez l'article chez le média.

Lire l'article complet sur Reporterre Connectez-vous pour sauvegarder

MarketNews présente le titre et le résumé publiés par le média. L'article complet se lit sur le site de l'éditeur. (reporterre.net)

À lire aussi