Les IA conversationnelles peuvent devenir climatosceptiques pour plaire à leurs utilisateurs

Detailed summary
Les chatbots peuvent-ils contribuer à la désinformation climatique ? C'est le risque mis en évidence par un rapport de l'Organisation des Nations unies pour l'éducation, la…
Les chatbots peuvent-ils contribuer à la désinformation climatique ? C’est le risque mis en évidence par un rapport de l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) et de l’University College de Londres (UCL), présenté le 16 novembre à la COP31 à Antalya, en Turquie. Les chercheurs ont testé jusqu’à 33 modèles d’intelligence artificielle (IA) et ont constaté que ceux-ci peuvent rapidement renoncer aux connaissances scientifiques établies lorsque leurs utilisateurs les contredisent.
Dans 8 cas sur 10, les modèles testés ont ainsi changé de position dès le premier signe de désaccord de l’utilisateur. Confrontés à une information mensongère, comme « le CO2 n’est pas le principal facteur du changement climatique », ils commencent par apporter une réponse scientifiquement correcte, avant de finir par valider l’affirmation si l’utilisateur insiste. Ce comportement, appelé « flagornerie », consiste à privilégier les réponses qui confortent l’utilisateur plutôt que la vérité scientifique.
Le risque de désinformation n’est pas seulement lié à cette pratique de la vile flatterie. « La fluidité ne garantit pas la fiabilité. Nous constatons que lorsque nous lui soumettons des tâches de raisonnement plus complexes, ses performances sont moins bonnes », a indiqué Leona Verdadero, autrice principale du rapport pour l’Unesco, lors de la présentation à la presse. Ainsi, lorsqu’il a été demandé aux modèles d’évaluer les effets combinés de plusieurs mesures, par exemple la taxation simultanée du charbon et du gaz, leurs résultats ont obtenu un taux de précision (33,8 %) à peine supérieur au hasard (33 %).
Enfin, la fiabilité des réponses varie selon les langues. Sur les treize testées, la précision moyenne atteint 88,6 % en anglais, en français, en espagnol et en portugais, contre 83,6 % en hindi et en bengali et seulement 78,3 % en swahili.
Opening of the article, excerpted from Reporterre. To read the rest, open the article on the publisher's site.
MarketNews shows the headline and summary published by the outlet. The full article is on the publisher's website. (reporterre.net)




