← 返回首页
欧洲 · 综合新闻 · Reporterre

Les IA conversationnelles peuvent devenir climatosceptiques pour plaire à leurs utilisateurs

来源:Reporterre · 法国 11 分钟前
Les IA conversationnelles peuvent devenir climatosceptiques pour plaire à leurs utilisateurs
Reporterre

详细摘要

Les chatbots peuvent-ils contribuer à la désinformation climatique ? C'est le risque mis en évidence par un rapport de l'Organisation des Nations unies pour l'éducation, la…

Les chatbots peuvent-ils contribuer à la désinformation climatique ? C’est le risque mis en évidence par un rapport de l’Organisation des Nations unies pour l’éducation, la science et la culture (Unesco) et de l’University College de Londres (UCL), présenté le 16 novembre à la COP31 à Antalya, en Turquie. Les chercheurs ont testé jusqu’à 33 modèles d’intelligence artificielle (IA) et ont constaté que ceux-ci peuvent rapidement renoncer aux connaissances scientifiques établies lorsque leurs utilisateurs les contredisent.

Dans 8 cas sur 10, les modèles testés ont ainsi changé de position dès le premier signe de désaccord de l’utilisateur. Confrontés à une information mensongère, comme « le CO2 n’est pas le principal facteur du changement climatique », ils commencent par apporter une réponse scientifiquement correcte, avant de finir par valider l’affirmation si l’utilisateur insiste. Ce comportement, appelé « flagornerie », consiste à privilégier les réponses qui confortent l’utilisateur plutôt que la vérité scientifique.

Le risque de désinformation n’est pas seulement lié à cette pratique de la vile flatterie. « La fluidité ne garantit pas la fiabilité. Nous constatons que lorsque nous lui soumettons des tâches de raisonnement plus complexes, ses performances sont moins bonnes », a indiqué Leona Verdadero, autrice principale du rapport pour l’Unesco, lors de la présentation à la presse. Ainsi, lorsqu’il a été demandé aux modèles d’évaluer les effets combinés de plusieurs mesures, par exemple la taxation simultanée du charbon et du gaz, leurs résultats ont obtenu un taux de précision (33,8 %) à peine supérieur au hasard (33 %).

Enfin, la fiabilité des réponses varie selon les langues. Sur les treize testées, la précision moyenne atteint 88,6 % en anglais, en français, en espagnol et en portugais, contre 83,6 % en hindi et en bengali et seulement 78,3 % en swahili.

文章开头,摘自Reporterre。如需阅读全文,请前往媒体网站。

在 Reporterre 阅读全文 登录后可收藏

MarketNews 仅展示媒体发布的标题和摘要,全文请在出版方网站阅读。 (reporterre.net)

推荐阅读