COP31 - Les modèles d'IA prompts à délaisser la vérité scientifique une fois remis en cause

详细摘要
Les modèles d'intelligence artificielles apportent une réponse correcte à 90% des questions qui leur sont posées sur le climat, mais ils délaissent...
Le rapport adresse une mise en garde aux décideurs politiques et aux chercheurs qui seraient tentés de recourir à l'IA pour mettre sur pied des politiques climatiques.
L'analyse a notamment porté sur 15 modèles de langue différents d'IA. Dans un premier temps, sollicités par des questions sur la science climatique, les modèles répondent avec exactitude. Mais une fois remis en cause par les chercheurs ou lorsque ces derniers formulent des allégations inventées mais plausibles, les modèles abondent rapidement dans leur sens. Huit fois sur 10, l'IA a retourné sa veste au premier signe de légère désapprobation de l'utilisateur, allant jusqu'à confirmer des erreurs flagrantes comme "le CO2 n'est pas le principal facteur du changement climatique".
Cela s'explique par le fait que les modèles d'IA sont entraînés pour abonder dans le sens voire flatter leur utilisateur.
Le rapport de l'Unesco et de l'UCL constate également que les modèles d'IA sont peu efficaces une fois confrontés à de nouveaux faits scientifiques et moins fiables lorsqu'ils sont utilisés dans des langues moins courantes.
"Les systèmes d'IA sont particulièrement bons pour expliquer les connaissances scientifiques mais cela peut nous donner une fausse idée de leurs capacités. Nos travaux montrent pourquoi nous devons être prudents lorsque nous passons de demandes sur ce que nous savons sur le changement climatique à des demandes sur ce que l'on devrait faire à ce sujet", met en garde Maria Perez-Ortiz, chercheuse à l'University College de Londres et co-autrice de l'étude.
文章开头,摘自La Libre。如需阅读全文,请前往媒体网站。
MarketNews 仅展示媒体发布的标题和摘要,全文请在出版方网站阅读。 (www.lalibre.be)




