COP31 : les modèles d'IA prompts à délaisser la vérité scientifique une fois remis en cause par un utilisateur

Résumé détaillé
Les modèles d'intelligence artificielles apportent une réponse correcte à 90% des questions qui leur sont posées sur le climat, mais ils délaissent...
Le rapport adresse une mise en garde aux décideurs politiques et aux chercheurs qui seraient tentés de recourir à l'IA pour mettre sur pied des politiques climatiques.
L'analyse a notamment porté sur 15 modèles de langue différents d'IA. Dans un premier temps, sollicités par des questions sur la science climatique, les modèles répondent avec exactitude. Mais une fois remis en cause par les chercheurs ou lorsque ces derniers formulent des allégations inventées mais plausibles, les modèles abondent rapidement dans leur sens. Huit fois sur 10, l'IA a retourné sa veste au premier signe de légère désapprobation de l'utilisateur, allant jusqu'à confirmer des erreurs flagrantes comme "le CO2 n'est pas le principal facteur du changement climatique".
Cela s'explique par le fait que les modèles d'IA sont généralement entraînés pour abonder dans le sens voire flatter leur utilisateur. "L'IA possède un potentiel extraordinaire pour rendre accessible à tous la science climatique complexe", reconnaît Leona Verdadero, de l'Unesco, mais, nuance aussitôt la co-autrice de l'étude, "il est préoccupant que les modèles présentent un défaut de conception: ils sont encouragés à être d'accord avec leur utilisateur et à nier les faits avec une facilité déconcertante".
Le rapport de l'Unesco et de l'UCL constate également que les modèles d'IA sont peu efficaces une fois confrontés à de nouveaux faits scientifiques et moins fiables lorsqu'ils sont utilisés dans des langues moins courantes. S'ils étaient en moyenne 88,6% corrects en anglais et affichaient des performances comparables en espagnol, français et portugais, leur exactitude tombait à 83,6% en hindi et bengali, à 81,4% en ourdou et à 78,3% en swahili. Autant de langues dont les locuteurs vivent dans des régions du monde particulièrement touchées par le changement climatique, souligne encore le rapport.
"Les systèmes d'IA sont particulièrement bons pour expliquer les connaissances scientifiques mais cela peut nous donner une fausse idée…
Début de l'article, extrait de La Libre. Pour lire la suite, ouvrez l'article chez le média.
MarketNews présente le titre et le résumé publiés par le média. L'article complet se lit sur le site de l'éditeur. (www.lalibre.be)



/2026/11/16/6afb05035e84f758941320.jpg)
