COP31 - Les modèles d'IA prompts à délaisser la vérité scientifique une fois remis en cause

ملخص مفصل
Les modèles d'intelligence artificielles apportent une réponse correcte à 90% des questions qui leur sont posées sur le climat, mais ils délaissent...
Le rapport adresse une mise en garde aux décideurs politiques et aux chercheurs qui seraient tentés de recourir à l'IA pour mettre sur pied des politiques climatiques.
L'analyse a notamment porté sur 15 modèles de langue différents d'IA. Dans un premier temps, sollicités par des questions sur la science climatique, les modèles répondent avec exactitude. Mais une fois remis en cause par les chercheurs ou lorsque ces derniers formulent des allégations inventées mais plausibles, les modèles abondent rapidement dans leur sens. Huit fois sur 10, l'IA a retourné sa veste au premier signe de légère désapprobation de l'utilisateur, allant jusqu'à confirmer des erreurs flagrantes comme "le CO2 n'est pas le principal facteur du changement climatique".
Cela s'explique par le fait que les modèles d'IA sont entraînés pour abonder dans le sens voire flatter leur utilisateur.
Le rapport de l'Unesco et de l'UCL constate également que les modèles d'IA sont peu efficaces une fois confrontés à de nouveaux faits scientifiques et moins fiables lorsqu'ils sont utilisés dans des langues moins courantes.
"Les systèmes d'IA sont particulièrement bons pour expliquer les connaissances scientifiques mais cela peut nous donner une fausse idée de leurs capacités. Nos travaux montrent pourquoi nous devons être prudents lorsque nous passons de demandes sur ce que nous savons sur le changement climatique à des demandes sur ce que l'on devrait faire à ce sujet", met en garde Maria Perez-Ortiz, chercheuse à l'University College de Londres et co-autrice de l'étude.
مطلع المقال، مقتطف من La Libre. لقراءة المقال كاملًا، افتحه على موقع الناشر.
يعرض MarketNews العنوان والملخص كما نشرتهما الوسيلة الإعلامية. المقال الكامل متوفر على موقع الناشر. (www.lalibre.be)




