← Volver a la portada
Europa · Actualidad general · La Libre

COP31 - Les modèles d'IA prompts à délaisser la vérité scientifique une fois remis en cause

Publicado por La Libre · Bélgica hace 9 h
COP31 - Les modèles d'IA prompts à délaisser la vérité scientifique une fois remis en cause
La Libre

Resumen detallado

Les modèles d'intelligence artificielles apportent une réponse correcte à 90% des questions qui leur sont posées sur le climat, mais ils délaissent...

Le rapport adresse une mise en garde aux décideurs politiques et aux chercheurs qui seraient tentés de recourir à l'IA pour mettre sur pied des politiques climatiques.

L'analyse a notamment porté sur 15 modèles de langue différents d'IA. Dans un premier temps, sollicités par des questions sur la science climatique, les modèles répondent avec exactitude. Mais une fois remis en cause par les chercheurs ou lorsque ces derniers formulent des allégations inventées mais plausibles, les modèles abondent rapidement dans leur sens. Huit fois sur 10, l'IA a retourné sa veste au premier signe de légère désapprobation de l'utilisateur, allant jusqu'à confirmer des erreurs flagrantes comme "le CO2 n'est pas le principal facteur du changement climatique".

Cela s'explique par le fait que les modèles d'IA sont entraînés pour abonder dans le sens voire flatter leur utilisateur.

Le rapport de l'Unesco et de l'UCL constate également que les modèles d'IA sont peu efficaces une fois confrontés à de nouveaux faits scientifiques et moins fiables lorsqu'ils sont utilisés dans des langues moins courantes.

"Les systèmes d'IA sont particulièrement bons pour expliquer les connaissances scientifiques mais cela peut nous donner une fausse idée de leurs capacités. Nos travaux montrent pourquoi nous devons être prudents lorsque nous passons de demandes sur ce que nous savons sur le changement climatique à des demandes sur ce que l'on devrait faire à ce sujet", met en garde Maria Perez-Ortiz, chercheuse à l'University College de Londres et co-autrice de l'étude.

Inicio del artículo, extracto de La Libre. Para leer el resto, abra el artículo en el sitio del medio.

Leer el artículo completo en La Libre Inicie sesión para guardar

MarketNews muestra el titular y el resumen publicados por el medio. El artículo completo se lee en el sitio del editor. (www.lalibre.be)

También te puede interesar