Se méfier de l'IA... comme on a toujours fait

 Je trouve amusant que plus j'utilise l'intelligence artificielle, plus je m'en méfie.

Il y a plusieurs années, l'apparition de wikipédia avait suscité quasiment les mêmes questions que l'apparition de l'intelligence artificielle aujourd'hui.

Par exemple, les enseignants critiquaient le recours à wikipédia par les élèves au motif que les informations n'auraient être guère été fiables. Mais, progressivement, les pages wikipédia se sont enrichis de nombreuses références qui, progressivement, attestent de l'amélioration de la qualité de cet ensemble de pages.

Avec l'intelligence artificielle, on retrouve le même type de phénomènes, à savoir que chaque fois que je le consulte,
ChatGpt ou un autre, je m'aperçois que j'ai des critiques
à y faire.

Lors d'un cours que j'ai fait aux étudiants du Master Food Innovation and Product Design, nous avons comparé des réponses données par plusieurs IA génératives à une même question posée par des personnes différentes et à des moments différents : les réponses proposées étaient très variables et souvent très insuffisantes.

Pour ce qui me concerne, l'expérience me conduit à faire  très attention de croiser les réponses  obtenues avec d'autres informations car je sais maintenant que l'IA me donne souvent des informations fausses,  des références à des articles qui n'existent pas,  des références à des articles qui ne donnent pas l'information qui est supposée être présente dans les articles cités, etc.

Autrement dit, avec ces nouveaux outils, il y a lieu de mettre au point de nouvelles stratégies de "méfiance", il va falloir apprendre à savoir ce que l'on accepte, et, expérience faite, on ne peut évidemment pas demander à l'IA de juger ce que l'IA produit ;-)

Bref il y a toute une méthodologie à  mettre au point pour arriver à bien utiliser cet outil nouveau.

Et cette question n'est pas neuve :  quand la roue a été inventée (ou découverte ?), il a fallu apprendre à ne pas la mettre dans un terrain en pente sous peine de la voir dévaler : il fallait déjà se méfier.