Se méfier de l'IA... comme on a toujours fait

 Je trouve amusant que plus j'utilise l'intelligence artificielle, plus je m'en méfie.

Il y a plusieurs années, l'apparition de wikipédia avait suscité quasiment les mêmes questions que l'apparition de l'intelligence artificielle aujourd'hui.

Par exemple, les enseignants critiquaient le recours à wikipédia par les élèves au motif que les informations n'auraient être guère été fiables. Mais, progressivement, les pages wikipédia se sont enrichis de nombreuses références qui, progressivement, attestent de l'amélioration de la qualité de cet ensemble de pages.

Avec l'intelligence artificielle, on retrouve le même type de phénomènes, à savoir que chaque fois que je le consulte,
ChatGpt ou un autre, je m'aperçois que j'ai des critiques
à y faire.

Lors d'un cours que j'ai fait aux étudiants du Master Food Innovation and Product Design, nous avons comparé des réponses données par plusieurs IA génératives à une même question posée par des personnes différentes et à des moments différents : les réponses proposées étaient très variables et souvent très insuffisantes.

Pour ce qui me concerne, l'expérience me conduit à faire  très attention de croiser les réponses  obtenues avec d'autres informations car je sais maintenant que l'IA me donne souvent des informations fausses,  des références à des articles qui n'existent pas,  des références à des articles qui ne donnent pas l'information qui est supposée être présente dans les articles cités, etc.

Autrement dit, avec ces nouveaux outils, il y a lieu de mettre au point de nouvelles stratégies de "méfiance", il va falloir apprendre à savoir ce que l'on accepte, et, expérience faite, on ne peut évidemment pas demander à l'IA de juger ce que l'IA produit ;-)

Bref il y a toute une méthodologie à  mettre au point pour arriver à bien utiliser cet outil nouveau.

Et cette question n'est pas neuve :  quand la roue a été inventée (ou découverte ?), il a fallu apprendre à ne pas la mettre dans un terrain en pente sous peine de la voir dévaler : il fallait déjà se méfier.

Comment faire de la meilleure science ?

 
Ah, voilà une difficile question ! Et, surtout, a-t-elle un sens ? Car on ne doit jamais oublier que les mots ne correspondent pas toujours à des réalité : pensons à "carré rond" ou à "père Noël".

Commençons simplement par "faire de la science" : en réalité, cela signifie "faire de la recherche scientifique".

D'autre part, sans perdre une seconde, n'oublions pas que le mot "science" est trop large, et que l'on parle aussi bien de "science du coordonnier" ou de "science du maître d'hôtel", au sens de savoir, que de "sciences de la nature", pour désigner ces activités très particulières que sont la chimie, la physique, la biologie... que je distingue des sciences de l'humain et de la société : sociologie, psychologie, géographie, histoire...

Enfin, il y a l'adjectif "bonnne", ou "meilleure" ? Cela vaut la peine de commencer par "bonne" : que serait une "bonne science de la nature" ? Il y a mille façons d'interpréter l'adjectif, mais  par exemple :
- faire activement de la recherche scientifique
- faire éthiquement de la recherche scientifique
- obtenir des résultats, c'est-à-dire faire des découvertes.

Dans la dernière acception, faire de la meilleure science serait avoir plus de chances de faire des découvertes, faire plus de découvertes qu'on n'en ferait autrement.

En conservant à l'idée qu'il y a de grandes et de petites découvertes, des découvertes plus ou moins "importantes", nouvel adjectif épineux auquel se frotte chaque année le jury du prix Nobel : comment évaluer l'importance d'un travail ? Souvent, c'est au rayonnement des travaux que l'on se raccroche, et pourquoi pas, au fond ? Mais il y a aussi les solutions à des questions difficiles (la chiralité des sucres, le boson de Higgs, etc.).
Et puis, pour les sciences de la nature, il y a tout à la fois les objets du monde, et les théories qui les décrivent, au moins pour ce qui concerne la science, et non pas ses applications.

Revenons à ce "meilleure", qui -je ne l'ai pas dit- se posait à propos de l'introduction de l'usage de l'intelligence artificielle dans la pratique de la recherche scientifique. Cet usage permet-il de faire plus efficacement des découvertes ? En tout cas, il y aura lieu de ne pas confondre la pratique scientifique et sa communication... puisque tout ce billet est en réalité motivé par la publication d'un intéressant article de la revue science : One-fifth of computer science papers may include AI content, que l'on trouve ici : https://www.science.org/content/article/one-fifth-computer-science-papers-may-include-ai-content?utm_source=sfmc&utm_medium=email&utm_campaign=ScienceAdviser&utm_content=lifeacademic&et_cid=5694877

Il faut transmettres des connaissances vérifiées

Alors que je viens de recevoir au laboratoire le vidéaste Jean Tertrain, passionné de cuisine, je m'aperçois que le discours que je lui ai tenu s'apparente en tous points à celui que j'ai développé la veille aux étudiants de l'université Rice  : dans les deux cas, pour être utile,  j'ai cherché à expliquer. 

À expliquer d'abord ce qu'est la démarche scientifique.
Puis à expliquer ce qu'est la gastronomie moléculaire et physique, puisqu'il s'agit d'une discipline scientifique et non pas une forme de cuisine. 

Mais évidemment, ayant présenté cela en pratique et en théorie, j'ai dû discuter la question de la "cuisine moléculaire", à la fois technique ou style culinaire (il s'agit d'utiliser des matériels modernes). 

Et comme la cuisine moléculaire est une chose ancienne, j'ai expliqué ce qu'est la cuisine de synthèse et la cuisine note à note, la première étant une nouvelle technique culinaire et la seconde étant un nouveau style issu de cette nouvelle technique. 

 

Dans les deux cas, face à notre ami de la chaîne Graille et face aux étudiants de l'Université Rice, je n'ai pas pu me résoudre à omettre des discussions sur la transmission des savoirs et, notamment, des savoirs techniques et artistiques. 

Il me semble que les mots s'imposent absolument et que les connaissances que l'on transmet doivent être assurées, vérifiées, référencées, sans quoi nous perdons toutes légitimité. 

A ce propos, un ami vient de me confier les résultats de deux questions qu'il avait posées à l'intelligence artificielle, notamment à propos du goût et à propos de la notion de précision culinaire : dans les deux cas, différents moteurs d'intelligence artificielle ont produit de très mauvais documents, accumulant les lieux communs, les erreurs, les approximations...  et ma conclusion de l'examen de ces résultats est que nous ne sommes pas prêt d'être remplacés dans ce que nous avons de meilleur. 

Oui, l'intelligence artificielle peut produire des données mais que valent-elles ? Le monde culinaire, la culinosphère, bruit également de rumeurs, d'informations étranges, mais celle-ci sont aussi peu référencées et aussi peu justes que celles que nous a fourni ChatGPT et ses copains. 

 

Bref il y a lieu de regarder le bleu du ciel plutôt que la frange du sol ; et,  mieux, il nous faut nous activer pour chasser les nuages et faire un ciel encore plus bleu qu'il n'est plus aujourd'hui.

Intelligence artificielle et gâteau au chocolat

 Je reçois ceci : 

J'ai fait cette vidéo youtube qui peut vous intéresser je pense :https://www.youtube.com/watch?v=at32u-reCHU&t=1s .

 

Et effectivement, c'est intéressant. Je réponds : 

 

Bravo et merci. Je viens de le twitter... en observant toutefois que la cuisine, c'est moins une question de technique que d'art, et, mieux, d'amour.

Pour l'art (le bon, c'est le beau à manger, plus que le beau à voir, qui relève, lui, de la composante sociale), il n'y a pas de règle... et d'immenses débats à propos de "AI et art".

Et puis, ce que j'aime hic et nunc, ce n'est pas ce que j'ai aimé hier, ni ce que j'aimerai demain... notamment parce que mon humeur, mon appétit, ma compagnie ont été, sont, seront différents. Un nouveau travail en perspective ?

bien cordialement