Donnons-nous des conditions qui n'engendrent pas d'impossibilités

J'apprends que certaines revues scientifiques sont si submergées d'articles qu'elles sont contraintes de procéder ainsi : d'abord elles éliminent tous les articles qui ont été écrits par des machines ou par des sociétés spécialisées dans la production de faux articles scientifiques, ce qui représente déjà 30 % (vous avez bien lu !) des manuscrits soumis. Ensuite les éditeurs du comité restreint se réunissent pour sélectionner les manuscrits qui ont quelques chances d'arriver jusqu'à l'expertise finale par les pairs, ne retenant qu'une fraction du reste. Ce sont ces articles qui sont ensuite envoyés à des éditeurs en charge de conduire le processus d'examen par des experts.

Cette procédure a des conséquences, et notamment que les auteurs d'articles refusés les soumettent à d'autres revues moins bien classées par ordre de citations.
Et c'est ainsi que je vois apparaître des cas pathologiques comme le suivant : un manuscrit soumis et envoyé à des rapporteurs a suscité des remarques ; les auteurs ont fait quelques corrections, mais pas assez pour pallier les insuffisances du manuscrit, de sorte que les rapporteurs ont ensuite, lors d'un deuxième circuit,  fait d'autres remarques. Et, la troisième fois, j'ai vu des auteurs retirer (ou non) leur manuscrit et le publier ailleurs !

C'est détestable, c'est malhonnête, et il est très malhonnête, également, que des revues publient des textes si mauvais !

 Ces phénomènes sont trop dommageables pour l'ensemble de la communauté scientifique pour que nous ne cherchions pas rapidement des solutions.

Je veux surtout frayer avec des gens gentils

 Je veux surtout frayer avec des gens gentils

1. Discutant avec un collègue d'un comité éditorial, nous évoquons le cas de ces rapporteurs qui mêlent des jugements de valeurs désobligeants aux critiques fondées qu'ils peuvent faire.

2. Mais,  pour expliquer la question, il faut reprendre à la base & expliquer que quand un manuscrit est soumis à une revue, le secrétariat de rédaction confie à un éditeur le soin de chercher deux rapporteurs, qui vont donc lire le manuscrit & en faire une analyse.
Il y a des situations variées, notamment certaines revues veulent simplement une évaluation du manuscrit, mais généralement, les rapporteurs doivent analyser le texte ligne à ligne & identifier toutes les corrections qui devront être faites pour que le texte soit publiable par la revue.

3.  C'est là où commence la difficulté car "analyse critique" ne signifie pas critique, mais seulement dépistage factuel d'erreurs de tous ordres : les rapporteurs doivent relever les erreurs, les imprécisions, etc., & cela concerne tout aussi bien le projet  scientifique que les fautes d'orthographe.

4. Or la communauté scientifique sait très bien qu'il y a l'écueil de ces rapporteurs qui mêlent des jugements de valeurs à leurs analyses, & cela n'est pas bon :  on a le droit de signaler beaucoup d'erreurs, mais on n'a pas le droit de dire que l'article est "mauvais", & c'est donc la tâche de l'éditeur que de gommer ces phrases qui peuvent être selon les cas méprisantes,  désobligeantes, déplacées, hors de propos...  sachant de surcroit que, comme je le montrerai dans un autre billet, les rapporteurs ne sont pas parfaits, loin s'en faut.

5. Il y a donc lieu d'être prudent quand on est éditeur d'un article à propos de ce que l'on transmets aux auteurs, & c'est là que notre discussion d'aujourd'hui commence : mon collègue avec qui je discutais me disait que, étant scientifiques, nous ne devons pas avoir à craindre les blessures narcissiques & que tout cela n'est pas très grave.

6. Je m'oppose absolument à cette idée & non pas seulement pour ce qui me concerne mais surtout pour tous les jeunes scientifiques nous voulons encourager. Ce n'est pas en tapant sur les cornes de l'escargot qu'on lui permettra d'avancer, ce n'est pas en blessant nos amis que nous créerons une communauté soudée, amicale, cohérente...

7.  D'autant que les rapporteurs sont loin d'être parfaits, & que, bien souvent, on voit des commentaires fautifs !

8. Mon collègue, à qui je réponds cela, me rétorque que si l'on récuse ces rapporteurs déplaisants, personne n'acceptera plus de faire le travail de rapporteur... Mais pas du tout : c'est seulement que nous n'aurons plus ces rapporteurs détestables, & ce sera tant mieux !  

9. En tout cas, il n'y a pas lieu d'encourager un état d'esprit agressif, dans les évaluations (terme mal choisi) de manuscrits. Au contraire, il faut enseigner (je dis  bien "enseigner")  à nos collègues à être civils, gentils, indulgents, encourageants...

10. C'est d'ailleurs la raison pour laquelle j'avais moi-même publié un article qui disait en substance que nous avions moins besoin d'évaluations que d'analyse des manuscrits & de conseils à donner aux auteurs pour qu'ils améliorent ces derniers jusqu'au point de les rendre publiables.

11. En disant cela, je ne cède en rien sur la qualité des textes publiés, qui doit être parfaite. Il doit y avoir autant d'aller-retours que nécessaires pour arriver à la publication, & il est hors de question de publier des articles scientifiques insuffisants.

12. Le jugement des textes par les pairs est un bon principe, qu'il faut conserver (en plus du double anonymat ; voir https://www.academie-agriculture.fr/publications/notes-academiques/lanalyse-critique-des-manuscrits-et-les-conseils-damelioration-donnes), & améliorer. Pour cela, il faut encourager  la gentillesse,  l'intelligence, la droiture... & les qualités scientifiques.

L'évaluation des manuscrits scientifiques soumis aux revues doit être mieux prise en compte dans l'évaluation des scientifiques !

Dans nos organisations d'enseignement supérieur, nos partenaires industriels nous réclament aujourd'hui que nous formions bien les "collègues plus jeunes" (ma terminologie pour désigner les étudiants qui bénéficient d'une carte d'étudiant) à l'évaluation des articles scientifiques.
J'ai bien dit l'évaluation, et non pas seulement la lecture. Pour la lecture, c'est fait, mais ce qui est en jeu, c'est de reconnaître si un article scientifique est fiable ou non... preuve que je ne suis pas complètement insensé de dire que les revues scientifiques font mal leur travail, et publient bien trop d'articles médiocres.
Dans notre groupe de recherche, nous en sommes réduits, quand nous nous échangeons des textes, après une étude bibliographique, à les assortir d'un mmm (exécrable), mm (très mauvais), m (mauvais), b (bon), bb (très bon), bbb (excellent)... et nos statistiques montrent, hélas, que la balance penche puissamment du mauvais côté. Je ne compte pas ces textes qui commencent par "la couleur des aliments est le paramètre le plus important de l'appréciation gustative" ; ces textes dont la description des matériels et des méthodes est insuffisante pour reproduire l'expérience   ces textes où fleurissent les adjectifs et adverbes, qui auraient dû être remplacés par la réponse à la question "Combien ?" ; ces textes où les interprétations se résument à "nos résultats sont conformes à ceux de XXXX"... Il y a du ménage à faire, et cela de façon urgente !

Nous sommes bien d'accord : les scientifiques doivent faire de la recherche scientifique, et chercher les mécanismes des phénomènes, en mettant en oeuvre cette si belle méthode scientifique que j'ai décrite bien des fois dans ce blog.

Toutefois, dans la mesure où nous publions les résultats en les soumettant à des pairs (les "rapporteurs" sollicités par les revues scientifiques), n'avons-nous pas une obligation morale d'accepter à notre tour d'évaluer des manuscrits ? D'ailleurs, il s'agit moins d'évaluer, à savoir déterminer la valeur, que de discuter des manuscrits afin que les auteurs puissent les améliorer, jusqu'à ce que ces textes soient acceptables (et acceptés) pour publication.
Bref, je me demande si nous ne devrions pas expertiser autant que nous sommes expertisés, voire davantage à mesure que nous devenons plus capables de mieux conseiller nos amis, de mieux dépister des erreurs ou des imprécisions qu'ils font, toujours avec l'idée de mieux élaborer ce qu'Albert Einstein nommait le Temple de la science. 

Être rapporteur demande du temps, du soin. Il faut tout autant être vigilant quant aux interprétations que s'intéresser aux références, qu'il faut connaître ou lire. Il faut traquer les erreurs méthodologiques, mais aussi identifier des ambiguïtés de simple rédaction... Bref, ce sont des heures de travail pour chaque manuscrit expertisé. Et l'on doit bien dire, en ces temps de publication à outrance, avec un nombre de scientifiques qui a explosé, un nombre de manuscrit qui a démesurément augmenté, notamment avec l'ouverture de la Chine ou de l'Inde, que les rapporteurs ne suffisent plus à la tâche. Alors que, déjà, nous avions le sentiment qu'expertiser des articles n'était pas "notre métier", lequel était de produire des connaissances.

Mais le présent est un appel : nos systèmes d'évaluation, qu'il s'agisse des HCERES ou des systèmes particuliers à chaque organisme de recherche, font la part très faible à l'évaluation des manuscrits scientifiques, et cela n'est pas bon. Déjà, les facteurs H, d'impact ou autres sont des indices bibliométriques que je déteste pour mille raisons qu'il serait trop long de donner, mais rien n'est dit, dans ces indices de cette activité essentielle qu'est l'évaluation scientifique.  Il faut changer cela rapidement !

Mais ai-je bien raison d'évoquer l'absence de prise en compte de l'activité de rapporteurs ? 
Allons, regardons, par exemple, les critères d'évaluation de la section 13 du CNRS :

SECTION 13
Chimie physique, théorique et analytique

Ces critères sont ouverts, non exclusifs, non hiérarchisés et non strictement cumulatifs.
Evaluation périodique des chercheurs
Critères communs à tous les chercheurs

Les chercheurs seront avant tout évalués sur la qualité et l'originalité de leurs contributions scientifiques sans se contenter d’un simple examen de critères quantitatifs ou bibliométriques. Ces derniers seront pris en considération en intégrant les spécificités des différentes sous-disciplines qui composent la section et en considérant le contexte local, national et international. L'évaluation périodique prend également en compte les autres dimensions de l'activité de recherche comme la diffusion de la culture scientifique, la valorisation ou le transfert des connaissances, les responsabilités collectives ou de management de la recherche, etc. L’évaluation d’un chercheur est par essence «multicritères».

Contributions scientifiques: La section examinera l’ensemble des productions (publications, conférences invitées, ...) en cherchant à faire apparaître le poids relatif des différentes contributions (travail de thèse, travail de post-doc, nouveau(x) sujet(s), ...). L’originalité et l’impact des travaux dans la communauté scientifique seront au cœur de l'évaluation, ainsi que les interactions avec les chercheurs d’autres disciplines ou sous disciplines. L’implication dans des programmes de recherche nationaux et internationaux sera évidemment considérée.

Enseignement, formation, encadrement et diffusion de l’information scientifique: La section examinera attentivement tout type de participation à des actions de formation, de dissémination de savoir-faire, de vulgarisation scientifique, d’encadrement, d’organisation de réunions scientifiques ...

Mobilité: Il s’agit de la mobilité thématique aussi bien que géographique. Elle ne constitue pas une valeur ajoutée par elle-même, mais par la nouveauté et la dynamique scientifique qu’elle permet.

Transfert technologique, valorisation, relations industrielles: La section prendra en compte toute action de valorisation ou de transfert technologique dont les brevets, les procédés brevetés effectivement exploités ayant un poids particulier. Par ailleurs, ces critères seront examinés suivant les spécificités de la sous-discipline du chercheur, celles-ci pouvant se présenter sous différentes formes et chacune ayant son bénéfice, direct ou indirect.

Objectifs et dynamisme de la recherche: Ce dernier critère est éminemment qualitatif. Il s’agit d’évaluer en quoi le projet de recherche, à court et moyen terme, s’inscrit dans une dynamique et dans un contexte national et international porteur. Le rôle moteur, le travail en équipe et la prise de risque seront ici, autant que possible, évalués.

Remarques importantes pour la rédaction du dossier: La section conseille vivement de présenter la liste des publications en faisant clairement la distinction entre les articles parus dans des revues internationales à comité de lecture, les actes de congrès, les revues sans comité de lecture et les articles de vulgarisation. Il est également conseillé de faire apparaître l’auteur correspondant. De même pour les présentations orales, il conviendra de préciser la nature de celles-ci (communication orale, invitée, séminaire, etc.) et le rôle du chercheur (orateur ou co-auteur). Il est important qu’un résumé signalétique puisse être communiqué aux membres de la section, que les relations entre l’information scientifique et les données quantifiables apparaissent de manière claire et que les rapports d’activité «à vague» et «mi-vague» soient concis.


Donc, je n'avais pas tort : pas une ligne -explicite- sur l'activité d'évaluation des manuscrits. Cela n'est pas bon, et doit être changé rapidement, vu la qualité médiocre de bien trop  d'articles publiés actuellement !