Les algorithmes avant l’intelligence artificielle : enjeux, pratiques et contextes de l’automatisation de la décision médicale à partir de deux cas d’étude

Thèse de doctorat en Épistémologie et Histoire des sciences et des techniques.

9h30, Nantes, salle des séminaires du Centre François Viète.

Possibilité d’y assister également par visioconférence:
Participer à la réunion Zoom
https://univ-nantes-fr.zoom.us/j/99266605388?pwd=ck1Zb0Vha1dpdlV3L2ZVb2hXK3RCUT09

ID de réunion : 992 6660 5388
Code secret : 696448

Le jury sera composé de :

• Philippe Bizouarn, Praticien hospitalier, Centre hospitalo-universitaire de Nantes, co-encadrant
• Marie Gaille, Directrice de recherche CNRS, SPHERE, Université Paris Diderot, rapportrice
• Élodie Giroux, Maître de conférences habilitée à diriger des recherches, IRPHIL, Université Jean Moulin Lyon III, examinatrice
• Xavier Guchet, Professeur des universités, COSTECH, Université de technologie de Compiègne, co-directeur de thèse
• Maël Lemoine, Professeur des universités, ImmunoConcEpT, Université de Bordeaux, examinateur
• Emmanuel Picavet, Professeur des universités, ISJPS, Université Paris I Panthéon-Sorbonne, rapporteur
• Stéphane Tirard, Professeur des universités, Centre François Viète, Université de Nantes, co-directeur de thèse

La soutenance se tiendra en présence de Bernard Baertschi, Maître d’enseignement et de recherche, iEH2, Université de Genève.

Résumé :

Le développement de l’intelligence artificielle appliquée à la décision médicale est aujourd’hui largement commandé par une logique de substitution plutôt que de suppléance du médecin sur certaines tâches qui lui sont dévolues. Dès lors, les praticiens ont rarement voix au chapitre en ce qui concerne la conception de ces dispositifs. Or, les échecs passés de technologies qui leur étaient destinées indiquent que ces derniers n’adopteront pas ces dispositifs si ceux-ci ne tiennent pas compte de leurs pratiques effectives. Cette thèse étudie deux cas d’usage d’algorithmes en médecine et en tire les conséquences pour le déploiement futur de l’intelligence artificielle dans ce champ. Les algorithmes étudiés sont Hamilton Depression Rating Scale en médecine générale et l’arbre décisionnel et les scores cliniques proposés en 2014 par l’European Society of Cardiology en médecine d’urgence. La première étude de cas montre que ces algorithmes intègrent des normes sociales et ont été déployés en médecine par les autorités médicales à partir des années 1990 afin de normaliser la décision médicale, et par suite, les pratiques. La seconde montre quant à elle, à travers les résultats d’une enquête de terrain, qu’en vertu de leur conception, ces algorithmes permettent aux médecins de se les approprier et par conséquent de rester auteurs et sujets de leurs propres normes de travail. Ensemble, ces deux études de cas montrent que si les promesses de l’intelligence artificielle en médecine ont vocation à ne pas demeurer un effet d’annonce, la conception de ces technologies doit tenir compte des pratiques médicales effectives, ce qui soulève en définitive l’épineuse question de leur généralisabilité à d’autres contextes d’usage.

Abstract:

The development of artificial intelligence applied to medical decision-making is today largely driven by a substitution logic of the physician in some of his tasks rather than a suppliance one. As a result, practitioners rarely have a voice in the design of these devices. However, past failures of technologies designed for them indicate that the latter will not use devices that do not take into account their actual practices. This dissertation studies two use cases of algorithms in medicine and draws the consequences for the future deployment of artificial intelligence in this field. The studied algorithms are Hamilton Depression Rating Scale in general practice and the decision tree and clinical scores proposed in 2014 by the European Society of Cardiology in emergency medicine. The first case study shows that these algorithms integrate social norms and have been deployed in medicine by medical authorities since the 1990s in order to normalize medical decisions, and consequently, practices. The second shows, through the results of a field survey, that by their design, these algorithms allow physicians to reappropriate them and consequently to remain authors and subjects of their own work standards. Together, these case studies show that if the promises of artificial intelligence in medicine are not to be empty, their design has to take into account actual medical practices, which ultimately raises the thorny issue of their generalizability to other use contexts.