– Colloque (Datasante/Arsep) 16 & 17 Mai 2024, Nantes Université –

Les outils d’aide à la décision médicale investissent de plus en plus de spécialités cliniques et visent, en particulier, l’automatisation de différentes étapes du travail diagnostique et prognostique. Si ces technologies ne sont pas nouvelles et se généralisent dans le domaine de la santé depuis les années 1990, elles acquièrent aujourd’hui des formes spécifiques liées aux transformations de l’intelligence artificielle (IA) et des méthodes d’exploitation des données massives. Des nouveaux dispositifs, basés essentiellement sur des algorithmes d’apprentissage automatiques, ambitionnent par exemple d’accomplir une série d’opérations hétérogènes : classer des images médicales, cibler et caractériser des lésions, prédire la survie ou la récidive des patients. Ces opérations ne sont pas anodines car elles sont impliquées dans l’orientation des choix thérapeutiques et la prise en charge des individus. Des travaux devenus classiques, qui portent essentiellement sur l’ancienne génération d’outils d’aide à la décision – comme les systèmes experts – analysent ces objets par le biais de questions diverses comme la standardisation du travail médical (Berg, 1997), les utilisations et la manière dont l’environnement matériel autorise ou pas certaines tâches cognitives (Hutchins, 1995 ; Suchman, 1987) ou la construction des usagers et les relations de pouvoir qu’elle implique (Forsythe, 2001 ; Woolgar, 1990). L’objectif de ces deux journées d’étude est de penser aux possibles renouvellements de ces analyses à partir de systèmes d’aide à la décision qui sont actuellement intégrés en pratique clinique ou en cours de développement. Pour ce faire nous souhaitons faire appel à des recherches en sciences humaines et sociales qui s’intéressent à ces objets et qui s’inscrivent dans l’un et/ou l’autre des axes de réflexions ci-dessous :

1) Travail de conception et valeurs véhiculées par les systèmes d’aide à la décision. Si chaque outil incarne des « script » (Akrich, 1987), de quels idéaux celui-ci est l’apanage ? Il s’agira dans cet axe de réfléchir à la manière dont le processus de décision clinique est imaginé à travers la technologie et comment les patients (mais aussi les professionnels et la maladie) sont décrits, représentés et mesurés. On pourra également s’interroger sur la part de choix techniques liés à des considérations juridico-réglementaires, réelles ou perçues. En général, et à partir de ce que les outils de calcul rendent visible ou laissent dans l’ombre (Jasanoff, 2017), nous souhaitons comprendre comment ces outils agissent en tant que témoins d’idéaux socio-techniques spécifiques.

2) Analyse des usages en clinique : appropriations et résistances. Les systèmes algorithmiques s’appuient sur une quantification qui peut être défiée, contestée, détournée, adoptée par les cliniciens et les professionnels de santé. Les nouvelles incertitudes qui émergent des usages, questionnent la pertinence des opérations automatisées face aux éléments non quantifiés par la machine mais pris en compte par les cliniciens (Anichini et Geffroy, 2021) ou l’utilisation des résultats issus des technologies dans la relation avec le patient (Geampana et Perrotta, 2023). A partir de réflexions sur divers contextes d’usages dans le monde médical, nous voudrions mettre en lumière différentes articulations ou oppositions de ces outils aux normes locales. Quelle représentation et quelle mise en œuvre des normes déontologiques d’indépendance et de responsabilité pourraient ici être modifiées ? Dans quelle conditions les soignants considèrent-ils les systèmes d’aide à la décision comme « objectifs » ? Quel genre de travail cela implique-t-il ? Comment l’introduction de ces outils redessine-t-elle les contours de l’expertise médicale et quel genre de collectif l’accompagne et la structure ?

3) Que faire des expériences vécues ? Lorsque l’usage d’outils d’aide à la décision s’invite dans une consultation médecin-malade, comment ce dialogue peut-il évoluer ? Quelles différentes stratégies / rhétoriques peuvent être utilisées par le clinicien ? A quoi lui sert l’outil face au patient ? Comment le patient reçoit-il ou perçoit-il cet intermédiaire ? Comment cet outil concrétise-t-il ou détourne-t-il le principe de codécision ? Cet axe en appelle notamment aux travaux empiriques portant sur les expériences vécues d’usage d’outils d’aide à la décision médicale au sein des relations soignants-soignés. Il s’agit ici de questionner comment ces outils viennent modifier/transformer -ou non- ces relations et le cas échéant, en quel sens ? Quelles conséquences, par exemple, sur le moment de l’annonce diagnostic pouvant désormais s’appuyer sur la projection algorithmique d’une trajectoire de maladie ?

Ces journées se dérouleront les 16 et 17 mai 2024 et sont organisées dans le cadre du projet de recherche « Étude de l’outil algorithmique d’aide à la décision médicale MS Vista » (coord. M. Lancelot), financé par la Fondation pour l’aide à la recherche sur la sclérose en plaques (ARSEP). Ces travaux s’inscrivent dans la continuité du programme DataSanté [1] (coord. S. Tirard) dont ce sera l’occasion de la clôture.

Nous sollicitons des propositions pluridisciplinaires : sociologie, anthropologie, philosophie, histoire, droit, sciences politiques, sciences de l’information et de la communication. Les communications pourront être proposées en français ou en anglais.

Un résumé de 1500 mots maximum accompagné d’un titre et de références bibliographiques est attendu pour le 20 novembre 2023 et peut être déposé sur le site https://aidealadecision.sciencesconf.org/   Ce texte synthétisera le contenu de la communication en se référant de manière explicite à un ou plusieurs axes de l’appel à communications. Il permettra une pré-sélection des communications par l’équipe coordinatrice des journées. Les auteur·e·s seront informé·e·s de la recevabilité de leur proposition courant décembre 2023.

Les communications sélectionnées pour ces journées feront l’objet d’une publication.

CO : G. Anichini, M. Lancelot, S. Tirard, S. Desmoulin, X. Guchet

Bibliographie

Akrich M., 1987, « Comment décrire les objets techniques? », Techniques et culture, 9, p. 49‑64.

Anichini G., Geffroy B., 2021, « L’intelligence artificielle à l’épreuve des savoirs tacites. Analyse des pratiques d’utilisation d’un outil d’aide à la détection en radiologie », Sciences sociales et santé, 39, 2.

Berg M., 1997, Rationalizing medical work: decision-support techniques and medical practices, MIT press.

Forsythe D., 2001, Studying those who study us: An anthropologist in the world of artificial intelligence, Stanford University Press.

Geampana A., Perrotta M., 2023, « Predicting success in the embryology lab: The use of algorithmic technologies in knowledge production », Science, Technology, & Human Values, 48, 1, p. 212‑233.

Hutchins E., 1995, Cognition in the Wild, MIT press.

Jasanoff S., 2017, « Virtual, visible, and actionable: Data assemblages and the sightlines of justice », Big Data & Society, 4, 2, p. 2053951717724477.

Suchman L.A., 1987, Plans and Situated Actions: The Problem of Human-Machine Communication, Cambridge University Press, 224 p.

Woolgar S., 1990, « Configuring the user: the case of usability trials », The Sociological Review, 38, 1_suppl, p. 58‑99.2

~

CFP « Medical decision-support system or the work of caring challenged by automation » (Datasanté/Arsep) May 16 & 17, 2024, Nantes University

Medical decision-support system are increasingly being used in clinical specialties, with a particular focus on automating the various stages of diagnostic and prognostic work. While these technologies are not new, and have been widely use in the healthcare domain since the 1990s, they are now acquiring specific forms linked to artificial intelligence (AI) transformations and massive data exploitation methods. New devices, essentially based on machine learning algorithms, aim to perform a series of heterogeneous operations: classifying medical images, targeting and characterising lesions, predicting patient survival or relapse. These operations are crucial, as they are involved in the therapeutic choices and the care of individuals. Now classic sociological works, which mainly focus on the older generation of decision-support systems – such as expert systems – analyse these objects through such diverse issues as: the standardisation of medical work (Berg, 1997); technology appropriation by users and the way in which the hardware environment authorises or not some cognitive tasks (Hutchins, 1995; Suchman, 1987); the user construction and the power relations it implies (Forsythe, 2001; Woolgar, 1990). The aim of this two days workshop is to consider how these analyses can be renewed, by studying decision-support systems that are currently integrated into clinical practice or under development. To this end, we are inviting research in the humanities and social sciences that are interested in these issues and fit into one (or more) of the following line of research:

1)     Design work and the values conveyed by decision support systems. If each tool embodies « scripts » (Akrich, 1987), what ideals support these scripts? This section will look at how the clinical decision-making process is imagined through technology, and how patients (and their diseases) are described, represented and measured. We will look at the extent to which technical choices are linked to legal and regulatory considerations, whether real or perceived. In general, and based on what computational tools make visible or invisible (Jasanoff, 2017), we wish to understand how these tools act as witnesses to specific socio-technical ideals.

2)     Clinical uses analyses: appropriation and resistance. Algorithmic systems rely on quantification that can be challenged, contested, hijacked or adopted by clinicians and healthcare professionals. The new uncertainties emerging from their use call into question the relevance of automated operations faced with to elements not quantified by the machine, but taken into account by clinicians in their daily work (Anichini and Geffroy, 2021), or the use of results obtained from technologies in the relationship with the patient (Geampana and Perrotta, 2023). Based on reflections on various medical contexts, we would like to highlight different articulations or oppositions of these tools relative to local norms. What representation and implementation of ethical standards like independence and responsibility could be modified here? Under which conditions do healthcare professionals consider decision-support systems to be « objective »? What kind of work does this entail? How does the introduction of these tools redefine medical expertise, and what kind of collectives accompanies it?

3)     What can we do with the lived experiences? When the use of decision-support systems is introduced into a medical consultation, how can the doctor-patient dialogue evolve? What different strategies/rhetoric can the clinician employ? What is the tool used to? How does the patient receive or perceive this intermediary? How does this tool concretise or subvert the codecision principle? This section draws on empirical research looking at lived experiences of the use of medical decision-support system in doctor-patient relationships. How do these tools modify/transform these relationships, and if so, in what way? What are the consequences, for example, for the moment of diagnosis, which can now be based on the algorithmic projection of a disease trajectory?

These days will take place on 16 and 17 May and are organised as part of the research project entitled « Study of the MS Vista algorithmic medical decision support system » (coord. M. Lancelot), funded by the Fondation pour l’aide à la recherche sur la sclérose en plaques (ARSEP). This research is a continuation of the DataSanté programme (coord. by S. Tirard), which will be closing at the same time.

We are inviting interdisciplinary proposals: sociology, anthropology, philosophy, history, law, political science, information and communication sciences.

An abstract of no more 1500 words with a title and bibliographical references should be submitted (in French or English) by November 20 via SciencesConf.org. Submitted texts should summarise the communication’s content, referring explicitly to one or more of the lines of this call for papers. The coordinating team will then make a pre-selection. Authors will be informed of the admissibility of their proposals in December 2023.

Papers selected for the conference will be published.

Scientific and organisational committee: G. Anichini, M. Lancelot, S. Tirard, S. Desmoulin, X. Guchet