Séminaire doctoral Transnum #7 : Les SHS face aux initiatives d’automatisation dans la vie publique et privée : postures, ressources, méthodes

La séance s’est articulée autour de trois recherches portant sur différentes initiatives d’automatisation dans la vie publique et privée, soulevant des postures, ressources, méthodes et problématiques singulières.

***

Gabriel Lucchini-Moyal : Redéfinition du risque et de l’assurance à l’âge de la Troisième Révolution Industrielle

Gabriel, doctorant en philosophie politique et éthique appliquée, débute sa thèse en CIFRE où il s’interroge sur la redéfinition du risque et de l’assurance à l’âge de la Troisième Révolution Industrielle.

1 / La société du risque

Depuis la seconde moitié du XIXème siècle, les assurances sont créées afin de palier des nouveaux risques, soit des dangers dont la société estime qu’il est nécessaire de mettre en commun la gestion : maladies, catastrophes naturelles, etc. L’arrivée de puissantes technologies statistiques pousse la société à essayer de comprendre, anticiper et prédire ces risques, afin de les éviter ou d’y  remédier. Elles définissent également la construction d’un « homme moyen » permettant de saisir les risques potentiels des individus sociaux : cet homme moyen ne correspond plus aux définitions proposées par des philosophes modernes comme Hobbes ou Locke, mais incarne une figure abstraite construite par le milieu naissant de l’assurance en Europe. L’assurance moderne naît à la fin du XIXème siècle au croisement des mathématiques et la sociologie, par l’application du calcul des probabilités à des données issues de la statistique. Cette méthodologie permet d’évaluer des chances d’occurence des évènements sur leur régularité. L’assurance apporte ainsi des réponses précises à la gestion du risque. Ces avancées ont participé à transformer ce modèle social en société du risque : la société produit les risques qu’elle prend en charge.

2/ L’arrivée du numérique

Ce modèle d’assurance est particulièrement bouleversé par l’arrivée du numérique. D’une part, la nature et la disponibilité des informations change. Le passage d’une collecte de données empirique à une collecte de la « data », permet notamment d’identifier des traits particuliers ou des caractéristiques qui ne l’étaient pas auparavant.  D’autre part, l’apparition de l’automatisation des calculs avec les algorithmes et l’intelligence artificielle modifie l’amplitude des données traitées : il est désormais possible de traiter et stocker un nombre important d’informations, et ce de manière très rapide.

Ces deux derniers éléments proposent ainsi une modification des logiques de mutualisation, notamment par les modèles prédictifs de ses algorithmes. Maintenant qu’il est possible d’identifier (de prédire) plus précisément quel risque peut toucher quel type d’individu, il devient possible d’assurer uniquement les individus potentiellement concernés. L’assurance n’est plus calculée sur des risques moyens mais donc sur des risques sur-évalués.

Le calcul des risques en fonction de critères précis (et déterminés de manière opaque) semble vouloir proposer une assurance « sur mesure » qui soulève des questions de responsabilisation et de discrimination. Si un individu a des accidents répétés en voiture, il sera tenu responsable et le prix de son assurance augmentera en fonction. Cependant est-il possible de tenir responsable un individu de son héritage génétique, en le majorant sur sa propension à/probabilité de tomber malade ?

Deux modèles semblent s’opposer :

  • Un modèle d’assurance non-mutualiste, sur mesure, où les risques sont connus, prédictibles et anticipables, et où seuls les individu prenant ces risques seront assurés.
  • Un modèle basé sur une culture de la solidarité portant cependant la conséquence de l’ignorance de risques réels.

Dans les deux cas la question de l’Etat et de sa responsabilité demeure centrale : quelle position adopter ? Quel modèle social hériterons-nous de cette nouvelle révolution propre à ce contexte de post-modernité ?

3 / Échanges

Suite à la présentation la discussion traite de :

  • La dimension stratégique dans le travail de CIFRE : y aurait-il une anticipation stratégique et intéressée des acteurs professionnels de l’assurance dans le cadre de recherches éthiques ?
  • La reconfiguration de la société industrielle via la société du risque, et plus particulièrement lié au travail. Au XIXème siècle, contrairement à aujourd’hui, on achetait un travail, un service ou une prestation mais pas le risque qui allait avec.
  • La dissipation du « voile  d’ignorance » autour des risques puisque les informations et statistiques tendent à produire un alter ego numérique pour chaque individu.
  • Du choix de ne pas parler de quatrième révolution industrielle (terme qui commence à circuler dans le corps social), mais plutôt de s’appuyer sur la définition proposée par Rifkin, et qui ne serait pas (ou pas encore) advenue.
  • De ce que font les assurances des individus qui choisissent leurs risques (en dépit d’un examen rationnel de ces derniers).
  • De l’instabilité climatique qui redéfinit de nouveaux risques pour les assurances.

***

Giada Pistilli : Quels enjeux éthiques pour un chatbot à des fins politiques ?

Giade, doctorante en philosophie politique et éthique appliquée, débute sa thèse en CIFRE chez La Petite Marianne. Elle y étudie les questions éthiques soulevées par l’utilisation d’un chatbot de communication politique et publique, ainsi que les conditions auxquelles il peut contribuer à l’amélioration de démocratie participative. Son approche consiste à élaborer une charte éthique (incluant notamment le RGPD) afin de réguler au mieux les flux de données allant vers les utilisateurs, les administrations et les mairies.

1 / Protection des données et automatisation du langage

À l’ère du numérique, les nouvelles technologies occupent une place majeure dans la société contemporaine, d’autant plus lorsqu’elles sont impliquées dans des enjeux politiques. C’est le cas du projet de La Petite Marianne : un chatbot conçu comme un moyen de communication entre les citoyens et les élus, afin de faciliter l’interaction entre l’administration publique et sa collectivité territoriale.

Le chatbot de La Petite Marianne est un chatbot politique (il concentre des interactions entre des administrateurs et des administrés) et public (il fonctionne pour un territoire donné). Il fait remonter des questions connues et reconnaissables, ce qui lui permet à la fois de trouver la meilleure réponse possible mais aussi d’agrandir son périmètre de connaissance. En trouvant la meilleure décision possible à partir d’une concertation citoyenne, le chatbot se propose comme outil de démocratie participative où le citoyen fait partie intégrante de la prise de décision. Ce modèle projette également ce système démocratique dans une dimension communautaire, représentant uniquement les citoyens qui participent.

2 / Améliorer la démocratie par le chatbot

Giada se demande s’il est possible d’améliorer la démocratie à l’aide d’un chatbot politique et public ; elle s’interroge sur les critères capables de définir une telle amélioration. Existe-t-il des critères valables pour tous, élus comme citoyens, vecteurs d’une démocratie qui serait meilleure ? Si c’était le cas, seraient-ils transposables dans le chatbot ? Giada envisage davantage La Petite Marianne comme un facilitateur de communication, un lien plus direct et accessible entre élus et électeurs.

3 / L’enjeu de la donnée : un risque pour la démocratie

Il est essentiel de s’arrêter sur la question des mécanismes qui assurent la fonctionnalité de La Petite Marianne. Le chatbox fonctionne en effet à l’aide du flux de données issues des utilisateurs (élus et citoyens). C’est sur ce point précis que l’éthique occupe une place centrale, particulièrement parce que c’est ici qu’un des risques d’érosion de la démocratie semble apparaître. Cette érosion pourrait advenir si, par exemple les élus récupéraient cet outil technologique afin d’établir des comparaisons et corrélations des données collectées face aux données personnelles des citoyens. D’autres risques, qui n’ont pas encore été mis en lumière ces dernières années restent à envisager afin de les prévenir.

3 / Échanges

Suite à la présentation la discussion traite de :

  • La valeur d’une démocratie participative qui ne représenterait et ne favoriserait que les citoyens qui participent. Giada explique qu’il s’agit d’une question d’éducation et de responsabilisation globale à l’échelle nationale. Elle ne pense pas qu’une entreprise privée puisse porter ce rôle d’éducation à la participation active à la démocratie. Elle distingue le rôle de l’entreprise qui développe le chatbot et les appropriations faites par les administrations.
  • La question de l’écriture et notamment dans le cas où des élus ou citoyens ne seraient pas à l’aise à l’écrit. Serait-ce possible d’envisager une ouverture vers le vocal pour palier ce handicap ?
  • La question de la prise de parole du développeur au travers de la conception de l’interface du chatbot. Ce dernier est développé afin de proposer la plus grande accessibilité possible. Plusieurs responsabilités se dégagent ici : proposer une interface et un contenu accessible à tous sans toutefois y intégrer des biais mais aussi encadrer l’utilisation des informations issues du chatbot (qui pourraient par exemple être utilisées afin de prévoir une élection, d’orienter la stratégie d’une campagne…etc).
  • La donnée comporte de nombreux risques et condense beaucoup de peurs, elle est par conséquent souvent « criminalisée ». Des « données d’intérêt général » sont-elles envisageables ?

***

Clotilde Chevet : « L’interaction homme machine » : un nouveau rapport à soi, à la machine et au monde 

Doctorante en sciences de l’information et de la communication au Gripic, Clotilde travaille en particulier sur les assistants personnels, chatbots et « concierges digitaux ». Elle aborde ici les questions centrales à sa thèse, mais aussi les difficultés rencontrées pour appréhender et analyser en sciences de l’information et de la communication ces objets aux mille couches et mille facettes.

1 / La question d’une interaction automatisée

Lorsque nous parlons d’une interaction nous désignons un échange réciproque et de même nature. Dans le cadre d’une interaction homme-machine, la machine entre dans le même système d’écriture que l’homme, proposant un échange de nature apparemment similaire. Clotilde s’appuie sur les recherches d’Emmanuël Souchier pour définir le système d’écriture d’un point de vue anthropologique comme étant la constitution d’un rapport à soi, d’un rapport à l’autre et d’un rapport au monde. Le rapport à soi désigne ce que l’écriture nous permet d’exprimer, le rapport à l’autre ce qu’elle nous permet de communiquer et le rapport au monde ce qu’elle nous permet de dire, percevoir, exprimer de ce qui nous entoure. L’automatisation de l’interaction change le rapport à soi, en nous faisant écrire avec un assistant vocal sans nécessairement que l’on s’en rende compte. Cette automatisation impose une contrainte d’expression en imposant un certain vocabulaire ou une intonation particulière à adopter afin d’être rendu intelligible par la machine. L’automatisation de l’interaction transforme également le rapport à l’autre, notamment en procédant à une modélisation du schéma conversationnel. Des modèles conversationnels préconçus par les concepteurs (dialoguistes pour robots) sont institués comme norme et définissent un standard de conversation. L’automatisation de l’interaction modifie également notre rapport au monde en « plaquant » des modèles relationnels sur des objets aux modes de fonctionnements différents. Le vocabulaire, les interactions et les modèles relationnels d’ordinaire destinés à des êtres vivants se transposent désormais sur des objets et des machines.

1 / Appréhender et analyser ces objets aux mille couches et mille facettes.

Après avoir présenté ses réflexions sur l’automatisation des interactions entre humains et machines, Clotilde propose d’exposer les difficultés méthodologiques qu’elle rencontre pendant sa thèse, difficultés intrinsèquement liées à ces objets opaques et changeants.

La première difficulté repérée par Clotilde est le souci de l’accès à son objet d’étude. Elle ne peut en effet l’observer que de l’extérieur, en procédant à des analyses d’arbre de conversation par tâtonnement. Elle n’obtient aussi qu’une vision partielle de la fiction conversationnelle proposée par les concepteurs des assistants vocaux. Il lui est impossible d’analyser la totalité du modèle conversationnel, ni de découvrir totalement les méthodes de conception et les imaginaires qui les alimentent.

Le second obstacle rencontré par Clotilde est le caractère éphémère, instable et changeant de ces objets. La version mobile des assistants vocaux ne lui permet pas d’avoir accès aux versions antérieures de ces derniers. Les mises à jour logicielles sont nombreuses, pas toujours annoncées, notifiées et visibles. Elles changent pourtant le modèle conversationnel de manière fréquente, imposant un véritable problème sur la durée de vie des résultats obtenus. Il lui est en effet impossible de stabiliser un contrat de communication homme-machine et de l’analyser dans son intégralité.

Se pose aussi la question des échanges qu’elle a pu avoir à l’occasion de sa fréquentation régulière de réunions de développeurs dans le cadre de sa recherche. Interroger le statut du chercheur au sein d’un champ professionnel plus large (ici celui des développeurs participant à la construction des agents conversationnels analysés par Clotilde) revient à interroger la place des SHS au sein de l’espace social et implique une forme de responsabilité par rapport à la construction scientifique de nos objets de recherche.

Enfin, la RGPD, récemment mise en vigueur, implique de reconsidérer les analyses produites à l’aulne d’un nouveau cadre législatif questionnant les conditions de restitution et de publication de son travail de cherche.

3 / Échanges

Suite à la présentation la discussion traite :

  • De la possibilité d’analyser des chatbots en open source afin d’essayer d’avoir accès à la technologie de ces derniers.
  • De la possibilité de louer la technologie des assistants personnels, notamment de l’assistant Google. Cependant, obtenir la technologie ne permet pas de découvrir les modèles conversationnels, dont l’opacité ne parvient pas à être entièrement dissipée (en référence notamment aux indépassables « boîtes noires » du numérique)
  • Du parallèle entre un terrain ou un objet qui se transforme et l’ethnographie. Les ethnographes sont en effet confrontés à des populations, des environnements ou des pratiques qui se modifient au cours d’une étude. Un algorithme peut-il faire office de terrain ?

Reprise du séminaire TRANSNUM: Appel à participation pour l’année universitaire 2019-2020

Depuis 2017, le séminaire doctoral TRANSNUM prend place au sein d’un projet transversal à toutes les composantes de Sorbonne Université, articulé autour des mutations du numériques. Le projet général TRANSNUM est piloté cette année par le laboratoire du GRIPIC, en collaboration avec deux instituts : l’ISCD (Institut des sciences du calcul et des données) et le SCAI (Sorbonne Center for Artificial Intelligence).

Ce séminaire se réunit mensuellement, au premier jeudi de chaque mois, pour encourager les échanges entre les doctorants et jeunes chercheurs de Sorbonne Université, sans distinction liée au rattachement disciplinaire. Les précédentes séances du séminaire ont permis d’aborder plusieurs thématiques originales, qui illustrent la très grande diversité des travaux de thèse, que ce soit dans les sciences physiques ou biologiques, les sciences humaines et sociales ou les sciences de l’ingénieur. Il ne s’agit donc pas seulement de parler des recherches portant directement sur des objets numériques, mais bien de proposer un espace commun de réflexion autour « du numérique » et du travail concret de la thèse.

Compte tenu de la pluralité des laboratoires engagés dans Sorbonne Universités, notre approche n’est pas disciplinaire (comment le numérique transforme l’histoire, la médecine, etc.) mais plutôt transversale et réflexive. Il s’agit de réfléchir aux pratiques et conditions concrètes de la recherche contemporaine : comment des outils numériques sont-ils mobilisés par les doctorant.e.s, que ce soit comme objet central de la recherche, comme moyen de constitution de corpus ou de récolte de données, comme outil de rédaction ou de recherche bibliographique ? Comment agissent-ils sur les manières de poser les problèmes et de les traiter ? Quelles solidarités et quelles tensions se construisent entre ces outils et médias, les traditions méthodologiques, la constitution des terrains ou corpus, et la relation dans le travail de recherche (directeurs.rices de recherche, informateurs, commanditaires, etc.) ? Comment transforment-ils (ou non) le quotidien de la recherche doctorale et les liens entre les jeunes chercheurs et ceux qui sont impliqués dans leur projet (dans les laboratoires, sur les terrains, ou chez soi) ?

Avec ce séminaire, nous voulons interroger les nombreuses façons qu’ont les doctorant.e.s de Sorbonne Universités de composer avec ces réalités. Chaque mois, deux ou trois doctorant.e.s de différentes disciplines sont invité.e.s à nous parler de leur travail sur, par ou avec des outils numériques, dans une forme que nous souhaitons avant tout dialogique et conviviale. Le but n’est pas de présenter en détail les travaux de chacun, ou de faire état de résultats ou de performances dans l’usage d’outils, mais plutôt de construire ensemble le cadre d’un échange sur la façon dont la thématique numérique traverse nos pratiques de recherche.

Nous accueillons les propositions d’interventions ou les intentions de participation au séminaire par simple message aux adresses ci-dessous. Celles-ci comporteront un intitulé provisoire, un résumé du projet d’intervention et quelques informations relatives à l’auteur permettant aux organisateurs d’échanger avec lui en vue d’une préparation commune de la séance (nom du directeur de recherche, sujet de thèse, université de rattachement, adresse mail et numéro de téléphone).

Le séminaire a lieu le premier jeudi du mois de 17h à 19h heures. Comme mentionné au début de ce billet, le séminaire est ouvert à tous les doctorants de Sorbonne Université (Faculté des lettres, des sciences, de médecine de Sorbonne Université, UTC, INSEAD, Museum, CIEP, PSPBB, CNRS, INHA, INRIA…). Veuillez vous reporter au planning ci-dessous pour les séances à venir :

Séance 1 : jeudi 7 novembre 2019 (Maison de la recherche, au 28 rue Serpente, 75006, Paris)

Séance 2 : jeudi 5 décembre (UTC-Paris, au 62 Boulevard de Sébastopol, 75003, Paris) LA SÉANCE DU 5 DÉCEMBRE EST ANNULÉE EN RAISON DE LA GRÈVE GÉNÉRALE ET NATIONALE ANNONCÉE, CETTE SÉANCE EST REPORTÉE AU JEUDI 6 FÉVRIER 2020 (annonce du lieu à préciser)

Séance 3 : jeudi 9 janvier 2020 (UTC-Paris, au 62 Boulevard de Sébastopol, 75003, Paris)

Organisateurs : guillaume@inparadisum.net ; paulinabrouard@gmail.com ; marine.siguier@hotmail.fr ; marine.bml@gmail.com