Ouverture du séminaire et introduction de la première session par les organisateurs

Quentin BROT (Centre d'Etude et de Recherche Interdisciplinaire de la Sécurité Civile (CERISC), Ecole Nationale Supérieure des Officiers de Sapeurs-Pompiers (ENSOSP)) : "Ni technophilie aveugle ni technophobie destructrice : le commandement des sapeurs-pompiers à l'épreuve de l'intelligence artificielle"

Résumé : L'École nationale supérieure des officiers de sapeurs-pompiers (ENSOSP), forte de son expertise et de son expérience dans l'exercice du commandement et la conduite des opérations, développe au sein de son laboratoire d'intelligence artificielle appliquée à la sécurité civile une réflexion sur le rôle et les impacts des différentes formes d'intelligence artificielle en opération ainsi qu'en management. Ces technologies, qui entrent peu à peu dans les salles opérationnelles, les postes de commandement et la formation, commencent à peser sur l'appréciation de la situation comme sur la décision. Les travaux de l'École portent sur les aspects techniques, technologiques, psychologiques et éthiques des conséquences des IA et de la relation entre l'homme et la machine à tous les niveaux, du chef d'agrès au chef de site et jusqu'à la direction des SDIS. Ils interrogent notamment la place de l'autorité et de la responsabilité du chef lorsque la machine propose et anticipe plus vite que lui, la confiance qu'il peut accorder à un système dont le fonctionnement peut lui échapper, et le devenir de compétences qui s'acquièrent et se transmettent par l'expérience. L'intuition fondamentale de l'École nationale est que cette rupture technologique doit s'accompagner d'un ancrage dans les humanités classiques pour permettre aux chefs de décider de façon orientée et stable, sans tomber dans une technophilie aveugle ni dans une technophobie destructrice. La fréquentation des grands textes, en particulier la réflexion des Anciens sur la prudence, leur donne des repères pour garder le sens de leur action lorsque tout s'accélère. La communication présentera cette démarche et ses premiers axes de travail, en vue d'un dialogue avec les chercheurs en psychologie ergonomique sur la conception et l'acceptabilité de ces outils en contexte opérationnel.

Clément PROUX et Arthur AUBIN (Agence ministérielle pour l'IA de défense (AMIAD)) : "Gestion des risques de l'IA fondée sur l'usage pour les systèmes militaires français"

Résumé : Au sein de l'Agence ministérielle pour l'IA de défense (AMIAD), l'équipe SANGRIA (Sécurité, analyse et gestion des risques pour l'IA) assure la gestion des risques de tous les systèmes d'IA du ministère des Armées. Pour gérer la grande diversité de ces systèmes émergents, nous adoptons une approche fondée sur les cas d'usage, notamment inspirée par le règlement européen sur l'IA (AI Act), des cadres relatifs à une IA de confiance et des pratiques de sécurité aérienne. Cette méthode détermine les niveaux d'assurance en fonction de la criticité et des risques, adaptant ainsi les efforts de gestion des risques en conséquence. L'équipe évalue les risques selon cinq dimensions : performance et sécurité de l'IA, facteurs humains, cybersécurité, sûreté de fonctionnement et conformité éthique / juridique. Notre cadre d’assurance pour les systèmes d’IA offre une approche prometteuse pour gérer le nombre croissant de systèmes d’IA destinés à des applications de défense. Ainsi nous vous proposons de vous présenter cette approche structurée et de partager notre expérience afin d’aider d’autres organisations à mettre en place leurs propres cadres et à parvenir à des systèmes d’IA dignes de confiance. Des travaux sont prévus pour automatiser les aspects clés du processus, le rendant ainsi encore plus évolutif et efficace.

Arnault IOUALALEN (Numalis) : Titre de la présentation à venir

Clôture de la première session et discussion collective

Charles TIJUS (Laboratoire Cognitions Humaine et Artificielle (CHArt), Université Paris 8 Vincennes-Saint-Denis) : "Possibilités et limites de l'IA générative en conduite automobile à risques, complexes et dynamiques"

Résumé : Avec l’objectif de tester l’apport de l'IA générative (IAG), celle-ci est utilisée ici pour générer des dialogues Humain-Machine dans la conception d'un Assistant à la conduite automobile, intégrant une ontologie des tâches de conduite, associée aux informations relatives au conducteur ; ceci via une WebApp permettant l'interaction vocale entre une personne automobiliste et son assistant artificiel comme « Chauffeur de Maître » Basée sur l’oculométrie cognitive associée au recueil des interactions verbales, les données recueillies en simulateur de conduite indiquent que, interagissant AVEC l’IAG, les participants novices ont une conduite plus centrée sur la route, ne questionnant pas les informations délivrées par l’IA, contrairement aux experts qui montrent une dégradation attentionnelle AVEC l’IAG. Bien que l’IA générative produise des inférences souvent utiles et satisfaisantes, elle ignore la réalité de l’état courant, répond de manière statistique et méconnait les primitives actions qui sont absentes de ses bases de données textuelles. L’IAG pose ainsi des problèmes qui sont amplement débattus dans la littérature. Parmi ces problèmes, il y a ses erreurs maladroitement dénommées «hallucinations », et il n’est pas exclu que celles-ci soient plus gênantes pour le conducteur expert qui les détecte et discute leur correction avec l’IAG que pour le conducteur novice qui ne les perçoit pas.

Mots-clés : IA générative, conduite automobile, expertise, magicien d’Oz inverse

Kahina AMOKRANE (IRT SystemX) : "Automation adaptable et hybride pour l'allocation dynamique de tâches humain-IA"

Résumé : Dans les environnements complexes, la gestion de flux d’informations en temps réel et la prise en charge de situations imprévues peuvent entraîner une surcharge cognitive, la fatigue et le stress affectant la vigilance des opérateurs. L’intelligence artificielle (IA) offre des possibilités d’automatisation de certaines tâches, mais les modalités de répartition du travail entre l’humain et l’IA soulèvent des enjeux importants en matière de contrôle humain, de conscience de la situation et de confiance envers l’automatisation. Dans ce contexte, nous avons mené une étude exploratoire à l’IRT SystemX visant à comparer trois stratégies d’allocation des tâches dans une activité de supervision inspirée d’un centre de gestion des appels d’urgence. Une expérimentation impliquant 13 participants issus du grand public a été conduite à partir d’un scénario hypothétique. Trois stratégies ont été évaluées sur une même tâche : deux stratégies d’automatisation hybride, fondées respectivement sur l’auto-évaluation de l’état cognitif de l’utilisateur et sur la modélisation des tâches, et une stratégie d’automatisation adaptable où l’IA gère la répartition des tâches. Les résultats révèlent des différences entre les stratégies concernant le nombre d’erreurs commises et le niveau de confiance accordé à l’IA. Aucune différence statistiquement significative n’a été observée pour les autres indicateurs étudiés, notamment la charge cognitive et la conscience de la situation. Malgré son caractère exploratoire et les limites liées à la taille et au profil de l’échantillon, cette étude contribue à la réflexion sur la conception et l’évaluation des modalités de collaboration humain-IA. Elle souligne l’intérêt d’approfondir l’étude de l’influence des stratégies d’allocation des tâches sur la performance humaine et l’expérience utilisateur. Dans cette perspective, le projet Cybelia offre un cadre privilégié pour prolonger ces travaux à travers une expérimentation fondée sur un cas d’usage concret et impliquant un échantillon plus large et plus représentatif des utilisateurs cibles. Cette démarche permettrait d’évaluer ces stratégies dans un contexte métier plus réaliste.

Mots-clés : Adaptable Automation; Hybrid Automation; Dynamic Task Allocation; Human-AI Teaming

Daniel LAFOND (Thales Canada – cortAIx) : Cognitive Shadow : leçons apprises pour la collaboration humain-IA en commandement et contrôle naval

Résumé. Dans des contextes caractérisés par une forte charge informationnelle, comme la surveillance et le commandement et contrôle, une avenue prometteuse pour renforcer et accélérer l’analyse de la situation et la prise de décision consiste à recourir à des agents intelligents. Ces assistants IA peuvent posséder des forces et des faiblesses complémentaires à celles de leurs homologues humains. Pour collaborer efficacement, les agents intelligents doivent être capables de déterminer de manière sélective quand demander de l’aide ou offrir leur assistance lorsque nécessaire. Plus précisément, il faut tirer parti des forces respectives des experts humains et de l’IA tout en assurant leur fiabilité grâce à des mécanismes d’autodiagnostic, de surveillance mutuelle et de soutien réciproque. Cognitive Shadow est un outil de capture de connaissance et d’aide à la décision qui peut être intégré à divers systèmes de mission. Il apprend automatiquement les schémas décisionnels d’opérateurs experts et fournit des recommandations automatiques ou des rétroactions correctives à l’utilisateur. Ce système d’apprentissage supervisé en ligne s’améliore continuellement au fil du temps. Conçu pour l’apprentissage frugal, il n’a pas besoin de grands volumes de données pour reproduire et modéliser les jugements humains. Trois principaux risques sont discutés : la surconfiance, la perte de conscience situationnelle et la détérioration des compétences humaines. Les experts humains doivent par exemple développer une confiance « calibrée » afin d’éviter à la fois une dépendance excessive et une sous-utilisation de l’agent d’IA. Nous proposons des mécanismes d’autodiagnostic en temps réel (i.e., de métacognition) permettant d’ajuster le niveau d’autonomie et de fournir à l’utilisateur des indices sur la fiabilité du système. Nous proposons aussi un processus de co-apprentissage visant à favoriser une utilisation responsable de l’IA.

Mots-clés : Collaboration humain-IA, ingénierie cognitive, confiance, métacognition

Clôture de la seconde session et discussion générale

Accueil à l’INRS, moment convivial et présentation du séminaire

Charles VERDONK, Unité Neurophysiologie du Stress, Département de Neurosciences et Sciences Cognitives, Institut de Recherche Biomédicale des Armées (IRBA) : Les interactions corps-cerveau : un déterminant majeur de la santé et de la performance du militaire

Matthieu PETITCLERC, Section médico-psychologique de la Brigade de sapeurs-pompiers de Paris (BSPP) : Le defusing : enjeux de la régulation émotionnelle et de la remédiation cognitive au sein d’un collectif constitué

Morgane LACROIX-MEUNIER, Unité de recherche Facteurs Organisationnels et Humains, Centre d’Etudes et de Recherche Interdisciplinaires sur la Sécurité Civile, Ecole Nationale Supérieure des Officiers de Sapeurs-Pompiers (ENSOSP) : Formation aux compétences non techniques des décideurs en situation opérationnelle : le cas des officiers de sapeurs-pompiers

Clôture première session et discussions collectives

Moment convivial et présentation session 2

Eve FABRE, Laboratoire Interdisciplinaire des Sciences du Numérique, Université Paris-Saclay : Biais cognitifs et communication en contexte hiérarchique

Léonore BOURGEON, Unité Ergonomie Cognitive des Situations Opérationnelles, Département de Neurosciences et Sciences Cognitives, Institut de Recherche Biomédicale des Armées (IRBA) : Compétences émotionnelles au sein des équipes médicales

Théo ELIA, IMADIS / Centre de Recherche en Neurosciences de Lyon INSERM U1028 - CNRS UMR5292 - Université Lyon 1 : Quand la fatigue et le stress modifient le regard : garde de nuit, récupération et performance diagnostique en Téléradiologie

Clôture seconde session, conclusions générales

Introduction

Anne-Claire MACQUET (Chercheur, Institut National du Sport, de l'Expertise et de la Performance, Laboratoire SEP, Paris) : Temporalité et émotions dans la prise de décision en sport de haut niveau

Thibault KERIVEL (Enseignant – Chercheur, Faculté des Sciences du Sport et de l'Education, Centre de recherche sur l'éducation, les apprentissages et la didactique, Brest) : Analyse de l'activité collective en sport de haut niveau : un regard systémique

Pierre BAGOT (Doctorant, Faculté des Sciences du Sport et de l'Education, Centre de recherche sur l'éducation, les apprentissages et la didactique, Brest) : Étude exploratoire des décisions en escrime de haut niveau avec eye-tracking et entretien d'autoconfrontation

Discussion générale

Accueil des participants et introduction

Rebecca DICKASON, Maître de conférences, Université Gustave Eiffel à Paris : « Le travail en inter-action(s) à l’hôpital, en prise avec le théâtre de l’émotionalité organisationnelle. »

Nataša VUKAŠINOVIĆ, Adjointe scientifique, HEG - Haute école de gestion Arc à Neuchâtel (Suisse) : « Entre intelligence et subjectivité : les émotions comme moyen d’accéder à la complexité des situations de travail. »

Julien PERRIARD, Délégué ARC – Aide à la résolution des conflits, Ville de Lausanne (Suisse) : « Gestion des conflits relationnels au travail : une affaire d’émotions ou d’organisation ? »

Discussion générale

Clôture de la journée et perspectives pour la commission

Accueil

Julie Albentosa (Cheffe de projet de recherche en psychologie ergonomique, IRBA, Brétigny-sur-Orge) : « Développement d’un dispositif de mesure de la charge cognitive du fantassin débarqué »

Julien Cegarra (Professeur en psychologie ergonomique, Institut National Universitaire Champollion, Toulouse) : « Automatisation, IA et charge mentale : apports de la psychologie ergonomique »

Alexandra Fort (Chercheuse en neurosciences cognitives, Université Gustave Eiffel) : « Tâche principale et tâche secondaire en conduite manuelle et autonome : apport de la spectroscopique proche-infrarouge fonctionnelle »

Adolphe Béquet (Doctorant en Sciences cognitives, Université Gustave Eiffel) : « Tâches non liées à la conduite et utilisation d'un véhicule autonome : impacts d'un stress annexe sur l'attention lors de la reprise en mains »

Bruno Berberian (Chercheur en ergonomie cognitive, ONERA, Salon-de-Provence) : « Automatisation et agentivité : pourquoi et comment satisfaire le sentiment de contrôle des opérateurs »

Kevin le Goff (FH, Airbus) : « Engagement cognitif et automatisation dans le transport aérien »

14h30-15h : Raphaëlle Roy (Professeure Associée, ISAE-SUPAERO) : « Suivi d'états cognitifs grâce à l'informatique physiologique »

Frédéric Dehais (Professeur en neuro-ergonomie, ISAE-SUPAERO, Toulouse) :

• 15h-15h30 : « Interfaces cerveau machine pour optimiser la symbiose pilote-cockpit »
• 15h30-16h30 : Visite Labo et Démonstrations

Corinne Grusenmeyer, INRS.
Organisation réticulaire des entreprises et relations d'interdépendance dans les activités de maintenance.

Anthony Vacher, IRBA.
Pertinence des règles de sécurité au regard des situations de travail : le cas des règles de sécurité des soins du parcours de l'opéré

La coopération multi-professionnelle en environnement dynamique : le cas du cathétérisme cardiaque. F. Anceaux, M. Diby, J. Bouchel, L. Seferdjeli, F. Terraneo & S. Pelayo

Human Factors methodology to improve healthcare processes: characterization of communication in cardiac surgery and intensive care handovers. R. Santos

A methodological to study collective activity in elite sports. A.-C. Maquet

Using coding rules for the analysis of exploratory sequential data. K. Khademi, J. Cegarra, L. Wioland & V. Govaere

Christian Blatter.
Question de "l'autocontrôle" posée par les responsables sécurité et métiers des entreprises à risques

Christine Chauvin.
Modes de contrôle cognitif et pattern matching

Mathieu Mouchel.
Contrôle cognitif et schémas d'action chez les conducteurs de tramway

Justine Forrierre.
La notion de "contrôle" en Psychologie Ergonomique et en Ergonomie.

Grille d'analyse des communications non verbales en salle de cathétérisme ; Françoise ANCEAUX, Julie BOUCHEL & Marc DIBY

Configurations des actions d'une équipe lors de la gestion d'une alerte épidémiologique ; Liliane PELLEGRIN & Hervé CHAUDET

La coopération multi-professionnelle en environnement dynamique : le cas du cathétérisme cardiaque ; F. Anceaux, M. Diby, J. Bouchel, L. Seferdjeli, F. Terraneo & S. Pelayo

Human Factors methodology to improve healthcare processes: characterization of communication in cardiac surgery and intensive care handovers ; R. Santos

A methodological to study collective activity in elite sports ; A.-C. Maquet

Using coding rules for the analysis of exploratory sequential data ; K. Khademi, J. Cegarra, L. Wioland & V. Govaere

Françoise Anceaux, Université de Valenciennes. Questions posées par l’étude des coopérations dites « baroques ».

Christine Chauvin, UBS. Dans quelle mesure les éléments de la communication peuvent -il refléter la qualité du travail d’équipe et la performance ?

Janine Rogaslki. Etude langagière d’une « pseudo-simulation » pour analyser le « recouvrement de représentations » à des niveaux hiérarchiques différents dans la gestion distribuée d’un environnement dynamique