51

JEL Codes: O32, O33

Le concept de human in the loop (HITL, « humain dans la boucle ») est considéré comme clé pour la résilience des organisations déployant des Intelligences Artificielles (IA). Pourtant, une part croissante de la littérature souligne l’urgence d’en évaluer la pertinence pratique et les limites. Nous y contribuons en nous appuyant sur deux études de cas : un accident mortel provoqué par une voiture autonome et le flash crash boursier de mai 2010 alimenté par le trading à haute fréquence. Nos résultats soulignent plusieurs limites du dispositif HITL. Dans les deux cas, il échoue à encourager les humains à adopter une position de vigilance complémentaire aux capacités calculatoires de la machine. En discussion avec la littérature sur la résilience organisationnelle, nous formulons plusieurs recommandations, notamment la nécessaire introduction d’une formalisation du doute dans l’interfaçage homme-machine. Codes JEL : O32, O33