77

El concepto de human in the loop (HITL) o «humano en el bucle» se considera clave para la resiliencia de las organizaciones que utilizan inteligencia artificial (IA). Sin embargo, cada vez hay más bibliografía que subraya la urgente necesidad de evaluar su pertinencia práctica y sus limitaciones. Aportamos nuestra contribución basándonos en dos estudios de casos: un accidente mortal provocado por un coche autónomo y el flash crash de la bolsa en mayo de 2010, alimentado por el trading de alta frecuencia. Nuestros resultados ponen de manifiesto varias limitaciones del sistema HITL. En ambos casos, no incentivó a los humanos a adoptar una posición de vigilancia que complementara las capacidades computacionales de la máquina. En discusión con la literatura sobre resiliencia organizativa, hacemos una serie de recomendaciones, en particular la necesidad de formalizar la duda en la interfaz humano-máquina. Códigos JEL: O32, O33