45

La explicabilidad de la Inteligencia Artificial (IA) se cita en la literatura como un pilar de la ética de la IA. Pero pocos estudios exploran su realidad organizativa. Este estudio pretende remediar esta carencia mediante entrevistas a responsables de diseño e implantación de IA en diecisiete organizaciones. Nuestros resultados ponen de relieve la sustitución masiva de la explicabilidad por el énfasis en los indicadores de rendimiento; la sustitución de la exigencia de comprensión por una exigencia de accountability (rendición de cuentas); y el lugar ambiguo de los expertos en el sector en los procesos de diseño, movilizados para validar la aparente coherencia de algoritmos de «caja negra» más que para abrirlos y comprenderlos. En la práctica organizativa, la explicabilidad parece ser lo suficientemente indefinida como para permitir que coincidan mandatos contradictorios. Comparando las prescripciones de la bibliografía y las prácticas sobre el terreno, debatimos el riesgo de cristalización de estos problemas organizativos a través de la estandarización de las herramientas de gestión utilizadas como parte (o en lugar) del esfuerzo de explicabilidad de las IA.