51

The introduction of automated video surveillance systems has generated extensive controversy over their real usefulness compared to the financial and democratic cost of their implementation. This article aims to contribute to this debate by studying the manufacture and deployment of two automated video surveillance systems: AIView, applied in the video surveillance of shops, and AICity, for the surveillance of public spaces. Our research is based on an end-to-end study of AI systems with the actors involved in their manufacture and operation: data scientists, data workers and system users. We are contributing to the literature by showing that automatic surveillance always relies on human mediators. In order to function, the models rely both on the work of data annotators, who provide it with a simplified vision of reality in the form of data sets, and on video operators who interpret the outputs of the smart systems. These two groups of workers enable the surveillance system to be adapted in real time to the needs emerging from complex situations.

La mise en place de systèmes de vidéosurveillance automatisée suscite de nombreuses controverses quant au rapport entre le coût financier et démocratique de son déploiement et sa réelle utilité. Notre article vise à contribuer à ces questionnements en étudiant la fabrication et le déploiement de deux systèmes de vidéosurveillance automatisée : AIView qui est appliqué à la vidéosurveillance des magasins et AICity qui concerne la surveillance de l’espace public. L’enquête repose sur une étude de bout en bout des systèmes d’IA auprès des acteurs qui participent à sa fabrication et à son fonctionnement : data scientists, travailleurs de la donnée et utilisateurs du système. Nous contribuons à la littérature en montrant que la surveillance automatique s’appuie toujours sur des médiateurs humains. En effet, pour fonctionner les modèles s’appuient à la fois sur le travail d’annotateurs de données, qui lui fournissent une vision simplifiée du réel sous la forme de jeux de données, et sur les vidéo-opérateurs qui interprètent les sorties des systèmes intelligents. Ces deux groupes de travailleurs permettent une adaptabilité en temps réel du système de surveillance aux besoins émergeant de situations complexes.