88

Cet article présente à un public de juristes la cybersécurité pour l’I.A. – ou comment sécuriser les I.A. – et l’I.A. comme facteur de risque, ou comment les dynamiques institutionnelles autour de l’I.A. influencent les risques de sécurité. Pour la sécurisation des I.A., nous présenterons tout d’abord les nouvelles menaces dues aux propriétés intrinsèques de la technologie, comme le prompt engineering ou l’empoisonnement de données. Nous évoquerons ensuite les problèmes liés aux pratiques : l’importance de la désinformation, de l’escroquerie et de la pornographie non consensuelle assistées par ledeepfake ; l’IA agentique ou les grands modèles de langage comme nouvelles cibles stratégiques ; les risques liés au manque de management de l’I.A. dans les organisations. Pour l’I.A. comme facteur de risque, nous évoquerons brièvement les facteurs géopolitiques en décrivant les tensions entre USA et Europe sur les normes affectant l’I.A. et la cybersécurité. Nous conclurons avec les facteurs commerciaux, notamment la querelle juridique sur la propriété des données d’entraînement des modèles de langage soumises à la propriété intellectuelle.

This article introduces lawyers to cybersecurity for AI—or how to secure AIs—and AI as a risk factor, or how institutional dynamics surrounding AI influence security risks. To secure AIs, we will first present the new threats posed by the intrinsic properties of the technology, such as prompt engineering and data poisoning. We will then discuss issues related to practices: the importance of disinformation, fraud, and non-consensual pornography facilitated by deepfakes; agentic AI or large language models as new strategic targets; and the risks associated with the lack of AI management in organizations. For AI as a risk factor, we will briefly discuss geopolitical factors by describing the tensions between the US and Europe over standards affecting AI and cybersecurity. We will conclude with commercial factors, including the legal dispute over the ownership of language model training data subject to intellectual property rights.