IA générative : la cybersécurité face au passage à l’échelle

Par Kolia LOUISON — Consultant Senior en Cybersécurité & Data Protection

L’intelligence artificielle générative est entrée dans une nouvelle phase. Après l’enthousiasme des premiers usages, des assistants conversationnels et des expérimentations parfois menées individuellement par les collaborateurs, les organisations doivent désormais répondre à une question beaucoup plus structurante : comment industrialiser l’IA sans perdre la maîtrise de leurs données, de leurs risques et de leurs responsabilités ? L’enjeu n’est plus simplement de savoir si une entreprise peut utiliser ChatGPT, Gemini, Claude, Copilot ou un autre modèle. Il s’agit désormais de déterminer quels usages doivent être autorisés, quelles données peuvent être utilisées, quels modèles peuvent être connectés au système d’information, quelles actions peuvent être automatisées et sous quelles conditions de sécurité, de conformité et de contrôle humain.

Le prompt devient un flux de données

L’une des principales erreurs consiste encore à considérer l’IA générative comme un simple outil bureautique. Lorsqu’un collaborateur transmet à un modèle une partie d’un contrat, un rapport d’audit, un extrait de code source, des informations concernant un client ou une documentation interne, il crée en réalité un véritable flux de données vers un service tiers. À partir de cet instant, les problématiques classiques de cybersécurité et de protection des données réapparaissent : où les données sont-elles traitées ? Sont-elles conservées ? Peuvent-elles être réutilisées ? Quels sous-traitants interviennent ? Existe-t-il des transferts internationaux ? Quels mécanismes d’authentification et de journalisation sont disponibles ? Quels utilisateurs sont autorisés à accéder aux informations échangées avec le système ?

Le prompt lui-même doit donc devenir un objet de gouvernance. Une politique de sécurité mature ne peut plus seulement encadrer les fichiers, les bases de données et les échanges par messagerie. Elle doit aussi prendre en compte les informations transmises aux modèles d’intelligence artificielle. La gouvernance de l’IA devient ainsi une extension naturelle de la gouvernance de la donnée et de la sécurité des systèmes d’information.

Du Shadow IT au Shadow AI

Les RSSI connaissent depuis longtemps le phénomène du Shadow IT, c’est-à-dire l’utilisation de services, applications ou infrastructures sans validation préalable de la direction informatique. L’IA générative fait apparaître son équivalent : le Shadow AI. Un collaborateur peut aujourd’hui ouvrir un compte sur une plateforme d’intelligence artificielle en quelques minutes, importer des documents professionnels, générer du code, analyser des données ou automatiser certaines tâches sans que l’organisation n’en ait nécessairement connaissance.

Ce phénomène constitue à la fois un risque de cybersécurité et un symptôme. Il montre que les collaborateurs trouvent une valeur réelle à ces nouveaux outils. L’interdiction générale serait donc rarement suffisante et pourrait au contraire déplacer les usages vers des environnements encore moins contrôlés. La stratégie la plus pertinente consiste à évoluer vers un modèle de Controlled AI, dans lequel l’entreprise définit les outils autorisés, les catégories de données pouvant être utilisées, les usages interdits ou soumis à validation, les règles applicables aux agents et aux automatisations, les exigences de formation et les mécanismes de supervision.

La cybersécurité ne doit donc pas devenir un frein à l’adoption de l’intelligence artificielle. Elle doit au contraire être l’une des conditions permettant son passage à l’échelle.

L’agent IA change l’équation de sécurité

Une autre évolution majeure est déjà en cours : le passage du chatbot à l’agent IA. Un assistant conversationnel fournit essentiellement une réponse. Un agent peut aller beaucoup plus loin : interroger une base de données, lire des emails, récupérer des informations dans un CRM, générer des documents, déclencher un workflow, appeler une API ou entreprendre certaines actions.

Cette évolution transforme profondément le modèle de menace. À partir du moment où une intelligence artificielle dispose de capacités d’action, les problématiques d’Identity and Access Management deviennent centrales. Quel compte utilise l’agent ? Quels privilèges lui sont accordés ? Peut-il accéder à toutes les informations disponibles pour l’utilisateur qui l’a déclenché ? Peut-il effectuer une action directement ou doit-il obtenir une validation humaine ? Comment ses accès sont-ils révoqués ? Comment reconstituer, après un incident, la succession des décisions prises et des opérations exécutées ?

Les principes classiques de cybersécurité restent alors particulièrement pertinents : moindre privilège, séparation des rôles, authentification forte, journalisation, traçabilité, contrôle des accès et supervision humaine. Le développement des agents IA ne rend donc pas les fondamentaux de la cybersécurité obsolètes ; il les rend encore plus importants.

Le prompt injection devient un véritable sujet de sécurité

L’intégration des grands modèles de langage dans les systèmes d’information introduit également de nouvelles surfaces d’attaque. Parmi elles, le prompt injection occupe une place particulière. Une instruction malveillante insérée dans un document, une page web, un email ou une source externe peut chercher à détourner le comportement du modèle, à lui faire ignorer certaines instructions ou à exploiter les autorisations dont dispose le système.

Le risque augmente fortement lorsque l’IA peut agir sur des outils tiers. Une instruction mal interprétée n’entraîne alors plus seulement une réponse incorrecte ; elle peut potentiellement provoquer une action non souhaitée. La sécurisation de ces environnements doit donc reposer sur une logique de défense en profondeur : contrôle des entrées, segmentation des permissions, limitation des outils accessibles, validation des opérations critiques, journalisation, supervision et contrôle humain. Le modèle d’IA n’est finalement qu’un composant d’une architecture plus large, et c’est l’ensemble de cette architecture qui doit être sécurisé.

RGPD, AI Act et gouvernance technique doivent converger

La réglementation européenne renforce encore cette transformation. Le RGPD continue naturellement à s’appliquer dès lors que des données personnelles sont utilisées dans un système d’intelligence artificielle. Finalité du traitement, base légale, minimisation des données, durée de conservation, information des personnes, droits des personnes concernées, sécurité, sous-traitance et transferts internationaux restent donc des sujets incontournables.

À cette première couche réglementaire vient désormais s’ajouter le règlement européen sur l’intelligence artificielle, l’AI Act. Les organisations doivent progressivement être capables de répondre à des questions très concrètes : quels systèmes d’IA utilisons-nous ? Pour quels usages ? Avec quelles données ? Quels fournisseurs ? Quel niveau de risque ? Quels utilisateurs ? Quels contrôles ? Quelle supervision humaine ?

L’objectif n’est pas nécessairement de commencer par produire une documentation extrêmement lourde. Il faut d’abord identifier, inventorier, classifier, documenter et contrôler. La conformité doit progressivement devenir une logique de Compliance by Design, venant compléter la Security by Design et la Privacy by Design.

Le coût réel de l’IA dépasse largement celui des licences

Une autre question arrive désormais sur la table des directions générales : combien coûte réellement l’intelligence artificielle ? Le prix d’une licence ou le coût d’un million de tokens ne représente qu’une partie de l’équation. Le coût total de possession doit également intégrer les abonnements aux outils, les consommations API, l’infrastructure, l’intégration au système d’information, le développement des workflows, la cybersécurité, les contrôles de conformité, la gestion des identités, le monitoring, la maintenance, la formation et la conduite du changement.

Une organisation mature doit donc rapprocher trois dimensions : performance technique, niveau de risque et valeur économique. Le meilleur modèle n’est pas systématiquement le modèle le plus puissant. Il est celui qui offre un niveau de performance adapté au cas d’usage, avec un coût, un risque et un environnement de traitement compatibles avec les exigences de l’organisation.

Mesurer le ROI plutôt que l’effet de nouveauté

Le nombre d’utilisateurs ou de prompts générés ne constitue pas un indicateur suffisant de succès. L’adoption de l’IA générative doit être évaluée à travers des indicateurs métier : quel était le temps nécessaire avant l’automatisation ? Quel est-il après ? Quel est le taux d’erreur ? Quel est le coût par opération ? Le délai de traitement a-t-il réellement diminué ? La satisfaction utilisateur s’est-elle améliorée ? L’organisation a-t-elle généré davantage de revenus ou réduit des coûts mesurables ?

L’intelligence artificielle doit sortir de la logique du gadget technologique pour entrer dans celle de la performance opérationnelle mesurable.

Du POC à l’industrialisation

Le véritable défi de 2026 est probablement là. Les entreprises savent désormais réaliser des Proof of Concept en intelligence artificielle, mais passer d’un prototype utilisé par quelques collaborateurs à un système exploité par plusieurs centaines ou plusieurs milliers d’utilisateurs suppose une transformation beaucoup plus profonde. Il faut définir une architecture, des responsabilités, des contrôles, des indicateurs et une gouvernance.

Une démarche structurée peut reposer sur huit étapes : identifier le cas d’usage, mesurer la valeur métier, classifier les données, sélectionner le fournisseur et le modèle, réaliser les analyses sécurité et conformité, expérimenter, mesurer, puis industrialiser. L’IA générative devient ainsi progressivement un nouveau domaine de gouvernance du système d’information.

Data & AI Leaders Summit Paris 2026 : observer le passage à l’échelle

C’est précisément cette évolution que je suivrai avec attention lors du Data & AI Leaders Summit Paris, auquel je serai présent les 18 et 19 novembre 2026 à Paris Expo – Porte de Versailles. Cet événement réunira des décideurs et professionnels travaillant sur les stratégies Data et Intelligence Artificielle, avec des enjeux désormais très concrets autour de l’industrialisation de l’IA, de la qualité des données, de la gouvernance, de la conformité et de la mesure de la performance.

Cette rencontre est particulièrement intéressante parce que les sujets Data, Cloud, IA et cybersécurité convergent désormais. Une stratégie d’intelligence artificielle ne peut plus être pensée indépendamment de l’infrastructure qui l’héberge, des données qui l’alimentent, des identités qui y accèdent et des règles qui encadrent son utilisation.

Je serai donc présent les 18 et 19 novembre 2026 pour échanger avec les acteurs de cet écosystème autour de plusieurs sujets que je considère aujourd’hui comme prioritaires : IA générative, agents IA, cybersécurité, Data Protection, conformité, gouvernance et industrialisation des usages.

La question n’est plus : faut-il utiliser l’IA ?

La véritable question est désormais : comment utiliser l’intelligence artificielle à grande échelle sans perdre le contrôle ?

La prochaine étape de l’IA en entreprise ne sera probablement pas déterminée uniquement par la puissance des modèles. Elle dépendra surtout de la capacité des organisations à construire un environnement dans lequel innovation, cybersécurité, gouvernance des données, conformité, supervision humaine et performance économique peuvent réellement coexister.

Dans cette transformation, les professionnels de la cybersécurité auront un rôle central à jouer.

Kolia LOUISON — Consultant Senior en Cybersécurité & Data ProtectionPrésent au Data & AI Leaders Summit Paris — 18 et 19 novembre 2026, Paris Expo – Porte de Versailles