<p></p><p>L'IA fantôme consistait auparavant à coller des données sensibles dans **ChatGPT**. Désormais, elle a évolué vers quelque chose de bien plus dangereux : les employés créent des applications complètes avec l'IA, les intègrent dans des systèmes de production et les publient sur l'internet public, le tout sans la connaissance ou l'implication des équipes de sécurité ou d'IT.</p><h2>La nouvelle IA fantôme ne concerne pas les prompts, mais les produits</h2><p>Le 'vibe coding', le paysage plus large des plateformes de développement pilotées par l'IA, permet à quiconque de créer des applications fonctionnelles en décrivant simplement la fonctionnalité souhaitée. Cela a considérablement réduit le temps de développement, permettant aux non-développeurs de déployer des applications rapidement.</p><p>Ces applications sont fréquemment connectées à des systèmes de production approuvés – CRM, ERP, outils de ticketing, plateformes de BI – et sont souvent publiées sur l'internet public avec des contrôles d'accès minimes ou inexistants. Bien que les personnes qui créent ces applications ne soient pas malveillantes, leurs actions exposent des données sensibles et créent des risques de sécurité importants.</p><h2>Pourquoi les piles de sécurité traditionnelles échouent à détecter l'IA fantôme</h2><p>Les outils de sécurité traditionnels tels que Endpoint Detection and Response (EDR), Data Loss Prevention (DLP) et Cloud Access Security Brokers (CASB) échouent souvent à détecter l'activité de l'IA fantôme. C'est parce que :</p><ul><li><strong>EDR :</strong> Se concentre sur les processus du navigateur et peut ne pas reconnaître le processus de construction au sein d'une plateforme de 'vibe coding' comme une activité malveillante. Il a également du mal avec les appareils BYOD.</li><li><strong>DLP :</strong> Surveille les canaux énumérés et peut ne pas détecter les données transitant de cloud à cloud via les API.</li><li><strong>CASB :</strong> Conçu pour les fournisseurs SaaS approuvés, il a du mal à différencier les applications personnalisées hébergées sur les sous-domaines d'une plateforme de 'vibe coding'.</li><li><strong>Pare-feu/SSE :</strong> Manquent du contexte 'application-comme-objet-métier' et laissent souvent les appareils non gérés exposés.</li></ul><p>Ces outils n'échouent pas nécessairement, mais la nature de l'IA fantôme lui permet d'exister dans les lacunes entre ces couches, empêchant une image de sécurité complète.</p><h2>Obtenir de la visibilité grâce à la surveillance de la couche de session</h2><p>Le 'vibe coding' est essentiellement un événement de session web. Chaque étape, du processus de construction à l'octroi OAuth et au transfert de données, se produit dans la couche de session. Par conséquent, un contrôle positionné au niveau de la couche de session peut fournir une vue complète du chemin de construction, y compris les plateformes utilisées, les systèmes connectés, le mouvement des données et les événements de déploiement.</p><p>Cette approche offre une visibilité quel que soit le navigateur utilisé, le chemin réseau emprunté, ou si l'appareil est d'entreprise ou personnel.</p><h2>Étapes immédiates pour atténuer les risques de l'IA fantôme</h2><p><strong>Red Access</strong> recommande les actions suivantes :</p><ol><li><strong>Découverte :</strong> Engagez directement les employés pour identifier les outils pilotés par l'IA qu'ils ont créés, en formulant la discussion comme un exercice d'inventaire plutôt qu'un audit.</li><li><strong>Cartographie :</strong> Documentez les systèmes de l'entreprise connectés à chaque application, la méthode de connexion (OAuth, clé API, etc.) et si l'application est accessible publiquement.</li><li><strong>Chemin approuvé :</strong> Établissez des plateformes approuvées, définissez des catégories de données acceptables et fixez des normes d'authentification minimales.</li><li><strong>Découverte continue :</strong> Reconnaissez que l'IA fantôme est un problème persistant et que la surveillance continue est essentielle.</li></ol><p>En se concentrant sur la visibilité de la couche de session et en mettant en œuvre des mesures proactives de découverte et de gouvernance, les organisations peuvent atténuer efficacement les risques associés à l'IA fantôme.</p><p><strong>Red Access</strong> propose une plateforme de sécurité sans agent, au niveau de la session, conçue pour offrir visibilité et gouvernance sur n'importe quel navigateur et appareil. [**Demandez votre audit gratuit.**](https://info.redaccess.io/request-a-demo)</p><p>Cet article vous a intéressé ? <span>Cet article est une contribution de l'un de nos précieux partenaires.</span> Suivez-nous sur <a rel="noopener" href="https://news.google.com/publications/CAAqLQgKIidDQklTRndnTWFoTUtFWFJvWldoaFkydGxjbTVsZDNNdVkyOXRLQUFQAQ">Google News</a>, et <a rel="noopener" href="https://www.linkedin.com/company/thehackernews/">LinkedIn</a> pour lire d'autres contenus exclusifs que nous publions.</p>