A IA Sombria costumava se referir a funcionários colando dados sensíveis no **ChatGPT**. Agora, evoluiu para algo muito mais perigoso: funcionários construindo aplicações completas com IA, integrando-as a sistemas de produção e publicando-as na internet aberta, tudo sem o conhecimento ou envolvimento das equipes de segurança ou TI. ## A Nova IA Sombria Não é Sobre Prompts, é Sobre Produtos O "vibe coding", o cenário mais amplo de plataformas de desenvolvimento impulsionadas por IA, capacita qualquer pessoa a criar aplicações funcionais simplesmente descrevendo a funcionalidade desejada. Isso reduziu drasticamente o tempo de desenvolvimento, permitindo que não desenvolvedores implantem aplicações rapidamente. Essas aplicações são frequentemente conectadas a sistemas de produção sancionados – CRMs, ERPs, ferramentas de ticketing, plataformas de BI – e muitas vezes publicadas na internet aberta com controles de acesso mínimos ou inexistentes. Embora os indivíduos que criam essas aplicações não sejam maliciosos, suas ações expõem dados sensíveis e criam riscos de segurança significativos. ## Por Que Pilhas de Segurança Tradicionais Falham em Detectar IA Sombria Ferramentas de segurança tradicionais como Endpoint Detection and Response (EDR), Data Loss Prevention (DLP) e Cloud Access Security Brokers (CASB) frequentemente falham em detectar atividades de IA Sombria. Isso ocorre porque: * **EDR:** Foca em processos de navegador e pode não reconhecer o processo de build dentro de uma plataforma de "vibe coding" como atividade maliciosa. Também tem dificuldades com dispositivos BYOD. * **DLP:** Monitora canais enumerados e pode não detectar dados se movendo de nuvem para nuvem via APIs. * **CASB:** Projetado para fornecedores de SaaS sancionados e tem dificuldades em diferenciar aplicações personalizadas hospedadas em subdomínios de uma plataforma de "vibe coding". * **Firewall/SSE:** Falta o contexto de aplicação-como-objeto-de-negócio e frequentemente deixa dispositivos não gerenciados expostos. Essas ferramentas não estão necessariamente falhando, mas a natureza da IA Sombria permite que ela exista nas lacunas entre essas camadas, impedindo uma visão de segurança abrangente. ## Obtendo Visibilidade Através do Monitoramento da Camada de Sessão O "vibe coding" é essencialmente um evento de sessão web. Cada passo, desde o processo de build até a concessão de OAuth e a transferência de dados, ocorre na camada de sessão. Portanto, um controle posicionado na camada de sessão pode fornecer uma visão completa do caminho de build, incluindo as plataformas usadas, sistemas conectados, movimento de dados e eventos de implantação. Essa abordagem oferece visibilidade independentemente do navegador usado, do caminho de rede percorrido ou se o dispositivo é corporativo ou pessoal. ## Passos Imediatos para Mitigar Riscos de IA Sombria A **Red Access** recomenda as seguintes ações: 1. **Descoberta:** Engaje diretamente os funcionários para identificar ferramentas impulsionadas por IA que eles construíram, enquadrando a discussão como um exercício de inventário em vez de uma auditoria. 2. **Mapeamento:** Documente os sistemas corporativos conectados a cada aplicação, o método de conexão (OAuth, chave de API, etc.) e se a aplicação é publicamente acessível. 3. **Caminho Sancionado:** Estabeleça plataformas aprovadas, defina categorias de dados aceitáveis e defina padrões mínimos de autenticação. 4. **Descoberta Contínua:** Reconheça que a IA Sombria é um problema contínuo, e o monitoramento contínuo é essencial. Ao focar na visibilidade da camada de sessão e implementar medidas proativas de descoberta e governança, as organizações podem mitigar efetivamente os riscos associados à IA Sombria. A **Red Access** oferece uma plataforma de segurança sem agente, na camada de sessão, projetada para fornecer visibilidade e governança em qualquer navegador e dispositivo. [**Solicite sua auditoria gratuita.**](https://info.redaccess.io/request-a-demo) Achou este artigo interessante? <span>Este artigo é uma contribuição de um de nossos valiosos parceiros.</span> Siga-nos no <a rel="noopener" href="https://news.google.com/publications/CAAqLQgKIidDQklTRndnTWFoTUtFWFJvWldoaFkydGxjbTVsZDNNdVkyOXRLQUFQAQ">Google News</a> e no <a rel="noopener" href="https://www.linkedin.com/company/thehackernews/">LinkedIn</a> para ler mais conteúdo exclusivo que postamos.