### Apresentando RAMPART: Um Framework de Red Teaming **RAMPART** (Risk Assessment and Measurement Platform for Agentic Red Teaming) é um framework nativo do **Pytest** projetado para testes de segurança e proteção de agentes de IA. Esta ferramenta permite que os desenvolvedores escrevam e executem testes que cobrem cenários adversários e benignos, abordando várias categorias de danos. As capacidades do RAMPART incluem a simulação de injeções de prompt cruzadas, onde dados não confiáveis alcançam indiretamente um sistema de IA através de fontes como e-mail ou páginas da web. Ele também facilita o teste de regressões comportamentais não intencionais e vulnerabilidades de exfiltração de dados. A ferramenta então avalia os resultados dos testes e gera relatórios, exigindo apenas um adaptador para conectar um agente ao conjunto de testes. O RAMPART é construído sobre o **PyRIT** (Python Risk Identification Tool), lançado anteriormente pela Microsoft, para aprimorar ainda mais os testes de sistemas de IA. ### Clarity: Um Parceiro de Pensamento de IA **Clarity** funciona como um "painel de discussão estruturado", guiando os desenvolvedores para a abordagem correta antes da implementação do código. Ele atua como um "parceiro de pensamento de IA", desafiando suposições e guiando as equipes através da clarificação de problemas, exploração de soluções, análise de falhas e rastreamento de decisões. ### Segurança Proativa Através de Intervenção Precoce A motivação da Microsoft por trás do lançamento dessas ferramentas é abordar decisões críticas tomadas no início do desenvolvimento de software. Ao identificar problemas potenciais, como o acesso de um agente a certas ferramentas, a equipe de desenvolvimento pode resolvê-los antes da construção do sistema. De acordo com **Ram Shankar Siva Kumar**, fundador da AI Red Team da Microsoft, essas ferramentas visam "testar sob pressão" as suposições no início do projeto, quando a correção de curso é mais econômica. ### Reprodutibilidade e Escalabilidade Um objetivo secundário é tornar os incidentes reproduzíveis e as mitigações verificáveis, escalando os aprendizados dos exercícios de red teaming em ativos de engenharia executáveis. Siva Kumar enfatiza que, enquanto o PyRIT é otimizado para descoberta em caixa preta por pesquisadores de segurança após a construção do sistema, o RAMPART é projetado para engenheiros durante o processo de construção. O Clarity auxilia as equipes a clarificar a intenção do design e capturar suposições. Juntas, essas ferramentas transformam a segurança de IA de uma revisão única em um conjunto vivo de artefatos acessíveis aos desenvolvedores durante todo o ciclo de vida.