OpenAI Lança 'Modo de Bloqueio' para ChatGPT para Combater Injeção de Prompt e Exfiltração de Dados
A OpenAI começou a implementar um novo 'Modo de Bloqueio' em vários planos do ChatGPT, com o objetivo de fortalecer a segurança de dados contra a ameaça persistente de ataques de injeção de prompt. Esta configuração avançada opcional foi projetada principalmente para usuários e organizações que lidam com informações confidenciais, reduzindo significativamente as vias para exfiltração de dados ao limitar requisições de rede de saída e conexões externas.

A **OpenAI** introduziu o **Modo de Bloqueio** para o **ChatGPT**, um recurso de segurança avançado destinado a mitigar os riscos de exfiltração de dados decorrentes de ataques de injeção de prompt. Este lançamento estratégico visa contas pessoais em planos Gratuitos, Go, Plus, Pro e autoatendimento do **ChatGPT Business**, oferecendo proteção aprimorada para dados sensíveis.
### Entendendo o Propósito do Modo de Bloqueio
O **Modo de Bloqueio** é uma configuração opt-in projetada para restringir muitas das ferramentas e capacidades da **OpenAI** que interagem com a web ou serviços externos. A **OpenAI** declarou: "Ele foi projetado para reduzir o risco de exfiltração de dados de ataques de injeção de prompt, limitando requisições de rede de saída, à custa de desabilitar ou limitar alguns recursos úteis."
A iniciativa aborda diretamente a injeção de prompt, um problema "de fronteira" que continua a desafiar a segurança de todos os modelos de linguagem grandes (**LLMs**). Ao se basear em sandboxing e controles existentes, o modo visa especificamente **mecanismos de exfiltração de dados baseados em URL**, impedindo que informações confidenciais sejam transmitidas para infraestrutura controlada por atacantes.
### Recursos Desabilitados para Segurança Aprimorada
A ideia central por trás do **Modo de Bloqueio** não é impedir injeções de prompt inteiramente, nem altera o funcionamento da memória ou uploads de arquivos. Em vez disso, seu objetivo é eliminar potenciais vias para exfiltração de dados. Para conseguir isso, vários recursos são desabilitados:
* **Navegação web ao vivo**: Limitada ao acesso apenas de conteúdo em cache.
* **Suporte a imagens**: Impede a exibição de imagens em respostas ou sua recuperação da web.
* **Pesquisa profunda**.
* **Modo de agente**.
* **Rede Canvas**: Bloqueia a aprovação do usuário para que o código gerado pelo **Canvas** acesse a rede.
* **Downloads de arquivos**: Impede o download de arquivos para análise de dados.
### Ressalvas e Limitações Importantes
A **OpenAI** enfatiza que o **Modo de Bloqueio** não é para todos os usuários. Ele não pode ser usado simultaneamente com o **Modo de Desenvolvedor**; ativar um desabilitará o outro.
Além disso, embora reduza significativamente o risco, o **Modo de Bloqueio** não oferece uma garantia completa contra exfiltração de dados. A **OpenAI** reconheceu: "O risco pode permanecer através de Apps habilitados, combinações imprevistas de capacidades ou técnicas recém-descobertas." A empresa também esclareceu que o modo não impede todos os outros efeitos de ataques de injeção de prompt, como instruções maliciosas ocultas em arquivos carregados que influenciam o comportamento do **ChatGPT** e potencialmente levam a respostas incorretas.
### Amplas Melhorias de Segurança
Em um desenvolvimento relacionado, a **OpenAI** também lançou um novo recurso de gerenciamento de contas para o **ChatGPT**. Isso permite que os usuários revisem sessões ativas, façam logout de sessões individuais ou de todas, e identifiquem quaisquer sinais de atividade de conta não autorizada. As informações da sessão incluem detalhes como dispositivo, aplicativo usado, localização aproximada, data e hora do login, e se o dispositivo é confiável ou representa a sessão atual.