Uso seguro de IA generativa pela força de trabalho

A plataforma SASE da Cloudflare oferece visibilidade e controles de uso para proteger a forma como funcionários, prestadores de serviços e outros usuários interagem com ferramentas de GenAI, como o ChatGPT. Por exemplo, a Cloudflare aumenta a visibilidade e mitiga os riscos ao classificar as ferramentas de IA utilizadas, detectar configurações incorretas, aplicar políticas de acesso baseadas em identidade e restringir as entradas e saídas de dados confidenciais.

IA não autorizada refere-se ao uso não autorizado de ferramentas de IA sem a aprovação da organização, normalmente pelos departamentos de TI ou segurança. Como a plataforma SASE da Cloudflare monitora o tráfego entre usuários e aplicativos, as organizações podem identificar e analisar o uso dessas ferramentas não autorizadas, avaliar os riscos que representam e aplicar políticas para permitir, bloquear, isolar ou impor outras proteções.

O gerenciamento de postura de segurança de IA (ou AI-SPM) refere-se a uma abordagem proativa para monitorar e mitigar riscos, incluindo vulnerabilidades, problemas de conformidade e vazamentos de dados. O agente de segurança de acesso à nuvem (CASB) da Cloudflare monitora continuamente as ferramentas de GenAI aprovadas por meio de API para detectar configurações incorretas e dados em repouso expostos. A prevenção de perda de dados (DLP), combinada com o gateway seguro da web (SWG), fornece proteção em tempo real ao descobrir o uso de IA não autorizada e inspecionar ativamente os prompts de usuários e as respostas do modelo. Isso permite que as organizações previnam o vazamento de dados confidenciais ao interagir com modelos de IA, implementem políticas de controle de acesso granular em todos os aplicativos de GenAI e gerenciem riscos ao longo de todo o ciclo de vida dos dados de IA.

A proteção para prompts refere-se à forma como a Cloudflare detecta, bloqueia e registra as entradas do usuário nas ferramentas de GenAI para mitigar os riscos de vazamentos de dados e/ou atividades maliciosas. Para cada prompt de usuário, a Cloudflare pode analisar tanto o conteúdo quanto os contextos de um prompt antes de aplicar uma política de segurança. Por exemplo, se um prompt incluir dados confidenciais, como informações de identificação pessoal, código-fonte, dados financeiros ou informações de saúde, os administradores podem definir políticas de DLP para bloquear e registrar esse prompt. A Cloudflare também detecta a intenção do usuário em prompts de IA, prevenindo ações de risco como tentativas de jailbreak, solicitações de código malicioso ou tentativas de extrair informações de identificação pessoal.