Uso seguro de la IA generativa por parte de los usuarios

La plataforma SASE de Cloudflare ofrece visibilidad y controles de uso para proteger la forma en que los empleados, contratistas y otros usuarios interactúan con herramientas de GenAI como ChatGPT. Por ejemplo, Cloudflare amplía la visibilidad y mitiga los riesgos al clasificar las herramientas de IA que se utilizan, detectar errores de configuración, aplicar políticas de acceso en función de la identidad y restringir las entradas y salidas de datos confidenciales.

Shadow AI hace referencia al uso no autorizado de herramientas de IA sin una autorización formal, generalmente por los departamentos de TI o de seguridad. Como la plataforma SASE de Cloudflare visualiza el tráfico entre usuarios y aplicaciones, las organizaciones pueden identificar y analizar el uso de estas herramientas no autorizadas, evaluar los riesgos que representan y aplicar políticas para autorizar, bloquear, aislar o implementar otras protecciones.

La gestión del estado de seguridad de la IA (AI-SPM) consiste en un enfoque preventivo para monitorear y reducir riesgos, como vulnerabilidades, cuestiones de cumplimiento normativo y filtraciones de datos. El agente de seguridad de acceso a la nube (CASB) de Cloudflare supervisa continuamente las herramientas de IA generativa autorizadas a través de la API para detectar errores de configuración y datos expuestos en reposo. La Prevención de Pérdida de Datos (DLP), combinada con la Secure Web Gateway (SWG), ofrece protección en tiempo real al detectar el uso de Shadow AI e inspeccionar activamente los prompts de los usuarios y las respuestas del modelo. Con ello, las organizaciones pueden prevenir fugas de información confidencial al usar modelos de IA, establecer controles de acceso detallados en todas las aplicaciones de IA generativa y manejar los riesgos durante todo el ciclo de vida de los datos de IA.

La protección de prompts hace referencia a la manera en que Cloudflare detecta, bloquea y registra las entradas de los usuarios en las herramientas GenAI para mitigar los riesgos de fugas de datos o actividades maliciosas. Cloudflare puede analizar el contenido y el contexto de cada prompt de usuario antes de aplicar una política de seguridad. Por ejemplo, si un prompt incluye datos confidenciales, como información de identificación personal, código fuente, información financiera o información de salud, los administradores pueden establecer políticas de DLP para bloquear y registrar ese prompt. Cloudflare también detecta la intención del usuario en los prompts de la IA, lo que previene riesgos como intentos de jailbreak, solicitudes de código malicioso o intentos de extraer información de identificación personal (PII).