Protege la utilización de la IA generativa por parte de tu equipo

La plataforma SASE de Cloudflare proporciona visibilidad y controles de uso para proteger la interacción de los empleados, los contratistas y otros usuarios con herramientas de IA generativa como ChatGPT. Por ejemplo, Cloudflare amplía la visibilidad y mitiga los riesgos al clasificar las herramientas de IA que se utilizan, detectar errores de configuración, aplicar políticas de acceso basadas en la identidad y restringir la entrada y salida de datos confidenciales.

El término "shadow IA" se refiere al uso no autorizado de herramientas de IA sin la aprobación de la organización (normalmente de los departamentos de informática o de seguridad). La plataforma SASE de Cloudflare analiza el tráfico entre los usuarios y las aplicaciones, por lo que las organizaciones pueden identificar y analizar el uso de estas herramientas no autorizadas, evaluar los riesgos que suponen y aplicar políticas para permitir, bloquear, aislar o aplicar otras medidas de protección.

El término "gestión de la postura de seguridad de la IA" (o AI-SPM) se refiere a un enfoque proactivo de la supervisión y la mitigación de riesgos, como las vulnerabilidades, los problemas de cumplimiento y las fugas de datos. El agente de seguridad de acceso a la nube (CASB) de Cloudflare supervisa continuamente las herramientas de IA generativa autorizadas a través de las API para detectar los errores de configuración y la exposición de datos en reposo. La prevención de pérdida de datos (DLP), junto con nuestra puerta de enlace web segura (SWG), proporciona protección en tiempo real al identificar el uso de la shadow AI e inspeccionar activamente las instrucciones de los usuarios y las respuestas de los modelos. Esto permite a las organizaciones evitar la fuga de datos confidenciales en las interacciones con los modelos de IA, aplicar políticas de control de acceso detalladas en todas las aplicaciones de IA generativa y gestionar los riesgos a lo largo de todo el ciclo de vida de los datos de IA.

El término "protección de instrucciones" se refiere a cómo Cloudflare detecta, bloquea y registra las entradas de los usuarios en las herramientas de IA generativa a fin de mitigar los riesgos de fugas de datos o las actividades maliciosas. En cada instrucción de usuario, Cloudflare puede analizar tanto su contenido como su contexto antes de aplicar una política de seguridad. Por ejemplo, si una instrucción incluye datos confidenciales como información de identificación personal, código fuente o información financiera o sanitaria, los administradores pueden establecer políticas de DLP para bloquear y registrar esa instrucción. Cloudflare también detecta la intención del usuario en las instrucciones de IA, bloqueando acciones de riesgo como los intentos de jailbreak, las solicitudes de código malicioso o las tentativas de extraer información de identificación personal.