DSPM Operando a la Velocidad de GenAI

Desde modelos de lenguaje natural que generan texto hasta algoritmos de aprendizaje profundo que crean imágenes y videos realistas, GenAI parece estar destinado a tener implicaciones de gran alcance. Más allá de la apariencia, la ciencia detrás de GenAI es que está impulsada por datos, en forma de indicaciones de entrada y salidas en las respuestas.

Esto plantea preocupaciones de seguridad y gobernanza de datos para las organizaciones. El desafío ante ellas: cómo aprovechar el poder de GenAI manteniendo todos los datos sensibles seguros. Ahí es donde entra en juego la Gestión de la Postura de Seguridad de Datos (DSPM). DSPM permite a las organizaciones descubrir, clasificar, monitorear el uso de datos e identificar riesgos de datos, como detectar datos sensibles en ubicaciones donde no deberían estar.

A medida que la tecnología GenAI continúa avanzando rápidamente, también lo hacen los riesgos de datos. Es por eso que es crucial que las soluciones DSPM se mantengan a la velocidad de GenAI. Aquí hay tres avances de GenAI, sus riesgos asociados y cómo DSPM los mitiga.

Aprendizaje Federado

• Cómo funciona: Con el aprendizaje federado, los modelos de IA se entrenan de manera descentralizada utilizando múltiples servidores. Cada servidor mantiene sus respectivos datos localmente sin compartirlos entre los otros servidores que entrenan la IA.
• El riesgo de datos: Aunque el aprendizaje federado está diseñado para mitigar los riesgos de datos al prohibir que los servidores compartan datos, el servidor local que entrena el modelo de IA puede contener datos sensibles que no deberían salir de tu organización, como propiedad intelectual (IP), información personal identificable (PII), información de salud protegida (PHI), etc.
• Cómo DSPM mitiga el riesgo: Con controles de acceso sólidos para proteger los datos, DSPM asegura que los datos sensibles no se ingresen en los modelos de IA. Esto se logra controlando los derechos de permiso de los usuarios a archivos sensibles y monitoreando quién accede a las aplicaciones de GenAI.

IA Multimodal

• Cómo funciona: La IA multimodal se utiliza típicamente en aplicaciones de GenAI de texto a imagen, como DALL-E de OpenAI, donde un usuario solicita al motor de IA que genere imágenes. Funciona procesando y aprendiendo de varias fuentes de datos, como imágenes, texto y audio, para generar la respuesta.
• El riesgo de datos: La privacidad de los datos puede ser un riesgo con la IA multimodal, ya que procesa varios tipos de datos. Las organizaciones deben ser conscientes del tipo de datos que se utilizan para entrenar el modelo y solicitar al motor de IA, particularmente los datos que están regulados por normativas de privacidad como GDPR, CCPA y otras.
• Cómo DSPM mitiga el riesgo: Los usuarios con las mejores intenciones pueden ingresar inadvertidamente datos regulados como PII, ITAR, PCI-DSS en aplicaciones de GenAI. DSPM puede identificar este tipo de datos, confirmar si se han compartido a través de diferentes geografías, potencialmente violando las leyes de soberanía de datos, y mostrar cuántas aplicaciones de GenAI contienen datos regulados. Nuestra solución de GenAI Security puede hacer esto hoy con ChatGPT Enterprise. Y continuaremos enfocándonos en agregar más plataformas de GenAI en el futuro.

Preentrenamiento y Ajuste a Gran Escala

• Cómo funciona: El preentrenamiento y ajuste a gran escala son métodos actuales utilizados para entrenar GenAI. Ambos están evolucionando continuamente y volviéndose más eficientes a medida que el motor de IA ingiere y aprende de varios tipos de datos.
• El riesgo de datos: Cuando un usuario le hace una pregunta a una aplicación de GenAI, la respuesta se deriva, de una forma u otra, de los datos que se utilizaron previamente para una solicitud. Por ejemplo, un usuario en una institución financiera podría subir un archivo con información de tarjetas de crédito, incluidos nombres de clientes y otros datos confidenciales, solicitando a GenAI que cree una hoja de cálculo. Estos datos subidos entrenan y mejoran el modelo de IA. Si otro usuario, digamos un estudiante, le pide a GenAI un ejemplo de hoja de cálculo con información de tarjetas de crédito, la respuesta podría ser los datos reales subidos por el usuario de la institución financiera.
• Cómo DSPM mitiga el riesgo: Las soluciones DSPM de hoy en día están diseñadas para proporcionar una mayor visibilidad de los tipos de datos que se utilizan para las solicitudes. Nuestra solución de GenAI Security se integra con la API de ChatGPT Enterprise de OpenAI. Con este acceso a nivel de API, nuestro DSPM puede proporcionar informes detallados sobre el uso de GenAI: dónde los usuarios acceden a estas herramientas, qué usuarios violan las regulaciones de privacidad, qué usuarios comparten en exceso datos sensibles y más, en lo que respecta al uso de ChatGPT Enterprise. Nuestra solución DSPM también proporciona visibilidad sobre los archivos subidos a ChatGPT Enterprise. Esto permite a las organizaciones revisar la actividad para diseñar e implementar políticas de seguridad de datos más estrictas.

Como todas las innovaciones, GenAI continuará evolucionando, asumiendo nuevas funcionalidades. Aprovechar las soluciones DSPM modernas permitirá a las organizaciones aprovechar estas funciones, brindándoles ventajas competitivas de manera segura, mitigando los riesgos de datos y cumplimiento.

Con Forcepoint DSPM, las organizaciones pueden acelerar su adopción de IA con confianza, sabiendo que sus datos sensibles están seguros. A diferencia de las soluciones DSPM tradicionales que no pueden ver qué datos se están utilizando en cualquier aplicación de GenAI, solo Forcepoint tiene la capacidad de ver y eliminar datos almacenados en chats de ChatGPT Enterprise, incluidas las historias de chat.

Sube a una solución DSPM que opere a la velocidad de GenAI. Aprende cómo Forcepoint puede proteger tu transformación de IA con Gen AI Security.