0 minutos de leitura
DSPM operando na velocidade da GenAI
Carlos Carvajal
Até alguns anos atrás, a ideia de usar IA em nossas vidas pessoais e profissionais parecia ficção científica. Agora, vários setores estão incorporando aplicativos de GenAI como parte de sua pilha tecnológica, prometendo avanços em produtividade, criatividade e eficiência.
De modelos de linguagem natural que geram texto a algoritmos de deep learning que criam imagens e vídeos realistas, a GenAI parece estar preparada para ter implicações de longo alcance. Além da superfície, a ciência por trás da GenAI é que ela é impulsionada por dados—na forma de prompts de entrada e saídas em respostas.
Isso levanta preocupações sobre segurança e governança de dados para as organizações. O desafio diante delas: Como aproveitar o poder da GenAI enquanto mantém todos os dados sensíveis seguros. É aí que entra o Data Security Posture Management (DSPM). O DSPM permite que as organizações descubram, classifiquem, monitorem o uso de dados e identifiquem riscos de dados, como detectar dados sensíveis em locais onde não deveriam estar.
À medida que a tecnologia GenAI continua a avançar rapidamente, os riscos de dados também aumentam. Por isso, é crucial que as soluções de DSPM acompanhem a velocidade da GenAI. Aqui estão três avanços da GenAI, seus riscos associados e como o DSPM os mitiga.
Aprendizado Federado
- Como funciona: Com o aprendizado federado, os modelos de IA são treinados de maneira descentralizada usando vários servidores. Cada servidor mantém seus dados localmente sem compartilhá-los com os outros servidores que treinam a IA.
- O risco de dados: Embora o aprendizado federado tenha o objetivo de mitigar riscos de dados proibindo o compartilhamento de dados entre servidores, o servidor local que treina o modelo de IA pode conter dados sensíveis que não devem sair da sua organização, como propriedade intelectual (PI), dados pessoais identificáveis (PPI), informações de saúde protegidas (PHI), etc.
- Como o DSPM mitiga o risco: Com controles de acesso robustos para proteger os dados, o DSPM garante que dados sensíveis não sejam incorporados aos modelos de IA. Isso é feito controlando os direitos de permissão dos usuários para arquivos sensíveis e monitorando quem acessa aplicativos GenAI.
IA Multimodal
- Como funciona: A IA multimodal é geralmente usada em aplicativos GenAI de texto-para-imagem, como o DALL-E da OpenAI, onde um usuário solicita ao mecanismo de IA para gerar imagens. Ela funciona processando e aprendendo a partir de várias fontes de dados, como imagens, texto e áudio, para gerar a resposta.
- O risco de dados: A privacidade dos dados pode ser um risco com a IA multimodal, já que ela processa vários tipos de dados. As organizações precisam estar cientes de que tipo de dados está sendo usado para treinar o modelo e solicitar ao mecanismo de IA, especialmente dados regulamentados por regulamentações de privacidade como GDPR, CCPA, entre outros.
- Como o DSPM mitiga o risco: Usuários com as melhores intenções podem inadvertidamente inserir dados regulamentados, como PII, ITAR, PCI-DSS, em aplicativos GenAI. O DSPM pode identificar esse tipo de dado, confirmar se ele foi compartilhado entre diferentes geografias, potencialmente violando leis de soberania de dados, e mostrar quantos aplicativos GenAI contêm dados regulamentados. Nossa solução de GenAI Secuirty pode fazer isso hoje com o ChatGPT Enterprise. E continuaremos a focar em adicionar mais plataformas GenAI no futuro.
Pré-treinamento e Ajuste em Grande Escala
- Como funciona: O pré-treinamento e o ajuste em grande escala são métodos atuais usados para treinar a GenAI. Ambos estão em constante evolução e se tornando mais eficientes à medida que o mecanismo de IA assemelha e aprende com vários tipos de dados.
- O Risco de Dados: Quando um usuário faz uma pergunta a um aplicativo de GenAI, a resposta é derivada, de uma forma ou de outra, de dados que foram previamente usados para um prompt. Por exemplo, um usuário em uma instituição financeira pode enviar um arquivo com informações de cartões de crédito, incluindo nomes de clientes e outros dados confidenciais, solicitando ao GenAI que crie uma planilha. Esses dados carregados treinam e melhoram o modelo de IA. Se outro usuário, digamos um estudante, pedir ao GenAI um exemplo de planilha com informações de cartões de crédito, a resposta pode ser os dados reais carregados pelo usuário da instituição financeira.
- Como o DSPM mitiga o risco: As soluções DSPM atuais são projetadas para fornecer maior visibilidade sobre os tipos de dados usados para prompts. Nossa solução de GenAI Security integra-se com a API ChatGPT Enterprise da OpenAI. Com esse acesso ao nível da API, nosso DSPM pode fornecer relatórios detalhados sobre o uso do GenAI— onde os usuários acessam essas ferramentas, quais usuários violam regulamentações de privacidade, quais usuários compartilham excessivamente dados sensíveis e mais, no que se refere ao uso do ChatGPT Enterprise. Nossa solução DSPM também oferece visibilidade sobre os arquivos carregados no ChatGPT Enterprise. Isso dá às organizações a capacidade de revisar a atividade para projetar e implementar políticas de segurança de dados mais robustas.
Como todas as inovações, o GenAI continuará a evoluir, assumindo novas funcionalidades. Aproveitar soluções modernas de DSPM permitirá que as organizações utilizem essas funções, proporcionando vantagens competitivas de forma segura, mitigando riscos de dados e de conformidade.
Com o Forcepoint DSPM, as organizações podem acelerar sua adoção de IA com confiança, sabendo que seus dados sensíveis estão seguros. Ao contrário das soluções DSPM tradicionais que não conseguem ver quais dados estão sendo usados em qualquer aplicativo GenAI, somente a Forcepoint tem a capacidade de visualizar e excluir dados armazenados em chats do ChatGPT Enterprise, incluindo históricos de chat.
Adote uma solução DSPM que acompanhe a velocidade do GenAI. Descubra como a Forcepoint pode proteger sua transformação de IA com o GenAI Security.
Carlos Carvajal
Leia mais artigos de Carlos CarvajalCarlos Carvajal, Senior Product Marketing Manager at Forcepoint for SD-WAN and Advanced Threat Protection solutions, brings 15 years expertise delivering enterprise solutions, including cloud security, AIOPs, and industrial printing. He has held senior positions at IBM and Canon and holds an MBA degree from Syracuse University.
- Secure ChatGPT, Secure AI TransformationLearn More
X-Labs
Get insight, analysis & news straight to your inbox
Ao Ponto
Cibersegurança
Um podcast que cobre as últimas tendências e tópicos no mundo da cibersegurança
Ouça Agora