Quando um simples link expõe conversas privadas: por que a segurança da IA precisa começar antes do prompt?

A recente vulnerabilidade identificada no ChatGPT reforça uma questão que empresas e órgãos públicos ainda precisam enfrentar: quem governa as informações que seus colaboradores compartilham com sistemas de Inteligência Artificial?

Rastreabilidade total

Alinhado à

LGPD

Preparado para o

Marco Legal da IA

DPO E PRIVACIDADE

Profissionais de privacidade e segurança da informação avaliando o uso corporativo de IA antes do envio de dados, com apoio da SAQR

A recente notícia publicada na comunidade AllPrivacy da DPOnet trouxe à discussão uma vulnerabilidade que permitia que links de conversas compartilhadas do ChatGPT fossem utilizados para executar código malicioso e acessar informações privadas de outros usuários.

A falha, identificada por pesquisadores da Parameter, foi classificada como crítica pela OpenAI e corrigida em outubro de 2026. A exploração demonstrada ocorreu em ambiente controlado, sem evidências públicas de utilização contra usuários reais.

Embora o problema técnico tenha sido solucionado, o episódio revela uma questão estrutural: as organizações estão incorporando Inteligência Artificial às suas operações sem necessariamente estabelecer mecanismos proporcionais de governança, controle e prevenção.

Para DPOs, gestores de segurança e prestadores de serviços gerenciados, o alerta vai além de uma vulnerabilidade específica.

A segurança corporativa não pode depender exclusivamente dos mecanismos de proteção oferecidos pelos provedores de IA.

O risco não está apenas na vulnerabilidade. Está também nos dados que chegam à IA.

Imagine um colaborador de uma instituição financeira utilizando uma ferramenta de IA para resumir informações de clientes.

Ou um profissional de recursos humanos submetendo documentos com informações pessoais a um assistente inteligente.

Em órgãos públicos, o cenário pode envolver processos administrativos, documentos internos, informações de cidadãos e dados sujeitos a restrições legais de acesso.

Em qualquer uma dessas situações, uma pergunta precisa anteceder o uso da tecnologia:

A organização autorizou o compartilhamento dessas informações com aquela ferramenta de IA?

Essa é uma questão de governança.

Mesmo quando a ferramenta funciona corretamente, sem qualquer vulnerabilidade explorada, o envio inadequado de informações pode representar risco à privacidade, à confidencialidade e às obrigações contratuais e regulatórias.

É importante distinguir dados pessoais sensíveis, conforme definidos pela LGPD, de informações empresariais confidenciais ou documentos governamentais sigilosos. São categorias que podem envolver diferentes regimes de proteção, embora todas exijam critérios de segurança.

O problema, portanto, não começa necessariamente com um ataque. Pode começar com uma decisão cotidiana tomada por um usuário sem orientação ou supervisão adequada.

Dados compartilhados com LLMs podem ser utilizados no treinamento dos modelos?

Essa é uma das questões mais relevantes para a governança corporativa de Inteligência Artificial.

Os Large Language Models (LLMs) são desenvolvidos por meio de processos de treinamento que envolvem grandes volumes de dados. Entretanto, isso não significa que toda informação inserida em uma conversa seja automaticamente incorporada ao aprendizado do modelo.

O tratamento dos dados depende do fornecedor, do serviço contratado, das configurações de privacidade e dos termos aplicáveis.

A própria OpenAI, por exemplo, informa que os dados utilizados no ChatGPT Business, Enterprise e na plataforma de API não são empregados, por padrão, no treinamento de seus modelos. Já determinados serviços individuais possuem controles específicos relacionados à utilização de conversas para melhoria dos modelos.

Também é necessário distinguir o uso de dados para treinamento de outras operações, como armazenamento, retenção, processamento, compartilhamento com subprocessadores e acesso por terceiros.

Assim, a preocupação corporativa não deve se limitar à pergunta "a IA aprende com meus dados?".

É necessário compreender:

  • Quais informações estão sendo enviadas aos serviços de IA.
  • Quais fornecedores estão autorizados a processá-las.
  • Quais políticas de retenção e treinamento são aplicáveis.
  • Quem pode utilizar cada ferramenta.
  • Como identificar e investigar usos incompatíveis com as políticas da organização.

A prevenção exige controles anteriores à submissão das informações, não apenas confiança nas respostas ou no comportamento do modelo.

A governança de IA como camada preventiva entre o usuário e os modelos

Tradicionalmente, a segurança corporativa concentra parte de seus investimentos em ferramentas como EDR, proteção de redes, gestão de identidades e mecanismos de prevenção contra perda de dados.

Esses recursos continuam fundamentais.

Entretanto, proteger o dispositivo utilizado pelo colaborador não significa, necessariamente, controlar todas as informações que ele decide compartilhar com uma ferramenta externa de Inteligência Artificial.

Um endpoint pode estar devidamente protegido e ainda assim ser utilizado para enviar dados confidenciais a um serviço não autorizado.

É nesse contexto que uma camada adicional de governança passa a fazer sentido.

A SAQR, Security AI Query Radar, foi desenvolvida com a proposta de centralizar a gestão corporativa do acesso a diferentes ferramentas de IA, permitindo que organizações estabeleçam critérios de utilização e responsabilidades sobre esse ambiente.

Sua abordagem Multi-IA permite tratar diferentes ferramentas de Inteligência Artificial dentro de uma estratégia corporativa de gestão.

Entre os recursos apresentados pela plataforma estão a centralização de acessos, a gestão de usuários e permissões, as políticas corporativas e a rastreabilidade de atividades.

Esses controles contribuem para reduzir a utilização desorganizada de ferramentas, apoiar a identificação de responsabilidades e fortalecer a aplicação das diretrizes internas de segurança e privacidade.

A SAQR representa, portanto, uma camada de governança preventiva sobre o acesso e o uso de IA. Essa abordagem deve ser combinada com controles técnicos de proteção de dados, configurações adequadas dos fornecedores e mecanismos de segurança já existentes.

Não se trata de afirmar que uma plataforma de governança elimina vulnerabilidades internas dos provedores ou impede automaticamente que qualquer informação seja processada por uma LLM.

Trata-se de reduzir a exposição organizacional por meio de decisões mais controladas sobre quem utiliza a tecnologia e em quais condições.

O desafio dos DPOs e MSPs: transformar políticas em controles operacionais

Para o DPO, a adoção corporativa de IA representa uma ampliação dos cenários de tratamento de dados pessoais que precisam ser avaliados.

É necessário conhecer as finalidades de utilização, as categorias de dados envolvidos, as bases legais pertinentes, os riscos e as medidas técnicas e administrativas adotadas.

Para Managed Service Providers (MSPs), responsáveis pela administração de ambientes tecnológicos de múltiplos clientes, surge uma oportunidade complementar.

Além de gerenciar dispositivos, identidades, infraestrutura e serviços de segurança, esses profissionais podem ajudar organizações a estruturar processos de governança sobre as ferramentas de Inteligência Artificial.

Isso inclui apoiar inventários de ferramentas autorizadas, administrar permissões, revisar políticas de utilização e acompanhar indicadores de governança.

Nesse cenário, soluções de governança de IA para DPOs e MSPs, como a SAQR, podem contribuir para aproximar as responsabilidades de privacidade das atividades práticas de administração tecnológica.

A colaboração entre DPO, segurança da informação, TI e MSP torna-se especialmente relevante porque políticas de proteção de dados só produzem resultados consistentes quando podem ser aplicadas, acompanhadas e revisadas.

Cinco medidas para reduzir a exposição de informações corporativas à IA

Uma estratégia consistente de prevenção deve considerar diferentes camadas de proteção.

1. Inventariar as ferramentas de IA utilizadas

Identificar quais serviços são utilizados por colaboradores, departamentos e prestadores, incluindo ferramentas contratadas individualmente e integrações por API.

2. Classificar as informações antes do compartilhamento

Definir quais categorias de dados podem ser processadas por ferramentas externas, quais exigem anonimização ou minimização e quais não podem ser compartilhadas.

3. Centralizar a gestão de acessos e permissões

Estabelecer ferramentas autorizadas e critérios de acesso por função, necessidade profissional e finalidade. Esse é um dos pontos nos quais a SAQR pode apoiar a organização.

4. Verificar as condições de tratamento de dados dos provedores

Avaliar contratos, políticas de retenção, mecanismos de exclusão, possibilidades de treinamento, transferências internacionais e controles disponíveis para cada serviço.

5. Implementar rastreabilidade e revisão contínua

Manter registros adequados, observar o princípio da necessidade e revisar periodicamente acessos e políticas. Quando necessário, complementar a governança com DLP e outros controles técnicos capazes de identificar ou restringir o envio indevido de informações.

Essas medidas não eliminam todos os riscos, mas ajudam a construir um ambiente de utilização de IA mais previsível, auditável e alinhado às responsabilidades corporativas.

Segurança de IA não é apenas uma questão tecnológica. É uma questão de governança.

O episódio envolvendo os links compartilhados do ChatGPT mostra que mesmo plataformas amplamente utilizadas podem apresentar vulnerabilidades relevantes.

Por outro lado, também demonstra a importância da pesquisa de segurança, dos processos de comunicação responsável de falhas e da rápida implementação de correções pelos fornecedores.

Para empresas e órgãos públicos, a principal lição é que a proteção das informações deve considerar todo o ciclo de utilização da Inteligência Artificial.

Isso inclui os dados antes de serem enviados, as permissões atribuídas aos usuários, as condições de processamento pelos fornecedores e as medidas de proteção implementadas ao longo da operação.

A governança não substitui a segurança técnica. Ela ajuda a estabelecer as condições sob as quais a tecnologia deve ser utilizada.

Se a Inteligência Artificial já faz parte dos processos corporativos, sua utilização também precisa fazer parte das políticas de governança, segurança e privacidade.

Esse é o debate que a SAQR busca ampliar, oferecendo uma abordagem de gestão corporativa de IA voltada à centralização de acessos, às responsabilidades organizacionais e à rastreabilidade.

Conhecer essas possibilidades é um passo importante para profissionais de privacidade e segurança que precisam conciliar inovação, produtividade e proteção de informações.

Sobre a SAQR

A SAQR é uma plataforma de governança corporativa de Inteligência Artificial desenvolvida pela SW Tecnologia em Marketing de Performance, com foco em gestão de acessos, permissões, políticas de utilização e rastreabilidade em ambientes Multi-IA.

Agendar uma demonstração

Conheça: https://saqr.swtecnologia.tech

© 2026 CNPJ 27.697.592/0001-07 — Todos os direitos reservados.

PLATAFORMA


Gestão de usuários

Gestão de permissões

Multi-IA

Rastreabilidade

Governança corporativa para o uso de Inteligência Artificial.
Plataforma Hub de Gestão e Governança no uso de Inteligência Artificial em ambiente Empresarial em Conformidade ao Marco Geral da Inteligência Artificial no Brasil, LGPD, Compliance, ESG. PL 2338.
SAQR Plataforma de Governança e Gestão no uso de IA para Empresas.



CONTATO

EMPRESA


Quem somos

Segurança da informação

LGPD e compliance

Fale conosco

ONDE ESTAMOS

(11) 4965-4440

contato@swtecnologia.tech

Seg - Sex: 08h às 18h

São Paulo