
A OpenAI anunciou que baniu contas de usuários na China que utilizavam o ChatGPT para editar código de um sistema de vigilância em redes sociais. A ferramenta monitorava postagens no X, Facebook, YouTube e Instagram em busca de conteúdos críticos ao governo chinês.
A empresa explicou que os operadores usavam o ChatGPT para gerar argumentos de vendas do programa, revisar relatórios e garantir que informações fossem enviadas a autoridades chinesas. O sistema teria sido usado para identificar chamados para protestos contra violações de direitos humanos no país.

Segundo a OpenAI, a rede de contas operava em horários comerciais da China e fazia solicitações ao ChatGPT em chinês. A atividade era consistente com uso manual, não automatizado, o que ajudou a identificar o padrão suspeito.
Além de editar código, o grupo usava a IA para revisar documentos que alegavam ter enviado dados para embaixadas chinesas e agentes de inteligência monitorando manifestações nos EUA, Alemanha e Reino Unido.
Leia mais:
- Veo 2: gerador de vídeo por IA do Google custará US$ 0,50 por segundo
- Meta defende uso de material pirata para treinar IA: “é legal se você não compartilhar”
- Atualização levará Apple Visual Intelligence para o iPhone 15 Pro
Código baseado em modelo da Meta
Ben Nimmo, investigador da OpenAI, afirmou que essa foi a primeira vez que a empresa encontrou uma ferramenta desse tipo. “Atores de ameaça às vezes revelam suas atividades ao interagir com nossos modelos de IA”, disse ao The New York Times.
O código do sistema de vigilância parece ter sido baseado em um modelo de código aberto da Meta, o Llama. Além disso, a OpenAI descobriu que o grupo usou o ChatGPT para redigir avaliações de desempenho onde alegava ter produzido e-mails de phishing para clientes na China.
ChatGPT lança ‘modo adulto’ e flexibiliza regras para erotismo e violência
A OpenAI destacou que avaliar o impacto dessa operação exigiria colaboração com outras partes, como desenvolvedores de modelos de IA de código aberto.
Tentativa de manipulação da opinião pública
Em outro caso, a OpenAI também baniu uma conta que usava o ChatGPT para criar postagens críticas à cientista política e dissidente chinesa Cai Xia. O grupo gerava artigos em espanhol com conteúdo crítico aos EUA, publicados em sites de notícias na América Latina.
Presidente da OpenAI revela segredos do “prompt perfeito” para extrair o máximo do ChatGPT
A decisão da OpenAI reforça o debate sobre o uso ético da inteligência artificial e os desafios para evitar que tecnologias avançadas sejam exploradas para censura e vigilância.
Fonte: Reuters
- Categorias
Participe do grupo de ofertas do Mundo Conectado
Confira as principais ofertas de Smartphones, TVs e outros eletrônicos que encontramos pela internet. Ao participar do nosso grupo, você recebe promoções diariamente e tem acesso antecipado a cupons de desconto.
Entre no grupo e aproveite as promoções