
O engenheiro da Microsoft, Shane Jones, levantou questionamentos sobre a segurança do Copilot, a Inteligência Artificial da Microsoft. De acordo com ele, a companhia se recusou a derrubar o Copilot Designer, mesmo após avisos de que a ferramenta pode gerar imagens perturbadoras.
Shane Jones trabalhou na Big Tech por seis anos. Para dar voz a sua preocupação, o engenheiro da Microsoft escreveu uma carta ao FTC (Federal Trade Commissions), órgão regulatório dos Estados Unidos.
Na carta, Jones afirma que durante os testes do Designer – uma das ferramentas do Copilot – ele descobriu que o Designer era capaz de gerar imagens de “demônios e monstros junto de terminologias relacionadas ao aborto“.
Além disso, o engenheiro da Microsoft destacou muitas imagens continham coisas perturbadoras como “adolescentes com rifles e menores de idade bebendo e usando drogas“. Para Jones, a Microsoft não deu atenção aos avisos sobre o Dalle-3, o modelo de linguagem utilizado no Designer.
Engenheiro da Microsoft afirma que companhia não deu atenção aos seus avisos
Além das imagens perturbadoras de crianças usando drogas, o Copilot Designer foi capaz de utilizar as propriedades da Disney para gerar imagens controversas, como Elsa em Gaza com a mensagem “Liberte Gaza” em cartazes.
De acordo com o portal The Verge, a equipe do jornal afirma ter conseguido reproduzir imagens semelhantes às ditas pelo engenheiro da Microsoft. Jones postou uma carta aberta no seu perfil do LinkedIn, mas a equipe jurídica da Big Tech solicitou a remoção (que ele atendeu por medo de represálias).
Portal internacional The Verge afirma ter conseguido reproduzir algumas imagens no Designer

O que é o designer Copilot?
O Designer é uma ferramenta da IA Copilot que permite a edição de imagens, sejam elas geradas por IA ou não. Pense nele como uma espécie de Adobe Photosop. Já o Copilot é a IA da Microsoft e Nesse artigo você aprende o que é e como utiliza-lo.
Apesar dos avisos do engenheiro, a Microsoft investe no Copilot e aposta no futuro da inteligência artificial. A aposta é tão grande que até o Bloco de Notas recebeu IA. Porém, os problemas existem e a IA já foi induzida a se rebelar contra humanos, gerando respostas bizarras no chatbot.
Por outro lado, o porta-voz da empresa afirma que está de olho nas preocupações das pessoas, trabalhando para tornar a ferramenta segura. “Estamos comprometidos em abordar toda e qualquer preocupação que os funcionários tenham“, informou o porta-voz Frank Shaw.
Resta saber se a Microsoft vai mesmo ouvir os questionamentos de seus engenheiros. Apesar da companhia afirmar trabalhar com foco na segurança da ferramenta, de nada adianta se continuar gerando imagens problemáticas.
Fonte: Ars Technica, The Verge, CNBC
- Categorias
Participe do grupo de ofertas do Mundo Conectado
Confira as principais ofertas de Smartphones, TVs e outros eletrônicos que encontramos pela internet. Ao participar do nosso grupo, você recebe promoções diariamente e tem acesso antecipado a cupons de desconto.
Entre no grupo e aproveite as promoções