Índice do Artigo

Gerando Imagens Perturbadoras

Engenheiro da Microsoft alerta que ferramenta de IA da empresa é perigosa

Em carta aberta, Shane Jones, afirma que a ferramenta Designer do Copilot é capaz de gerar imagens violentas e perturbadoras

Engenheiro da Microsoft afirma que ferramenta de IA é perigosa
Créditos: Microsoft/Copilot

O engenheiro da Microsoft, Shane Jones, levantou questionamentos sobre a segurança do Copilot, a Inteligência Artificial da Microsoft. De acordo com ele, a companhia se recusou a derrubar o Copilot Designer, mesmo após avisos de que a ferramenta pode gerar imagens perturbadoras.

Shane Jones trabalhou na Big Tech por seis anos. Para dar voz a sua preocupação, o engenheiro da Microsoft escreveu uma carta ao FTC (Federal Trade Commissions), órgão regulatório dos Estados Unidos.

Na carta, Jones afirma que durante os testes do Designer – uma das ferramentas do Copilot – ele descobriu que o Designer era capaz de gerar imagens de “demônios e monstros junto de terminologias relacionadas ao aborto“.

Além disso, o engenheiro da Microsoft destacou muitas imagens continham coisas perturbadoras como “adolescentes com rifles e menores de idade bebendo e usando drogas“. Para Jones, a Microsoft não deu atenção aos avisos sobre o Dalle-3, o modelo de linguagem utilizado no Designer.

Engenheiro da Microsoft afirma que companhia não deu atenção aos seus avisos

Além das imagens perturbadoras de crianças usando drogas, o Copilot Designer foi capaz de utilizar as propriedades da Disney para gerar imagens controversas, como Elsa em Gaza com a mensagem “Liberte Gaza” em cartazes.

De acordo com o portal The Verge, a equipe do jornal afirma ter conseguido reproduzir imagens semelhantes às ditas pelo engenheiro da Microsoft. Jones postou uma carta aberta no seu perfil do LinkedIn, mas a equipe jurídica da Big Tech solicitou a remoção (que ele atendeu por medo de represálias).

Portal internacional The Verge afirma ter conseguido reproduzir algumas imagens no Designer

Engenheiro da Microsoft fala que Copilot é perigoso
CRÉDITOS: Microsoft

O que é o designer Copilot?

O Designer é uma ferramenta da IA Copilot que permite a edição de imagens, sejam elas geradas por IA ou não. Pense nele como uma espécie de Adobe Photosop. Já o Copilot é a IA da Microsoft e Nesse artigo você aprende o que é e como utiliza-lo.

Apesar dos avisos do engenheiro, a Microsoft investe no Copilot e aposta no futuro da inteligência artificial. A aposta é tão grande que até o Bloco de Notas recebeu IA. Porém, os problemas existem e a IA já foi induzida a se rebelar contra humanos, gerando respostas bizarras no chatbot.

Por outro lado, o porta-voz da empresa afirma que está de olho nas preocupações das pessoas, trabalhando para tornar a ferramenta segura. “Estamos comprometidos em abordar toda e qualquer preocupação que os funcionários tenham“, informou o porta-voz Frank Shaw.

Resta saber se a Microsoft vai mesmo ouvir os questionamentos de seus engenheiros. Apesar da companhia afirmar trabalhar com foco na segurança da ferramenta, de nada adianta se continuar gerando imagens problemáticas.

Fonte: Ars Technica, The Verge, CNBC

Participe do grupo de ofertas do Mundo Conectado

Participe do grupo de ofertas do Mundo Conectado

Confira as principais ofertas de Smartphones, TVs e outros eletrônicos que encontramos pela internet. Ao participar do nosso grupo, você recebe promoções diariamente e tem acesso antecipado a cupons de desconto.

Entre no grupo e aproveite as promoções