Índice do Artigo

Que loucura!

Google tem novo problema com viés ideológico na IA Gemini

Críticas ao chatbot da Google se intensificam e apontam para desafios no processo de correção

Gemini do Google
Créditos: Google/Reprodução

A Google, mais uma vez, enfrenta críticas devido ao suposto viés ideológico de sua mais nova inteligência artificial, a Gemini. O foco das críticas agora se deslocou das imagens geradas pelo chatbot para as suas respostas em formato de texto, intensificando o debate sobre a dificuldade de se corrigir problemas relacionados a posicionamentos tendenciosos em IA.

Chipsets Dimensity 9300 e 8300 ganham otimização para Google Gemini Nano

A controvérsia iniciou-se na semana passada, quando se observou que a Gemini se recusava a gerar imagens de pessoas brancas.

Após as primeiras críticas, o chatbot passou a ser acusado de, entre outras coisas, dificultar a comparação entre os impactos negativos causados por tweets de Hitler contra tweets de Elon Musk, recusar-se a promover o consumo de carne, e se negar a auxiliar na criação de campanhas publicitárias para combustíveis fósseis.

Google teria colocado viés no Gemini

Em sua influente coluna na newsletter Stratechery, o analista de tecnologia Ben Thompson chegou a afirmar que a cultura interna da Google foi excessivamente influenciada por funcionários com inclinações à esquerda, e que esta influência se reflete no comportamento “woke” da inteligência artificial.

Google Workspace aprimora IA com Gemini Business e Enterprise

Para solucionar o problema, Thompson defendeu uma remoção de colaboradores que teriam se aproveitado do poder da Google para impor agendas políticas, e ainda sugeriu a demissão daqueles que permitiram que isso acontecesse, incluindo o CEO Sundar Pichai.

É pouco provável que haja uma “caça às bruxas” dentro da Google, mas a empresa demonstra estar atenta ao debate, corrigindo discretamente alguns comportamentos problemáticos da Gemini.

Entretanto, por mais que a Google tente consertar os problemas da Gemini, essa parece ser uma batalha infindável. Programar uma IA para que ela não apresente problemas relacionados a vieses é um desafio inerente à tecnologia.

Além disso, a Google já afirmou que está deliberadamente tentando influenciar as respostas da Gemini, o que sempre será um ponto fácil de exploração para quem deseja acusar a empresa de ser tendenciosa.

Google apresenta Gemma, IA de código aberto baseada no Gemini

Google reconhece erro no Gemini e promete melhorias

Vale lembrar que os problemas com a Gemini começaram quando a Google reconheceu, em um post oficial, ter treinado conscientemente o chatbot para responder a algumas das críticas comuns às inteligências artificiais, as quais tendem a ser acusadas de enviesadas por serem treinadas com dados enviesados ou limitados.

O intuito era fazer com que os resultados fossem mais inclusivos, mas os efeitos colaterais acabaram motivando críticas ao viés ideológico da IA.

Por hora, ainda é cedo para prever quais medidas a Google irá tomar para lidar com as críticas ao viés ideológico da Gemini. No entanto, considerando a repercussão negativa, é possível que haja novas intervenções nos sistemas do chatbot.

Fonte: Insider

Participe do grupo de ofertas do Mundo Conectado

Participe do grupo de ofertas do Mundo Conectado

Confira as principais ofertas de Smartphones, TVs e outros eletrônicos que encontramos pela internet. Ao participar do nosso grupo, você recebe promoções diariamente e tem acesso antecipado a cupons de desconto.

Entre no grupo e aproveite as promoções