
A Google, mais uma vez, enfrenta críticas devido ao suposto viés ideológico de sua mais nova inteligência artificial, a Gemini. O foco das críticas agora se deslocou das imagens geradas pelo chatbot para as suas respostas em formato de texto, intensificando o debate sobre a dificuldade de se corrigir problemas relacionados a posicionamentos tendenciosos em IA.
Chipsets Dimensity 9300 e 8300 ganham otimização para Google Gemini Nano
A controvérsia iniciou-se na semana passada, quando se observou que a Gemini se recusava a gerar imagens de pessoas brancas.
Após as primeiras críticas, o chatbot passou a ser acusado de, entre outras coisas, dificultar a comparação entre os impactos negativos causados por tweets de Hitler contra tweets de Elon Musk, recusar-se a promover o consumo de carne, e se negar a auxiliar na criação de campanhas publicitárias para combustíveis fósseis.
Google teria colocado viés no Gemini
Em sua influente coluna na newsletter Stratechery, o analista de tecnologia Ben Thompson chegou a afirmar que a cultura interna da Google foi excessivamente influenciada por funcionários com inclinações à esquerda, e que esta influência se reflete no comportamento “woke” da inteligência artificial.
Google Workspace aprimora IA com Gemini Business e Enterprise
Para solucionar o problema, Thompson defendeu uma remoção de colaboradores que teriam se aproveitado do poder da Google para impor agendas políticas, e ainda sugeriu a demissão daqueles que permitiram que isso acontecesse, incluindo o CEO Sundar Pichai.
É pouco provável que haja uma “caça às bruxas” dentro da Google, mas a empresa demonstra estar atenta ao debate, corrigindo discretamente alguns comportamentos problemáticos da Gemini.
Entretanto, por mais que a Google tente consertar os problemas da Gemini, essa parece ser uma batalha infindável. Programar uma IA para que ela não apresente problemas relacionados a vieses é um desafio inerente à tecnologia.
Além disso, a Google já afirmou que está deliberadamente tentando influenciar as respostas da Gemini, o que sempre será um ponto fácil de exploração para quem deseja acusar a empresa de ser tendenciosa.
Google apresenta Gemma, IA de código aberto baseada no Gemini
Google reconhece erro no Gemini e promete melhorias
Vale lembrar que os problemas com a Gemini começaram quando a Google reconheceu, em um post oficial, ter treinado conscientemente o chatbot para responder a algumas das críticas comuns às inteligências artificiais, as quais tendem a ser acusadas de enviesadas por serem treinadas com dados enviesados ou limitados.
O intuito era fazer com que os resultados fossem mais inclusivos, mas os efeitos colaterais acabaram motivando críticas ao viés ideológico da IA.
Por hora, ainda é cedo para prever quais medidas a Google irá tomar para lidar com as críticas ao viés ideológico da Gemini. No entanto, considerando a repercussão negativa, é possível que haja novas intervenções nos sistemas do chatbot.
Fonte: Insider
- Categorias
Participe do grupo de ofertas do Mundo Conectado
Confira as principais ofertas de Smartphones, TVs e outros eletrônicos que encontramos pela internet. Ao participar do nosso grupo, você recebe promoções diariamente e tem acesso antecipado a cupons de desconto.
Entre no grupo e aproveite as promoções