O Google suspende temporariamente a geração de imagens no Gemini após preocupações de preconceito

Na semana passada, a IA conversacional do Google, Gemini, foi alvo de escrutínio por mostrar preconceito na sua capacidade de gerar imagens de pessoas. Os usuários relataram que quando pediram ao Gemini para ilustrar pessoas em contextos históricos ou cenários fictícios, a IA era mais propensa a retratar figuras com tons de pele mais escuros. Isto levantou preocupações legítimas sobre possíveis distorções no sistema.

Em comunicado, o Google reconheceu que o Gemini não teve um bom desempenho quando se tratou de representar pessoas de diferentes etnias e origens de forma equilibrada e inclusiva. A empresa decidiu desativar temporariamente a capacidade do seu chatbot AI de gerar imagens para as pessoas.

O Google afirmou que a inclusão e a diversidade são princípios extremamente importantes para ele. A empresa não queria que suas tecnologias se propagassem ou fossem suscetíveis de forma alguma a preconceitos do mundo real.

Já estamos trabalhando para resolver problemas recentes com o recurso de geração de imagens do Gemini. Enquanto fazemos isso, pausaremos a geração de imagens de pessoas e relançaremos uma versão melhorada em breve. https://t.co/SLxYPGoqOZ

– Comunicações do Google (@Google_Comms) 22 de fevereiro de 2024

Quando os usuários pedem ao Gemini para criar uma imagem, eles recebem uma mensagem explicando que o recurso não está disponível no momento, mas retornará assim que os problemas de preconceito forem resolvidos de forma adequada.

Especialistas disseram (via AP News ) que os geradores de imagens de IA lutam com a diversidade devido a preconceitos em seus dados de treinamento, que muitas vezes carecem de representações de pessoas de todas as origens. O Google parece determinado a resolver essas limitações no Gemini antes de reativar o recurso. Quer garantir que o sistema possa representar todos os tipos de pessoas de forma objetiva e equilibrada.

A medida é vista como um passo proactivo no sentido de tornar as tecnologias de IA justas e inclusivas . Como parte deste movimento, o governo dos EUA tomou medidas em Fevereiro para promover o desenvolvimento seguro da IA ​​generativa. Apple, OpenAI e Microsoft juntaram-se ao primeiro consórcio para abordar protocolos em torno de IA.