A ferramenta de IA da Meta se encontra em apuros porque cria imagens imprecisas de um casal mestiço

Seguindo os passos do Google, a geração de imagens de IA do Meta encontrou dificuldades, pois luta para produzir imagens precisas, mesmo com instruções simples.

Surgiu um relatório recente discutindo como o gerador de imagens do Meta produziu uma imagem de um homem asiático com uma mulher branca que não era totalmente precisa, embora as instruções tivessem passado por vários ajustes.

O gerador de imagens AI da Meta segue os passos do Google com recursos de geração de imagens

O relatório discute a incapacidade consistente da IA ​​do Meta de produzir imagens precisas, levantando preocupações sobre possíveis preconceitos em relação a certas raças. Apesar da simplicidade dos prompts usados ​​na ferramenta geradora de imagens de IA no Instagram, ela continuou a gerar imagens imprecisas. Essas solicitações incluíam frases como “homem asiático e amigo caucasiano” ou “homem asiático e esposa branca”, e esse problema não foi isolado, ocorrendo várias vezes.

The Verge também discute a capacidade do gerador de imagens Meta AI de criar com sucesso apenas uma imagem precisa em várias tentativas. A inspiração para esta imagem de sucesso foi uma mulher asiática com um marido caucasiano. Isso indica que as nove tentativas anteriores não tiveram sucesso, pois a plataforma gerou imagens imprecisas. Exemplos dessas imagens imprecisas podem ser vistos abaixo.

Já encontramos incidentes semelhantes com geradores de imagens de IA antes. Para refrescar sua memória, o Google teve que encerrar a ferramenta de geração de imagens de IA do Gemini devido à sua tendência de produzir imagens imprecisas, o que é comparável ao problema que enfrentamos com o gerador de imagens do Meta.

Para ser totalmente honesto, não estou surpreso com isso. Tenho alertado constantemente as pessoas sobre a falta de confiabilidade dos geradores de imagens e como eles podem causar confusão. É melhor abordá-los com cautela. Atualmente, não houve nenhuma explicação do Meta sobre as ações do gerador de imagens de IA. Porém, como a ferramenta ainda está em fase beta, é esperado que ela cometa erros.

Continuaremos a fornecer atualizações nesta postagem à medida que o Meta responde aos erros cometidos por seu gerador de imagens de IA. Enquanto isso, compartilhe suas experiências com o uso deste gerador de imagens até agora.