O Google diz que aconteceram duas coisas que causaram problemas no gerador de imagens Gemini AI desta semana

No início desta semana, as pessoas começaram a relatar que o recurso gerador de imagens no chatbot Gemini (anteriormente Bard) do Google estava criando obras de arte inadequadas. Mais especificamente, o sistema representava pessoas com pele escura em papéis históricos ou fictícios que não eram apropriados para esses personagens.

Depois que a arte foi divulgada, o Google anunciou que encerraria temporariamente a capacidade do Gemini de criar obras de arte de pessoas com seu gerador de imagens. Na noite de sexta-feira, a empresa ofereceu uma explicação sobre o que aconteceu com a Gemini em uma postagem no blog .

Também não queria que o chatbot fizesse imagens de pessoas reais.

Ao mesmo tempo, o Google também queria permitir que Gemini retratasse uma variedade de etnias se uma pessoa solicitasse ao chatbot imagens mais gerais, como mostrar pessoas em um time de futebol. Se uma pessoa quisesse que um tipo específico de pessoa fosse retratado, como um médico branco ou um professor negro, Gêmeos também deveria ser capaz de fazer essa obra de arte.

Raghavan então escreveu que duas coisas específicas nas proteções de texto de Gêmeos permitiram a criação de imagens inadequadas desta semana:

Primeiro, nosso ajuste para garantir que Gêmeos mostrasse uma gama de pessoas não levou em conta os casos que claramente não deveriam mostrar uma gama. E em segundo lugar, com o tempo, o modelo tornou-se muito mais cauteloso do que pretendíamos e recusou-se a responder inteiramente a certas solicitações – interpretando erroneamente algumas solicitações muito anódinas como sensíveis.

Estas duas coisas levaram o modelo a compensar excessivamente em alguns casos e a ser demasiado conservador noutros, conduzindo a imagens embaraçosas e erradas.

Não há informações sobre quanto tempo o Google levará para consertar suas grades de proteção para que a criação de arte com pessoas no gerador de imagens Gemini seja reativada. Raghavan afirmou que, embora não possa prometer que a Gemini nunca fará obras de arte ofensivas, o Google “continuará a agir sempre que identificarmos um problema”.