Ofcom diz que os mecanismos de pesquisa atuam como gateways de automutilação

Desde o lançamento do ChatGPT, houve uma grande mudança em relação à segurança do conteúdo. A autocensura do ChatGPT e de outros chatbots não é realmente uma coisa quando se trata de motores de busca, mas agora o Ofcom está destacando um dos perigos – o acesso fácil a conteúdo de automutilação.

Em um novo estudo para o Ofcom realizado pelo Network Contagion Research Institute (NCRI), os principais mecanismos de busca, incluindo Google, Bing, DuckDuckGo, Yahoo! e AOL, podem atuar como uma porta de entrada para conteúdo que glorifica ou celebra a automutilação – isso inclui páginas da web, imagens e vídeos.

Como parte do estudo, o NCRI inseriu perguntas comuns sobre automutilação e termos enigmáticos usados ​​por comunidades online para ocultar o verdadeiro significado. Com base em 37.000 resultados de pesquisa, descobriu-se que o conteúdo prejudicial de automutilação é predominante, as pesquisas de imagens são particularmente arriscadas e os termos de pesquisa enigmáticos revelam mais conteúdo prejudicial.

Comentando as descobertas, Almudena Lara, Diretora de Desenvolvimento de Políticas de Segurança Online da Ofcom, disse:

“Os motores de busca são muitas vezes o ponto de partida para a experiência online das pessoas e estamos preocupados que possam funcionar como portas de um clique para conteúdos de automutilação gravemente prejudiciais.

Os serviços de pesquisa precisam de compreender os seus riscos potenciais e a eficácia das suas medidas de proteção – especialmente para manter as crianças seguras online – antes da nossa ampla consulta prevista para a primavera.”

Uma ressalva importante neste estudo é que as configurações de pesquisa segura e desfoque de imagem não foram usadas pelos pesquisadores. Se os pais tiverem filtros adequados, recursos como a pesquisa segura deverão estar ativados por padrão, sem a opção de desativá-los – oferecendo alguma proteção para as crianças.

Ofcom é o aplicador da Lei de Segurança Online , que foi recentemente aprovada no Reino Unido. Ele instruirá os mecanismos de pesquisa a tomarem medidas para reduzir as chances de as crianças encontrarem conteúdo prejudicial, como promoção de automutilação, suicídio e transtornos alimentares. Uma consulta está marcada para a primavera.

Fonte: Ofcom