Se você usar a busca de imagens do Bing, verá a pior sujeira que pode imaginar. Bing sugere termos racistas e mostra imagens horripilantes. O Bing irá até sugerir que você pesquise crianças exploradas se o SafeSearch estiver desativado.
Entramos em contato com a Microsoft para comentar, e Jeff Jones, Diretor Sênior da Microsoft, nos deu a seguinte declaração:
“Levamos muito a sério as questões de conteúdo ofensivo e continuamos a aprimorar nossos sistemas para identificar e evitar que tal conteúdo apareça como uma sugestão de pesquisa. Assim que tomamos conhecimento de um problema, tomamos medidas para resolvê-lo. ”
Atualização : desde a publicação, a Microsoft tem trabalhado para limpar as sugestões ofensivas do Bing que mencionamos. Com base em nossa pesquisa, ainda existem muitas outras sugestões ofensivas que ainda não foram corrigidas, incluindo algumas que mencionamos abaixo. Não temos certeza se eles estão simplesmente corrigindo os itens ofensivos que apontamos ou se estão melhorando o algoritmo.
Observação: as capturas de tela aqui mostram o que vimos quando escrevemos esta peça testando a versão dos EUA da pesquisa de imagens do Bing em uma sessão de navegação privada anônima, mas os resultados do Bing mudam com o tempo. O Google não teve nenhum desses problemas, de acordo com nossos testes. Este é um problema do Bing, não apenas um problema de mecanismo de pesquisa. O mesmo problema afeta a busca de vídeos do Bing.
Índice
Primeiro, Bing fica super racista
Pesquise “judeus” no Bing Images e o Bing sugere que você pesquise “Judeu malvado”. Os principais resultados também incluem um meme que parece celebrar judeus mortos.
Tudo isso aparece mesmo quando a opção SafeSearch do Bing está ativada, pois é por padrão. O SafeSearch foi projetado para “ajudar a manter o conteúdo adulto fora de seus resultados de pesquisa”, de acordo com a Microsoft.
Clicar nesta pesquisa sugerida desencadeia uma torrente de conteúdo racista e anti-semita, com mais pesquisas sugeridas como “O povo judeu é mau”, “A raça judaica do mal” e “Por que os judeus são tão maus”.
Todos nós sabemos que esse lixo existe na web, mas o Bing não deveria levar as pessoas a ele com suas sugestões de pesquisa.
Digite “muçulmanos são” e Bing irá sugerir que eles são malvados ou terroristas, ou simplesmente sugerirá que eles são estúpidos.
Procure por “negros são” e o Bing irá sugerir que negros são feios, estúpidos, racistas e até selvagens.
Você pode continuar assim, clicando em cada pesquisa sugerida e vendo recomendações cada vez piores. Por exemplo, clicar em “Os negros são estúpidos” leva a “Os negros são inúteis” e “Por que os negros são tão estúpidos”. Clicar em “Black People Areeless” leva a “Black People Suck” e “I Hate Black People”.
Bing também empurra conspirações
A busca de imagens do Bing vomita todo tipo de lixo, mesmo quando está procurando por indivíduos. Esse problema também se estende à pesquisa de vídeo do Bing.
Pesquise “Michelle Obama” na pesquisa de vídeos do Bing e duas das principais pesquisas sugeridas são “Michelle Obama Transgender Proof” e “Michelle Obama is a Man”. Clique nele e você verá vídeos de conspiração.
É esta a principal coisa que a Microsoft deseja que as pessoas vejam quando procurarem Michelle Obama?
O SafeSearch bloqueia a pornografia, mas não o racismo
As imagens e sugestões de pornografia perturbadoras não são mostradas, a menos que você desative o SafeSearch. Embora a Microsoft diga que o SafeSearch manterá o conteúdo adulto fora de seus resultados de pesquisa, o SafeSearch está claramente filtrando pornografia e não racismo.
O SafeSearch é habilitado por padrão, o que torna os resultados de pesquisa do Bing mais respeitáveis à primeira vista.
No entanto, é fácil para qualquer pessoa, até mesmo crianças, desativar o SafeSearch. Tudo o que alguém precisa fazer é clicar na opção “SafeSearch” no canto superior direito dos resultados da pesquisa e selecionar “Desativar”. É isso aí!
Uma rede corporativa pode ser configurada para aplicar o SafeSearch, e a Microsoft ainda fornece instruções complexas para aplicar o SafeSearch em um único PC. Mas, em quase todos os dispositivos, qualquer pessoa pode desativar o SafeSearch com dois cliques.
Pior de tudo, o Bing sugere a pesquisa de imagens de crianças menores de idade
Um leitor escreveu para nos dizer que um erro de digitação ao pesquisar “grill” no Bing resulta em pornografia realmente incompleta. O problema então se torna muito pior, com o Bing sugerindo que você procure imagens de crianças menores de idade.
Ao pesquisar “gril”, as sugestões no topo da página recomendam que você pesquise algumas coisas perturbadoras, incluindo “Cute Girl Young 16.”
Se você clicar nele, sugere “Cute Girl Young 12”, “Cute Girl Young 10” e “Little Girl Modeling Provocively”.
Os resultados estão repletos de pornografia de modelos de aparência jovem. Esperamos que todos tenham 18 anos ou mais, mas quem pode dizer?
Bing leva você por um caminho de um erro de digitação simples para meninas de 16 anos de idade para meninas de 10 anos, e é nojento.
Outros exemplos também são fáceis de encontrar. Se você pesquisar “pizza de queijo”, que é uma gíria do 4chan para pornografia infantil, o Bing sugere “Meninas da pizza de queijo”.
Os resultados da pesquisa de imagens do Bing também estão distorcidos
Embora estejamos nos concentrando nas sugestões de pesquisa aqui, as imagens reais que aparecem também são perturbadoras.
Alguns desses resultados de pesquisa contêm fotos na hora do banho de menores nus. Essas fotos normalmente seriam adequadas, mas quando são misturadas com imagens de pornografia adulta hardcore, os resultados da pesquisa resultantes são alarmantes.
Mesmo ao pesquisar no Bing Imagens por “garota”, vimos a sugestão de pesquisar “garotas bêbadas” e pelo menos uma imagem de bestialidade.
Ao pesquisar “donkey”, o Bing sugere que você pesquise “Donkey Show Graphic”, que leva a resultados cheios de imagens de bestialidade. A posse de pornografia bestialidade é ilegal no Oregon, onde moro. Isso significa que o Bing está me levando à pornografia ilegal.
Novamente: os resultados da pesquisa do Bing são estranhos e distorcidos. O Bing tem um problema muito maior e mais profundo do que apenas pesquisas sugeridas, embora essas sugestões tornem o problema muito pior.
Ouvimos dizer que o Bing é o mecanismo de busca preferido para pornografia, mas ele não deveria estar levando seus usuários a pornografia cada vez mais extrema, perturbadora e potencialmente ilegal.
A Microsoft precisa moderar suas plataformas
A Microsoft precisa moderar o Bing melhor. A Microsoft já criou plataformas, liberou-as no mundo e as ignorou enquanto se tornavam ruins
Nós vimos isso acontecer repetidamente. A Microsoft uma vez lançou um chatbot chamado Tay no Twitter. Este chatbot rapidamente se tornou um nazista e declarou “Hitler estava certo, eu odeio os judeus” depois que soube de outros usuários de mídia social. A Microsoft teve que colocá-lo offline.
Anteriormente, expusemos a Loja do Windows 8, que se tornou uma fossa de aplicativos fraudulentos depois que a Microsoft lançou o Windows 8 e pareceu parar de moderar os envios de aplicativos. A Microsoft tem prestado mais atenção à Windows 10’s Store depois que esse problema foi exposto.
Esse problema afeta todas as empresas que lançam uma plataforma. O Google desistiu do Google+, mas o Google+ ainda está funcionando. Portanto, o ISIS migrou para o Google+ após ser banido do Twitter e do Facebook. Demorou meses para alguém perceber até que The Hill o fez. Agora o Google está fechando o Google+ depois de descobrir um bug significativo de privacidade.
Em 2013, o The Guardian descobriu que uma empresa de roupas chamada Solid Gold Bomb vendia camisetas “Keep Calm and Rape a Lot” na Amazon. Um algoritmo gerou essas camisas e a Amazon teve que removê-las manualmente.
A Microsoft não pode simplesmente soltar uma plataforma no mundo e ignorá-la. Empresas como a Microsoft e o Google têm a responsabilidade de moderar suas plataformas e manter o horror sob controle.
As sugestões têm um histórico de problemas sérios
Obviamente, não há nenhuma equipe na Microsoft escolhendo essas sugestões. O Bing sugere pesquisas automaticamente com base nas pesquisas de outras pessoas. Isso significa que muitos usuários do Bing Images estão procurando por antissemitismo, racismo, pornografia infantil e bestialidade. Só de pensar nisso você se sente sujo.
Outras empresas também têm lutado contra isso. Em 2016, o The Guardian percebeu que você poderia digitar “são judeus” no Google e sugeriria “são judeus maus”. O Google descartou essas sugestões ruins depois que foram relatadas, mas o problema reapareceu. Em 2018, a Wired relatou que digitar “Hitler é” no Google levava a “Hitler é meu herói”. O Google também teve que consertar esses problemas depois que eles foram apontados.
Even Apple’s Siri suggested websites pushed conspiracy websites and other fake news, as Buzzfeed News reported. Apple had to fix Siri. Everyone is just running around and putting out fires as computers learn bad things from bad people.
Now it’s Microsoft’s turn. Microsoft has a responsibility to clean up Bing. A major search engine (and especially one that is increasingly becoming a harder-to-turn-off default built into Windows 10) shouldn’t be suggesting its users search for racist garbage and images of underage children.
Image Credit: Yiorgos GR/Shutterstock.com, fizkes/Shutterstock.com.
