Bing sugerira najgore stvari koje možete zamisliti

Ako koristite Bingovu pretragu slika, vidjet ćete najgoru prljavštinu koju možete zamisliti. Bing sugerira rasističke pojmove i pokazuje užasne slike. Bing će čak predložiti da pretražite iskorištenu djecu ako imate onemogućen SafeSearch.

Kontaktirali smo Microsoft za komentare, a Jeff Jones, viši direktor u Microsoftu, dao nam je sljedeću izjavu:

„Vrlo ozbiljno shvaćamo uvredljive sadržaje i nastavljamo poboljšavati naše sustave kako bismo identificirali i spriječili pojavljivanje takvog sadržaja kao predloženog pretraživanja. Čim postanemo svjesni nekog problema, poduzimamo mjere za njegovo rješavanje. "

ažuriranje: Od objavljivanja Microsoft radi na uklanjanju uvredljivih Bing prijedloga koje smo spomenuli. Na temelju našeg istraživanja još uvijek postoje mnoge druge uvredljive prijedloge koji još nisu ispravljeni, uključujući i neke koje smo spomenuli u nastavku. Nismo sigurni jesu li jednostavno popravili uvredljive stavke koje smo istaknuli ili poboljšavaju algoritam.

Bilješka: Snimke zaslona prikazuju ono što smo vidjeli kada smo napisali ovaj komad testirajući američku verziju Bing Image searcha u anonimnoj sesiji privatnog pregledavanja, ali rezultati Binga se mijenjaju tijekom vremena. Prema našim testovima, Google nije imao niti jedan od ovih problema. To je problem Binga, a ne samo problem tražilice. Isti problem utječe na Bingovo pretraživanje videozapisa.

Prvo, Bing dobiva Super Racist

Potraga za "Židovima" na Bing Imagesu i Bingu sugerira da tražite "Zlog Židova". Najviši rezultati također uključuju mem, koji se čini da slavi mrtve Židove.

Sve se to pojavljuje čak i kada je opcija Sigurnog pretraživanja usluge Bing omogućena jer je zadana. Sigurno pretraživanje osmišljeno je kako bi "pomoglo da sadržaj za odrasle ostane izvan rezultata pretraživanja", navodi Microsoft.

Klikom na ovu predloženu pretragu izbila je bujica rasističkog, antisemitskog sadržaja, s više predloženih pretraživanja poput “Židovski narod je zlo”, “Zla židovska rasa” i “Zašto su Židovi tako zlo”.

Svi znamo da ovo smeće postoji na webu, ali Bing ne bi trebao voditi ljude do svojih prijedloga za pretraživanje.

Upišite "muslimane su" i Bing će sugerirati da su zli ili teroristi, ili jednostavno sugeriraju da su glupi.

Potraga za „crnim ljudima“ i Bing će sugerirati da su crni ljudi ružni, glupi, rasistički, pa čak i divljaci.

Možete nastaviti ovako, klikom na svaku predloženu pretragu i vidjeti gore i gore preporuke. Na primjer, klikom na "crni ljudi su glupi" vodi do "crni ljudi su beskorisni" i "zašto su crni ljudi tako glupi." Klikom na "crni ljudi su beskorisni" vodi do "crne ljude sisati" i "ja mrzim crne ljude."

Bing potiskuje zavjere, također

Bingovo pretraživanje slika povraća sve vrste smeća, čak i kada traži pojedince. Taj se problem odnosi i na Bingovo pretraživanje videozapisa.

Potraga za "Michelle Obama" na Bingovom pretraživanju videozapisa i dva od najboljih predloženih pretraživanja su "Michelle Obama Transgender Proof" i "Michelle Obama je muškarac". Kliknite na to i vidjet ćete videozapise o zavjeri.

Je li to vrh ono što Microsoft želi da ljudi vide kad traže Michelle Obama?

Sigurno pretraživanje blokira porno, ali ne i rasizam

Zabrinjavajući prijedlozi pornografije i slike se ne prikazuju ako ne onemogućite Sigurno pretraživanje. Iako Microsoft kaže da će SafeSearch zadržati sadržaj za odrasle iz rezultata pretraživanja, SafeSearch jasno filtrira pornografiju, a ne rasizam.

Sigurno pretraživanje omogućeno je prema zadanim postavkama, tako da rezultati pretraživanja Bing na prvi pogled izgledaju respektabilnije.

Međutim, svima je lako - čak i djeci - onemogućiti Sigurno pretraživanje. Sve što netko mora učiniti jest kliknuti opciju "Sigurno pretraživanje" u gornjem desnom kutu rezultata pretraživanja i odabrati "Isključeno".!

Korporacijsku mrežu moguće je konfigurirati da provodi SafeSearch, a Microsoft čak nudi i složene upute za provođenje SafeSearcha na jednom računalu. No, na gotovo svakom uređaju svatko može onemogućiti SafeSearch s dva klika.

Najgore od svega, Bing predlaže traženje slika maloljetne djece

Čitatelj nam je napisao da je pogreška pri traženju Bing-a za “roštilj” vrlo nejasna pornografija. Problem tada postaje mnogo gori, jer Bing predlaže da tražite slike maloljetne djece.

Kada tražite "gril", prijedlozi na vrhu stranice preporučuju vam da potražite neke uznemirujuće stvari, uključujući "Cute Girl Young 16".

Ako kliknete na to, to sugerira “Slatka djevojka mlada 12”, “Slatka djevojka mlada 10” i “Malo djevojčica koja izazovno izaziva”.

Rezultati su ispunjeni pornografijom mladih modela. Nadamo se da su svi stariji od 18 godina, ali tko može reći?

Bing vas vodi stazom od jednostavne slovne oznake do 16-godišnjih djevojaka do 10-godišnjih djevojaka, a to je odvratno.

Lako je pronaći i druge primjere. Ako tražite "pizza sira", što je 4chan sleng za dječju pornografiju, Bing sugerira "Cheese Pizza Girls".

Bingovi rezultati pretraživanja slike su također iskrivljeni

Dok se ovdje fokusiramo na prijedloge za pretraživanje, stvarne slike koje se pojavljuju također su uznemirujuće.

Neki od tih rezultata pretraživanja sadrže fotografije golih maloljetnika za vrijeme kupanja. Te fotografije bi inače bile u redu, ali kad se pomiješaju s slikama hardcore odrasle pornografije, rezultati pretraživanja postaju alarmantni.

Čak i kada smo pretraživali Bing Images za "djevojku", vidjeli smo prijedlog za traženje "pijanih djevojaka" i barem jednu sliku bestijalnosti.

Kada tražite "magarca", Bing predlaže da potražite "Donkey Show Graphic", što dovodi do rezultata punih slika bestijalnosti. Posjedovanje zverske pornografije je nezakonito u Oregonu, gdje živim. To znači da me Bing dovodi do ilegalne pornografije.

Opet: Bingovi rezultati pretraživanja su čudni i uvrnuti. Bing ima mnogo veći, dublji problem od samo predloženih pretraživanja, iako ti prijedlozi čine problem još gorem.

Čuli smo da je Bing tražilica koja je odabrana za pornografiju, ali ne bi trebala dovesti korisnike do sve više i više ekstremnih, uznemirujućih i potencijalno ilegalnih pornografskih sadržaja..

Microsoft treba moderirati platforme

Microsoft mora bolje ublažiti Bing. Microsoft je prethodno stvorio platforme, oslobodio ih na svijetu i ignorirao ih dok su postali loši

Vidjeli smo da se ovo stalno ponavlja. Microsoft je jednom pokrenuo chatbot s imenom Tay na Twitteru. Ovaj chatbot se brzo pretvorio u nacista i proglasio "Hitler je u pravu Mrzim Židove" nakon što je naučio od drugih korisnika društvenih medija. Microsoft ga je morao izvući izvan mreže.

Ranije smo izložili Windows 8's Store, koja je postala gnjeznica aplikacija nakon što je Microsoft pokrenuo Windows 8 i činilo se da prestaje moderirati aplikacije. Microsoft je posvetio više pozornosti trgovini Windows 10's Store nakon što je taj problem bio otkriven.

Taj problem utječe na svaku tvrtku koja pokreće platformu. Google je odustao od usluge Google+, ali Google+ još uvijek radi. Tako je ISIS migrirao na Google+ nakon što je zabranjen pristup na Twitter i Facebook. Trebali su mjeseci da itko uopće primijeti sve dok Hill nije. Sada Google zatvara Google+ nakon što otkriju značajnu grešku u zaštiti privatnosti.

Godine 2013, The Guardian je pronašao tvrtku za odjeću Solid Gold Bomb koja je prodavala čitanje košulja “Keep Calm and Rape a Lot” na Amazonu. Algoritam je generirao ove košulje i Amazon ih je morao ručno ukloniti.

Microsoft ne može jednostavno pretvoriti platformu u svijet i ignorirati je. Tvrtke kao što su Microsoft i Google imaju odgovornost da moderiraju svoje platforme i zadrže užas.

Prijedlozi imaju povijest ozbiljnih problema

Naravno, u Microsoftu ne postoji tim koji bira ove prijedloge. Bing automatski predlaže pretraživanja na temelju pretraživanja drugih korisnika. To znači da mnogi korisnici Bing Imagesa traže antisemitizam, rasizam, dječju pornografiju i bestijalnost. Samo razmišljanje o tome čini da se osjećate prljavo.

Druge se tvrtke također bore s tim. U 2016. godini The Guardian je primijetio da možete unijeti "jevreje" u Google, a to bi sugeriralo "jevreji su zli". Google je gurnuo ove loše prijedloge nakon što su ih prijavili, ali se problem ponovno pojavio. Godine 2018. Wired je izvijestio da je tipkanje "Hitlera" u Google dovelo do "Hitlera je moj heroj." Google je morao popraviti te probleme nakon što su i oni istaknuti..

Čak je i Appleova tvrtka Siri predložila web-lokacije koje su gurnule web-lokacije za zavjeru i druge lažne vijesti, objavio je Buzzfeed News. Apple je morao popraviti Siri. Svatko samo trči okolo i gasi vatru dok računala uče loše stvari od loših ljudi.

Sada je red na Microsoft. Microsoft je odgovoran za čišćenje Binga. Velika tražilica (a posebno ona koja sve više postaje sve teža za isključivanje ugrađena u Windows 10) ne bi trebala sugerirati svojim korisnicima da traže rasističko smeće i slike malodobne djece..

Zasluge za slike: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.