Twitter zkoumá, proč se zobrazuje náhled vaší fotografie …

Twitter zkoumal, proč neurální síť, kterou používala k vytváření náhledů fotografií, přiměla bělochy k častějšímu zobrazování tváří než tváří černochů. Několik uživatelů Twitteru demonstrovalo problém zveřejněním vzorků přes víkend. Příspěvky s tváří černé osoby a tváří bílé osoby. Náhled na Twitteru častěji ukazoval bílé tváře.

Neoficiální testování začalo poté, co se uživatel Twitteru pokusil zveřejnit problém, který si Zoom všiml při rozpoznávání obličeje a při vyhledávání nezobrazil tvář černého kolegy. Když zveřejnil příspěvek na Twitteru, uvědomil si, že dává přednost bílé tváři před tváří svého černého kolegy.

Uživatelé zjistili, že algoritmus náhledu také vybral jiné než černé kreslené postavičky.

Když Twitter začal používat neurální síť k automatickému ořezávání náhledů fotografií, vědci z oblasti strojového učení vysvětlili v příspěvku na blogu, jak začali s rozpoznáváním obličeje pro ořezávání obrázků, ale zjistili, že chybí, protože mají tváře, ne všechny obrázky:

Dříve jsme pomocí rozpoznávání obličeje zaměřili na nejvýznamnější tvář, jakou jsme mohli najít. I když se nejedná o nepřiměřenou heuristiku, přístup má zjevná omezení, protože ne všechny obrázky obsahují tváře. Kromě toho náš detektor obličeje často minul tváře a někdy náhodně detekoval obličeje, když nejsou žádné. Pokud nebyl nalezen žádný obličej, zaostřili bychom na střed obrazu. To může vést k neobvykle oříznutým náhledům obrázků.

Dantley Davis, ředitel designu Twitteru, tweetoval, že společnost zkoumala neurální síť a prováděla některé nevědecké experimenty s obrázky:

Zde je další příklad toho, čím jsem si prošel. Nejedná se o vědecký důkaz, protože jde o ojedinělý příklad, ale ukazuje na některé proměnné, které musíme analyzovat. Oba muži mají nyní stejné oblečení a já jsem jim zakryl ruce. Stále vyšetřujeme NN. pic.twitter.com/06BhFgDkyA– Dantley (@dantley) 20. září 2020

Liz Kelley z komunikačního týmu Twitteru v neděli tweetovala, že společnost testuje zaujatost, ale ve svých testech nenašla žádné důkazy o rasové nebo genderové zaujatosti. “Zjevně musíme udělat více analýz,” tweetoval Kelley. „Otevřeme naši práci ostatním, aby ji mohli zkontrolovat a reprodukovat.“ CTO na Twitteru Parag Agrawal tweetoval, že model vyžaduje „neustálé zlepšování“ a dodal, že je „ochoten se učit“ z experimentů.

To je velmi důležitá otázka. Abychom to napravili, provedli jsme analýzu našeho modelu, když jsme jej dodávali, ale vyžaduje neustálé zlepšování. Líbí se mi tento otevřený a přísný veřejný test a toužím se z něj poučit. https://t.co/E8Y71qSLXa— Parag Agrawal (@paraga) 20. září 2020