Šéf detroitské policie říká, že uznání…
Šéf detroitské policie James Craig připustil, že rozpoznávání obličeje založené na AI často nefunguje.
“Pokud bychom použili pouze software (pro identifikaci subjektu), nebyli bychom schopni vyřešit případ 95-97 procent,” řekl Craig. „Pokud bychom k popisu někoho použili pouze samotnou technologii, řekl bych, že 96 procent by bylo chybně identifikováno.“
Craigovy komentáře přišly jen několik dní poté, co ACLU (Americká unie občanských svobod) podala stížnost na detroitskou policii po strašlivém neoprávněném zatčení černocha Roberta Williamse za chybu rozpoznávání obličeje.
Detroitská policie zatkla Williamse za údajné krádeže pěti hodinek v hodnotě 3 800 dolarů z obchodu v říjnu 2018. Rozmazaný CCTV snímek byl spárován s fotografií Williamsova řidičského průkazu pomocí algoritmu rozpoznávání obličeje.
Je známo, že současné algoritmy AI mají problém s rasismem. Velké studie opakovaně ukázaly, že algoritmy rozpoznávání obličeje jsou při použití na bílých mužích téměř stoprocentně přesné, ale mají vážné problémy, pokud jde o tmavší odstíny pleti a světlejší pohlaví.
Tento problém s rasismem se tento týden znovu objevil poté, co byla u různých lidí z komunit BAME použita umělá inteligence určená ke zlepšení rozmazaných fotografií, například těch, které byly pořízeny z bezpečnostních kamer.
Zde je jeden z obzvláště slavných:
??? pic.twitter.com/LG2cimkCFm
– Chicken3gg (@ Chicken3gg) 20. června 2020
A některé další příklady:
Minulý týden se Boston vydal ve stopách rostoucího počtu měst, jako je San Francisco, Oakland a Kalifornie, zákazem technologie rozpoznávání obličeje z hlediska lidských práv.
Rozpoznávání tváře je ze své podstaty nebezpečné a represivní. Nelze jej upravovat ani upravovat. „Zákon musí být zrušen,“ řekl Evan Greer, zástupce ředitele skupiny pro digitální práva Fight for the Future.
V celém rybníku dosud zcela selhaly testy rozpoznávání obličeje prováděné v Anglii. První test na karnevalu v Notting Hill v roce 2016 vedl k neidentifikaci jedné osoby. Následný případ následujícího roku neměl za následek žádné právní shody, ale 35 falešných poplachů.
V loňském roce profesor Peter Fussey a Dr. Nezávislá zpráva Daragha Murraye o testech rozpoznávání obličeje Met Police dospěla k závěru, že je prokazatelně přesná pouze v 19 procentech případů.
Další mrazivý krok pro AI v dohledu tipni si zločin. V návaznosti na zprávu o příspěvku nazvaném „Model hluboké neurální sítě pro předpovídání kriminality pomocí zpracování obrazu“ podepsal minulý týden otevřený dopis, který se staví proti použití AI pro takové účely.
“Programy strojového učení nejsou neutrální; Autoři dopisu varovali, že jejich výzkumné programy a datové soubory, se kterými pracují, často zdědí dominantní kulturní víry o světě.
Přiznání detroitského šéfa policie, že stávající technologie rozpoznávání obličeje nefungují asi v 96 procentech případů, by mělo být dostatečným důvodem k zastavení jejich používání, zejména pro vymáhání práva, alespoň dokud nezmizí. vážný vývoj.
(Foto: Joshua Hoehne na Unsplash)
Chcete slyšet od lídrů oboru diskutovat o podobných tématech? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber Security & Cloud Expo World Series s akcemi, které se budou konat v Silicon Valley, Londýně a Amsterdamu.
