Britská policie se obává AI…
Britská policie vyjádřila znepokojení nad tím, že používání AI při jejich provozu by mohlo vést k větší zaujatosti a nadměrnému spoléhání se na automatizaci.
Studie zadaná Data Ethics and Innovation Center, poradním orgánem britské vlády, varovala, že policie cítí, že AI může „zesílit“ zaujatost.
Royal United Services Institute (RUSI) pohovoril s 50 odborníky, včetně vyšších policejních důstojníků, pro vyšetřování.
Rasové profilování zůstává velkým problémem. Vyčnívá více mladých černých než bílých. Odborníci dotazovaní RUSI se obávají, že by tyto lidské předsudky mohly vstoupit do algoritmů, pokud budou vycvičeny na stávajících policejních datech.
Rovněž bylo pozorováno, že lidé se znevýhodněným původem mají tendenci více využívat veřejnou dopravu. To zvyšuje pravděpodobnost, že tyto osoby budou označeny, protože je pravděpodobné, že budou shromažďovány údaje o využití veřejné dopravy.
Přesnost algoritmů rozpoznávání obličeje byla často zpochybňována. Na začátku letošního roku Algoritmická liga spravedlnosti testovala všechny hlavní technologie a zjistila, že algoritmy řeší zejména ženy tmavé pleti.
Podobná zpráva zveřejněná Americkou unií občanských svobod se zaměřila na takzvaný systém rozpoznávání obličeje společnosti Amazon. Při testování proti členům Kongresu byli lidé s tmavší pletí častěji nesprávně označeni.
Obě zjištění ilustrují potenciálně zničující sociální dopad, pokud je dnes tato technologie veřejně používána. Je dobré slyšet, že britské úřady si jsou alespoň vědomy možných komplikací.
RUSI uvedl, že odborníci ve studii chtěli získat jasnější pokyny pro přijatelné použití této technologie. Doufají, že to dodá donucovacím orgánům jistotu při přijímání potenciálně užitečných nových technologií, ale bezpečným a odpovědným způsobem.
„Donucovací orgány se snažily být inovativní při používání technologií k ochraně veřejnosti a předcházení škodám, a nadále zkoumáme nové přístupy k dosažení těchto cílů,“ řekl náměstek policejní šéf Jonathan Drake pro BBC News.
„Ale naše hodnoty znamenají, že se řídíme povolením, takže pokaždé, když používáme nové technologie, konzultujeme se zúčastněnými stranami, abychom se ujistili, že každá nová taktika je férová, etická a přináší nejlepší výsledky pro veřejnost.“
Naleznete úplné výsledky studie RUSI tady.
Chcete slyšet od lídrů oboru diskutovat o podobných tématech? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber Security & Cloud Expo World Series s akcemi, které se budou konat v Silicon Valley, Londýně a Amsterdamu.
ai, umělá inteligence, britská, rozpoznávání obličeje, rozpoznávání obličeje, doporučeno, vymáhání práva, policie, soukromí, společnost, dozor, uk
