Vláda Spojeného království vyšetřuje zaujatost vůči AI …
Vláda Spojeného království zahajuje výzkum k určení úrovní zkreslení v algoritmech, které mohou ovlivnit životy lidí.
Pohled na naši kategorii „etiky“ v AI News zvýrazní vážný problém zkreslení v dnešních algoritmech. S rostoucím využíváním umělé inteligence pro rozhodování mohou některé segmenty společnosti zůstat pozadu.
Výzkum pod vedením Centra pro datovou etiku a inovace (CDEI) se zaměří na oblasti, kde má AI obrovský potenciál, jako je policie, nábor a finanční služby, ale bude mít vážné negativní dopady. život, pokud není správně implementován.
Digitální tajemník Jeremy Wright řekl:
“Technologie je silou dobra, která zlepšuje životy lidí, ale musíme zajistit, aby se jí dařilo bezpečně.”
Naše datové etické a inovační centrum bylo založeno, aby nám pomohlo dosáhnout tohoto cíle a udržovalo Spojené království v čele technologického rozvoje.
Jsem rád, že váš tým odborníků provádí výzkum potenciálu zkreslení algoritmického rozhodování v oblastech, jako je kriminalita, spravedlnost a finanční služby. Nemůžu se dočkat, až uvidím radu střediska vládě ohledně opatření, která bychom měli podniknout, abychom maximalizovali výhody těchto výkonných technologií pro společnost. “
Policie v Durhamu v současné době používá umělou inteligenci k nástroji, kterému se říká „Posouzení rizika poškození“. Jak si dokážete představit, AI určuje, zda osoba způsobí další škodu. Tento nástroj pomáhá při rozhodování o tom, zda má osoba nárok na odložené zpracování.
Vážné problémy nastanou, pokud je algoritmus více či méně účinný u jedinců s odlišnými charakteristikami než ten druhý.
Předseda CDEI Roger Taylor by měl na akci na Downing Street říct:
Centrum se zaměřuje na řešení největších výzev a příležitostí, které představují technologie založené na datech. Jedná se o složité problémy a budeme muset navázat na naše stávající zkušenosti ve Velké Británii i mimo ni. Pokud to uděláme správně, Spojené království se může stát světovým lídrem v odpovědných inovacích.
Chceme ve spolupráci s organizacemi maximalizovat výhody technologie založené na datech a využít ji k zajištění spravedlivých rozhodnutí, která činí. Jako první krok prozkoumáme potenciál zkreslení v klíčových průmyslových odvětvích, kde rozhodnutí učiněná pomocí algoritmů mohou mít obrovský dopad na životy lidí.
Jsem velmi rád, že centrum zveřejnilo svoji strategii, která určuje naše dnešní priority.. “
Ve studii z roku 2010 vědci z NIST a University of Texas v Dallasu (PDF) zjistili, že algoritmy navržené a testované ve východní Asii byly lepší v rozpoznávání východoasijských obyvatel, zatímco algoritmy vyvinuté v západních zemích byly lepší. Při detekci bělochů jsou přesnější.
Joy Buolamwini, zakladatelka Algorithmic Justice League, zdůraznila podobné problematické nesrovnalosti na lednové prezentaci na Světovém ekonomickém fóru. Analyzoval populární algoritmy rozpoznávání obličeje pro svůj výzkum.
Tyto zkreslené problémy v algoritmech je třeba řešit bezprostředně před tím, než je lze použít pro kritické rozhodování. Veřejnost si v současné době není jistá, zda umělá inteligence prospívá lidstvu, a samotné společnosti umělé inteligence se připravují na „poškození dobrého jména“.
Průběžné zprávy CDEI budou zveřejněny v létě a závěrečné zprávy budou zveřejněny počátkem příštího roku.
Máte zájem diskutovat o podobných tématech a jejich případech použití od lídrů v oboru? Chcete-li se dozvědět více, zúčastněte se akcí AI a Big Data Fair s nadcházejícími přehlídkami v Silicon Valley, Londýně a Amsterdamu. Je umístěn na stejném místě jako IoT Tech Expo, Blockchain Expo a Cyber Security & Cloud Expo.
AI, zkreslení AI, umělá inteligence, zkreslení, CDI, etika, vybrané, vláda, společnost, Velká Británie, Velká Británie
