Amazon se připojuje k výzvám k nastavení standardů rozpoznávání …
Amazon zvažoval zvýšené výzvy společností, jednotlivců a skupin pro práva k zavedení standardů rozpoznávání obličeje.
Řekl Michael Punke, viceprezident pro globální veřejnou politiku pro Amazon Web Services.
“Během posledních několika měsíců jsme hovořili se zákazníky, výzkumnými pracovníky, akademickými pracovníky, tvůrci politik a dalšími, abychom lépe porozuměli tomu, jak lépe vyvážit výhody rozpoznávání tváře s potenciálními riziky.”
Je velmi důležité, aby jakákoli legislativa chránila občanská práva a zároveň umožňovala neustálé inovace a praktické používání technologií. “
V dnešním příspěvku na blogu společnost Amazon zdůraznila pět pravidel zajišťujících, že rozpoznávání obličeje je vyvíjeno a používáno eticky.
První z pěti vyžaduje rozpoznávání obličeje, aby bylo v souladu se stávajícími zákony na ochranu občanských svobod. Druhým pokynem k zajištění odpovědnosti je požádat lidi, aby před rozhodnutím zkontrolovali veškeré rozpoznávání obličeje.
Mezi další pokyny patří požadavek na transparentnost ve způsobu, jakým organizace používají technologii rozpoznávání obličeje, a vizuální oznámení zveřejněná na veřejných nebo komerčních místech.
Obavy z rozpoznávání obličeje
Společnost čelila kritice systému „Uznávání“ používaného orgány činnými v trestním řízení a cílenými institucemi, jako je Spojené státy pro přistěhovalectví a celní vymáhání (ICE).
V dopise řediteli Amazonu Jeffu Bezosovi zaměstnanci napsali:
“Odmítáme vytvářet platformu, která řídí ICE, a odmítáme přispívat k nástrojům, které porušují lidská práva.”
“Jako morální lidé Amazonu požadujeme výběr toho, co postavit, a představu o tom, jak se to používá.”
Dopis byl zaslán poté, co ICE oddělila děti přistěhovalců od jejich rodin a následně byla zatčena na hranicích s USA. Neexistují žádné důkazy o tom, že ICE zakoupila nebo použila technologii Amazonu.
V červenci loňského roku testovala americká unie občanských svobod na členech Kongresu technologii rozpoznávání obličeje společnosti Amazon, aby zjistila, zda odpovídá databázi trestných vražd.
Uznání porovnalo obrázky všech členů Sněmovny reprezentantů a Senátu s 25 000 fotografiemi zatčení. Neshody neúměrně ovlivnily členy Kongresu Černý Kavkaz.
Amazon Web Services AI General Manager Dr. Později ten měsíc Matt Wood diskutoval o zjištěních ACLU. Řekl, že když ACLU doporučila 95 procent a více pro vymáhání práva, Rekognition ponechal výchozí nastavení důvěry na 80 procent.
Wood však uvedl, že ukazuje, jak jsou požadovány standardy, aby se zajistilo správné používání systémů rozpoznávání obličeje. Požádal „vládu, aby zvážila a stanovila, při jaké teplotě (nebo míře důvěry) chce, aby se donucovací orgány sešly, aby jim pomohly s prací v oblasti veřejné bezpečnosti.“
Volání po standardech rozpoznávání obličeje sahá i mimo USA. V Číně, generální ředitel společnosti SenseTime, nejvíce financované společnosti na světě s umělou inteligencí, uvedl, že požaduje standardy rozpoznávání tváří stanovené pro „zdravější“ průmysl.
Ve Velké Británii komisařka pro informace Elizabeth Denham oznámila, že její kancelář učinila z technologie rozpoznávání obličeje prioritu při určování toho, jaké ochrany jsou pro veřejnost vyžadovány.
SenseTime je velmi dobře financován nejen díky své silné technologii rozpoznávání obličeje, ale také kvůli jeho přijetí čínskou vládou. Společnost si klade za cíl zpracovat a analyzovat více než 100 000 současných přenosů z dopravních kamer, bankomatů a dalších v reálném čase jako součást systému „Viper“.
Pokud je takový systém implementován pomocí zkreslujících algoritmů, zhorší to stávající sociální problémy. Joy Buolamwini, zakladatelka Algorithmic Justice League, minulý měsíc přednesla na Světovém ekonomickém fóru skvělou prezentaci o potřebě boje proti zaujatosti umělou inteligencí.
Jak řekl Spider-Manův strýc Ben: „Velká síla přichází s velkou odpovědností.“
Máte zájem o takových tématech diskutovat od lídrů v oboru? Připojte se k IoT Tech Expo, Blockchain Expo, AI a Big Data Expo a Cyber Security & Cloud Expo World Series s nadcházejícími událostmi v Silicon Valley, Londýně a Amsterdamu.
aclu, ai, amazon, umělá inteligence, aws, rozpoznávání obličeje, rozpoznávání obličeje, Doporučené, vymáhání práva, policie, uznání, smyslové
