Navrhuje „Toolbox“, který vyzkouší nejlepší výzkumníky AI…
Vědci z OpenAI, Google Brain, Intel a dalších předních organizací zveřejnili dokument, který navrhuje „sadu nástrojů“ pro validaci etických tvrzení AI.
S obavami z umělé inteligence sahající od nebezpečné lhostejnosti k zastavování strachu z novosti; Je zřejmé, že je zapotřebí systém pro udržení zdravé rovnováhy.
„Systémy umělé inteligence byly vyvíjeny nekonzistentně se stanovenými hodnotami těch, kteří je vyvinuli,“ napsali vědci. „To vedlo ke zvýšenému znepokojení, výzkumu a aktivismu ohledně účinků systémů AI.“
Vědci poukazují na to, že mnoho aktérů podílejících se na vývoji umělé inteligence odvedlo značné úsilí k vyjádření etických principů, ale tvrzení jsou bez smyslu jejich platnosti nesmyslná.
“Cestující nedůvěřují výrobci leteckých společností z důvodu public relations kampaní o důležitosti bezpečnosti; Důvěřují jí kvůli infrastruktuře technologií, standardů, zákonů a institucí, které ji doprovázejí. zajištění bezpečnosti letecké společnosti. “
Mezi hlavní představené nápady patří platit vývojářům za objevování předsudků v algoritmech. Takové aplikace jsou již v kybernetické bezpečnosti běžné; s mnoha společnostmi nabízejícími odměny za hledání chyb v jejich softwaru.
„Předsudky a odměny za zabezpečení rozšíří koncept odměn za chyby na umělou inteligenci a doplní stávající snahy o lepší dokumentaci datových sad a modelů pro omezení výkonu a další funkce,“ napsali autoři.
“Zde se zaměřujeme na přínosy objevování předsudků a bezpečnostních problémů v systémech AI jako výchozího bodu pro analýzu a experimentování, ale lze prozkoumat také další vlastnosti (jako je bezpečnost, ochrana soukromí nebo interpretovatelnost).” “
Další potenciální cesta se nazývá „red team building“, což je vytvoření specializovaného týmu, který využívá myšlení potenciálního útočníka k hledání nedostatků a zranitelností v technickém plánu, organizaci nebo systému.
„Vědomí, že laboratoř má červený tým, může zvýšit důvěryhodnost organizace na základě jejích bezpečnostních tvrzení.“
Červený tým pravděpodobně nebude příliš sebejistý; V kombinaci s dalšími opatřeními to však může být dlouhá cesta. Ověření třetími stranami mimo organizaci bude klíčem k posílení důvěry v pokrok AI v této společnosti.
„Audit třetí strany je druh auditu prováděného spíše nezávislým externím auditorem než auditovaným subjektem a může pomoci řešit obavy ohledně pobídek pro přesnost vlastního hlášení.“
“Pokud mají dostatečné znalosti o fungování systému AI, mohou nezávislí auditoři se silnými profesními a reputačními pobídkami k přesnosti pomoci při potvrzování tvrzení o vývoji AI.”
Vědci poukazují na to, že současnou překážkou v inspekci třetích stran je, že ještě není třeba stanovit techniky nebo osvědčené postupy speciálně pro AI. Rámec, jako je tvrzení-argumenty-důkaz (CAE) a objektivní konfigurační notace (GSN), mohou poskytnout výchozí bod, protože jsou již široce používány pro kriticky důležité kontroly.
Rovněž se doporučuje, aby se audity pokrývající všechny kroky procesu vývoje AI staly normou. Vědci opět poukazují na komerční letadla jako na systém zásadní pro bezpečnost a pomocí záznamníků letových dat k zachycení více typů dat každou sekundu a poskytnutí úplného záznamu.
“Standardizační orgány by měly spolupracovat s akademickou obcí a průmyslem na vývoji požadavků na audit trail pro aplikace kritických z hlediska bezpečnosti systémů AI.”
Konečným doporučením softwarových metod k ověření etických tvrzení AI je použití strojového učení zachovávajícího soukromí (PPML).
Cílem strojového učení zaměřeného na ochranu soukromí je chránit soukromí dat nebo modelů použitých ve strojovém učení během školení nebo hodnocení a během implementace.
Dokument obsahuje tři integrované typy PPML: jednotné učení, rozdílné soukromí a šifrované výpočty.
„Kdykoli je to možné, vývojáři umělé inteligence by měli přispívat, využívat a podporovat práci komunit otevřených zdrojů pracujících na PPML, jako jsou OpenMined, Microsoft SEAL, tf-encrypted, tf-federated a nGraph-HE.“
Vědci, kteří zastupují některé z nejznámějších institucí na světě, navrhli komplexní balíček způsobů, jak může jakákoli organizace zapojená do vývoje AI zajistit správu a širokou veřejnost, aby zajistila, že průmysl dosáhne svého maxima. zodpovědně.
Celý předtiskový papír najdete na arXiv. tady (PDF)
(Foto: Alexander Sinn na Unsplash)
Chcete slyšet od lídrů oboru diskutovat o podobných tématech? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber Security & Cloud Expo World Series s akcemi, které se budou konat v Silicon Valley, Londýně a Amsterdamu.
