University College London: Deepfakes je hrozbou kriminality AI …
Vědci z University College London zveřejnili žebříček toho, co odborníci považují za nejzávažnější hrozby kriminality AI.
Vědci nejprve sestavili seznam 20 metod, které zločinci budou v příštích 15 letech využívat umělou inteligenci. Poté bylo požádáno 31 odborníků, aby je hodnotili podle jejich potenciální závažnosti.
Jako nejzávažnější hrozba na seznamu byly hodnoceny hluboké podvody, obrázky, videa a články vytvořené umělou inteligencí.
Nebezpečná nová zóna
Vzhledem k současným problémům s dezinformačními kampaněmi nepřekvapuje, že jsou padělání hodnoceny tak vysoko.
Většina dnešního falešného obsahu musela být vytvořena přinejmenším lidmi, jako těmi, kteří pracují na proslulých ruských „vlečných farmách“. Vytvoření lidských dezinformačních kampaní vyžaduje přesvědčivý standard a jejich zavedení je často snazší.
Automatizace hromadné výroby falešného obsahu, která má ovlivnit věci, jako je demokratické hlasování a veřejnost, vstupuje do nebezpečných nových oblastí.
Jedním z nejznámějších falešných případů vůbec byl případ prezidentky americké Sněmovny reprezentantů Nancy Pelosi. V roce 2018 se na sociálních médiích objevilo falešné video, které ukazuje Pelosiho opilého a nevrlého. Pelosi kritizoval reakci Facebooku nebo jeho nedostatek, a poté pro KQED v Kalifornii řekl: „Myslím, že projevují ochotu umožnit ruské zasahování do našich voleb tím, že neodstraní to, o čem vědí, že není správné.“ .
Pelosi Deep Fake nebyl komplikovaný a byl pravděpodobně vytvořen spíše jako zábavný než škodlivý, ale jedná se o včasné varování, jak mohou být falešné produkty použity k poškození reputace nebo ještě horšímu. Představte si možné důsledky falešného videa, kde prezident oznámil nadcházející útok na místě, jako je Severní Korea.
Deepfakes mají také potenciál být použity k podvodným účelům a předstírají, že jsou někým jiným, kdo má přístup k věcem, jako jsou bankovní účty a důvěrné informace.
Existuje také otázka vydírání. Hluboké učení již bylo použito k uvedení tváří celebrit na dospělé umělce. I když je hrozba zveřejňování videí tohoto typu chybná a rozpaky, které způsobuje, mohou být příčinou toho, že někteří zaplatí výkupné, aby zabránili jejich zveřejnění.
První autor UCL Computer Science, Dr. “Lidé nyní provozují velkou část svého života online a online události mohou získat důvěryhodnost a zlomit se,” uvedl Matthew Caldwell. “Tento typ online prostředí, kde jsou data majetkem a mocí informací, je ideální pro využití trestnou činností založenou na umělé inteligenci.”
Díky tomu je snadné pochopit, proč se odborníci tak zajímají o hluboké podvody.
V rámci pokusu přesvědčit Facebook, aby změnil svoji politiku v oblasti deepfake, vytvořil izraelský startup Canny AI minulý rok deepfake od generálního ředitele Facebooku Marka Zuckerberga, který řekl: „Přemýšlejte o tom a druhé: miliardy dat ukradených lidem, všechna jejich tajemství, jejich životy. je muž, který zcela ovládá jejich budoucnost. “
Další hrozby trestné činnosti AI
Vědci identifikovali další čtyři hlavní hrozby kriminality v oblasti umělé inteligence: používání aut s vlastním pohonem jako zbraní, automatický rybolov kopím, shromažďování informací za účelem vydírání a narušení systémů ovládaných umělou inteligencí.
„Jak se zvyšují možnosti technologií založených na umělé inteligenci, zvyšuje se potenciál zneužívání kriminality,“ uvedl hlavní autor profesor Lewis Griffin z UCL Computer Science. „Abychom se adekvátně připravili na potenciální hrozby umělé inteligence, musíme identifikovat, co by tyto hrozby mohly být a jak mohou ovlivnit naše životy.“
Věci jako prodej nesprávně pojmenovaných položek AI a služeb, jako je detekce zabezpečení a cílená reklamní řešení, byly mírně znepokojující. Vědci se domnívají, že může být lukrativní přesvědčit lidi, že jsou napájeni umělou inteligencí.
Méně starostí jsou věci jako „roboti proti krádeži“, kteří mohou proniknout do přístupových bodů nemovitosti a odemknout nebo vyhledat data. Vědci se domnívají, že to představuje menší hrozbu, protože jí lze snadno zabránit pomocí metod, jako jsou schránky poštovních schránek.
Vědci rovněž poukazují na to, že potenciál sledování na základě AI je pro člověka škodlivý, ale není považován za významnou hrozbu, protože nemůže fungovat ve velkém.
Celý článek napsaný vědci najdete v Crime Science Journal. tady.
(Foto Bill Oxford na Unsplash)
Chcete slyšet od lídrů oboru diskutovat o podobných tématech? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber Security & Cloud Expo World Series umístěných na stejném místě s nadcházejícími událostmi v Silicon Valley, Londýně a Amsterdamu.
