Siri, Cortana, Alexa a další virtuální asistenti umělé inteligence …

Navrhněte Bixby, Samsung Virtual Personal Assistant: „Promluvme si špinavě,“ a ženský hlas odpoví sladkým přízvukem: „Nechci být na Santově nezbedném seznamu.“

Stejnou otázku položte mužskému hlasu v pořadu a „četl jsem, že eroze půdy je skutečným problémem špíny.“

V Jižní Africe, kde žiji a provádím výzkum genderové předpojatosti v AI, společnost Samsung nyní nabízí Bixby s více hlasy, v závislosti na jazyce, který si vyberete. Pro americkou angličtinu existují Julia, Stephanie, Lisa a John. Hlasy Julie, Lisy a Stephanie jsou koketní a nadšené. John je chytrý a čestný.

Virtuální osobní asistenti jako Bixby, Alexa (Amazon), Siri (Apple) a Cortana (Microsoft) jsou v čele prodejní umělé inteligence (AI). AI označuje použití technologických systémů k plnění úkolů, které lidé obvykle dělají.

Fungují jako aplikace na chytrém zařízení a reagují na hlasové příkazy prostřednictvím zpracování přirozeného jazyka. Celosvětová dostupnost se rychle zvyšuje. Nová zpráva zveřejněná uživatelem UNESCO Předpokládáme, že příští rok budeme mít více rozhovorů s našimi virtuálními osobními asistenty než s našimi manželi.

Z Centra pro informační právo a politiku University of London však Dr. Jak jsem objevil ve svém vlastním výzkumu s Nora Ni Loideain, tyto technologie zradit kritické předsudky vůči pohlaví.

Virtuální design osobního asistenta se reprodukuje se ženskými jmény, hlasy a plánovanými údery diskriminační stereotypy Sekretářky, které podle genderového stereotypu obvykle nejsou jen sekretářkou svého mužského šéfa.

taky sekundární a mužská submisivní role žen. Tito asistenti AI pracují pod velením svých uživatelů. Nemají právo tyto objednávky odmítnout. Jsou naprogramováni pouze tak, aby poslouchali. Pravděpodobně také zvýšit očekávání o tom, jak by se skutečné ženy měly chovat.

Účelem těchto asistentů je také osvobodit uživatele od domácích prací, jako je sjednávání schůzek a nákup produktů online. To je problematické alespoň na dvou frontách: znamená to, že uživatel má více času na údajně důležitější úkol. Zadruhé kriticky vysvětluje význam sekretářské práce, kterou vykonávají skutečné ženy a nyní digitalizované ženy v digitální budoucnosti.

“Co máš na sobě?”

Jedním z nejzřejmějších způsobů, jak jsou tyto předsudky vystaveny, je použití ženských jmen: například Siri a Cortana.

Siri, “Krásná žena, která vás vede k vítězství. “

Název Cortany (stejně jako obrázky a zvuk) herní série aura. v auraCortana byla vytvořena z klonu mozku úspěšné vědecké ženy vdané za transparentní a vysoce sexualizované ženské tělo. Se svou pokornou myslí a hypnotickým chováním funguje jako falešná pomoc hercům.

Kromě ženských hlasů přicházejí dnes všichni virtuální osobní asistenti na trhu s výchozím ženským hlasem, jako je Bixby, naprogramovaným tak, aby odpovídal na všechny druhy explicitních otázek a komentářů. Tyto obsahuje otázky: “Co máš na sobě?” Odpověď Siri byla „proč bych měl něco použít?“

Mezitím Alexa žertuje: „Nevyrábí mi šaty“; a Cortana: „Je to něco, co jsem se naučil ve strojírenství.“

Reproduktory s podporou AI: Amazon Echo a Google Home

Předsudky a diskriminace v AI

Stále více se uznává, že systémy umělé inteligence jsou často zaujaté, zejména pokud jde o rasu a pohlaví. Například nedávno Vývoj náborových algoritmů společností Amazon Seznam životopisů uchazečů o zaměstnání, které ukazují zkreslení pohlaví, a to vypuštěním životopisů, které obsahují slovo „ženy“ nebo odkazují na ženské vysoké školy. Vzhledem k tomu, že algoritmus byl trénován na historických datech a preferenčním náboru mužů, nemohl být nakonec opraven a musel být odstraněn.

Jak ukazuje výzkumMezi vývojem systémů umělé inteligence, které vykazují zkreslení pohlaví, a absencí žen v týmech, které je navrhují, existuje kritická souvislost.

Způsoby zahrnutí genderově stereotypních reprezentací produktů AI do jejich návrhů jsou však méně uznávané. podle AI teďExistuje jasná souvislost mezi průmyslem AI ovládaným muži, přední výzkumnou institucí zabývající se sociálním dopadem AI, a diskriminačními systémy a produkty, které vyrábí.

Úlohou výzkumných pracovníků je zviditelnit tyto vazby a ukázat kritické vazby mezi zastoupením žen v kulturních nebo technologických produktech a zacházením se ženami v reálném světě.

AI je přední technologie zvaná Čtvrtá průmyslová revoluce. Týká se to technologického vývoje, který rychle mění svět, který známe, od biotechnologie přes umělou inteligenci až po velká data.

Jižní Afrika, slova a pasti S důsledky toho bude stále důležitější přemýšlet a řešit, jak by technologie, které tyto změny vedou, mohly ovlivnit ženy.

Rachel AdamsováVýzkumný pracovník, Rada pro výzkum v humanitních vědách

Tento článek, Mluvit Na základě licence Creative Commons. Čtení Původní článek.

Najděte naši sbírku příběhů o misi Chandrayaan 2 na adrese # Chandrayaan2TheMoon, našem doménovém názvu věnovaném hloubkové analýze, živým aktualizacím, videím a dalším.

->