MIT odstranil datovou sadu, která vedla k modelům …
MIT se omluvil a odpojil datový soubor trénující modely AI s misogynistickými a rasistickými tendencemi.
Dotčená datová sada se jmenuje 80 Million Thumbnails a byla vytvořena v roce 2008. Datová sada, která je určena k trénování umělé inteligence k detekci objektů, je velkou sbírkou obrázků, které jsou jednotlivě označeny podle toho, co představují.
Na těchto obrázcích a jejich značkách se trénují modely strojového učení. V takovém datovém souboru vám pouliční obraz přiváděný proškolenou AI může říci věci, jako jsou auta, pouliční osvětlení, chodci a kola, která obsahuje.
Dva vědci, Vinay Prabhu, hlavní vědecký pracovník UnifyID, a Abeba Birhane, doktorandka na University College Dublin v Irsku, analyzovali obrázky a našli tisíce relevantních značek.
Bylo zjištěno, že vzdělávací sada MIT označovala ženy jako „děvky“ nebo „prostitutky“ a označovala lidi z komunit BAME hanlivými výrazy, o kterých jsem si byl jist, že mi nemusejí psát. Rejstřík konstatuje, že soubor dat zahrnuje také detailní snímky ženských pohlavních orgánů označené slovem C.
Záznam varoval MIT před znepokojivými problémy, které Prabhu a Birhane našli v datové sadě, a univerzita jej rychle přepnula do režimu offline. MIT šel o krok dále a vyzval všechny, kteří používají datovou sadu, aby ji přestali používat a odstranili všechny její kopie.
Prohlášení na webu MIT uvádí, že si není vědom otravných značek a že jsou „výsledkem postupu automatického sběru dat založeného na jménech WordNet.
Popis nadále vysvětluje 80 milionů obrázků v datové sadě s rozměry pouze 32 × 32 pixelů, což znamená, že ruční kontrola bude téměř nemožná a nemůže zaručit, že budou odstraněny všechny rušivé obrázky.
“Předsudky, urážlivé a škodlivé snímky a hanlivá terminologie odcizují významnou část naší komunity, samotné lidi, které se snažíme zahrnout.” Antonio Torralba, Rob Fergus a Bill Freeman z MIT také přispívají ke škodlivým předsudkům v systémech umělé inteligence trénovaných na tento typ dat.
Přítomnost takových škodlivých obrazů také podkopává úsilí o podporu kultury začleňování do komunity počítačového vidění. To je nesmírně nešťastné a jde to proti hodnotám, které se snažíme udržovat. “
Předtištěnou kopii dokumentu Prabhu a Birhane najdete zde (Pdf)
(Photo of Clay Banks in Unsplash)
Chcete slyšet od lídrů oboru diskutovat o podobných tématech? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber Security & Cloud Expo World Series s akcemi, které se budou konat v Silicon Valley, Londýně a Amsterdamu.
