Dva absolventi znovu vytvořili textový generátor OpenAI, o kterém si mysleli …
Dva absolventi znovu vytvořili a publikovali falešný textový generátor podobný OpenAI, který iniciativa založená Elonem Muskem považovala za příliš nebezpečnou na to, aby mohla být zveřejněna.
Pokud nežijete pod skálou, víte, že svět již má problém s falešnými zprávami. Abychom byli přesvědčiví v minulosti, musela být alespoň falešná zpráva napsána skutečnou osobou.
OpenAI vytvořil AI, která dokáže automaticky generovat falešné příběhy. Zkombinujte falešné zprávy, cíle podobné Cambridge Analytica a obecnou virální povahu sociálních médií a je snadné pochopit, proč se OpenAI rozhodl nezveřejňovat svou práci.
Ve čtvrtek se dva absolventi rozhodli zveřejnit něco, čemu se říká rekreace softwaru OpenAI.
23letý Aaron Gokaslan a 24letý Vanya Cohen věří, že jejich práce ještě není pro společnost škodlivá. Mnoho lidí nesouhlasí, ale vaše touha ukázat světu, co je možné bez velké společnosti bez velkého množství finančních prostředků a zdrojů, je obdivuhodná.
“To každému umožňuje důležitý rozhovor o bezpečnosti a pomáhá chránit před možným budoucím zneužitím,” řekl Cohen WIRED. “Dostal jsem desítky zpráv a většina z nich byla jako ‘silniční výlety’.”
To neznamená, že jejich práce je snadná nebo obzvláště levná. Gokaslan a Cohen použili v cloudových výpočtech Google přibližně 50 000 USD. Náklady na cloudové výpočty jsou však každým rokem ziskovější a výkonnější.
Dokud nebude poskytnuta větší ochrana před falešnými zprávami, OpenAI zůstává nejlepší z tohoto typu práce v neveřejném oboru.
Vláda, zejména na Západě, tlačila na sociální média, aby učinily více pro boj proti falešným zprávám a falešným informacím. Ruské notoricky známé „trolské farmy“ se často používají k vytváření dezinformací a ovlivňování světového dění.
Facebook se kromě zpráv od uživatelů snaží označit potenciální falešné zprávy pomocí ověřovacích webů, jako je Snopes.
Minulé úterý vydala OpenAI zprávu, ve které uvedla, že věděla o pěti skupinách, které úspěšně kopírovaly jejich software, ale všechny se rozhodly jej nezveřejnit.
Gokaslan a Cohen provádějí rozhovor s OpenAI o jejich práci a možných sociálních důsledcích.
Chcete slyšet od lídrů oboru diskutovat o podobných tématech? Zúčastněte se 5G Expo, IoT Tech Expo, Blockchain Expo, AI & Big Data Expo a Cyber Security & Cloud Expo World Series s akcemi, které se budou konat v Silicon Valley, Londýně a Amsterdamu.
