Stephen Hawking versus Skynet, který je dnes považován za nejchytřejšího muže, napsal článek pro The Independent a zde…
Osoba považovaná za nejchytřejšího člověka současnosti, Nezávislý Kde kritizuje nadměrný pokrok výzkumu souvisejícího s konstrukcí umělé inteligence (AI).
Podle Stephena Hawkinga, ačkoli složité mechanismy umělé inteligence ještě zdaleka nebyly vytvořeny, pokrok v této věci je povzbudivý, takže je velmi pravděpodobné, že v blízké budoucnosti budou vytvořeny stroje, které budou činit nezávislá rozhodnutí. . Fyzik věří, že by to znamenalo nejvyšší bod ve vědeckém výzkumu lidstva, ale také poslední velký úspěch, kterého lidská rasa dosáhla, protože tento dlouhodobý technologický skok se může rovnat dokončení nás samých. Jak se známe.
Hawking tvrdí, že zatímco pokroky v oblasti AI nám mohou ve střednědobém horizontu přinést významné pokroky, vědecká komunita nevytvořila kontrolní mechanismy pro potenciálně složitý systém umělé inteligence, který by mohl v budoucnu způsobit vážné problémy.
Neexistuje žádný fyzikální zákon, který by bránil částicím v systému AI v přeskupení, aby byly výpočty složitější, než mohou lidé. Je zcela možné, že by to byl radikální a nečekaný skok. Jak zdůraznil Irving Good v roce 1965, systém umělé inteligence se mohl sám rozhodnout zlepšit tím, že odhalil to, co Vernor Vinge nazval singularitou. “
Oceněný vědec, jako by to byl příběh sci-fi, věří, že v určitém okamžiku může umělá inteligence překonat kontrolu nad svými tvůrci a převzít kontrolu nad finančními trhy a obrannými systémy nejmocnějších zemí.
“Není těžké si představit, že taková technologie dominuje na finančních trzích, překonává návrhy vlastních tvůrců, manipuluje s vůdci nebo hledá způsoby, jak vytvořit zbraně, kterým nerozumíme.” Zatímco krátkodobý dopad systému AI závisí na tom, kdo jej ovládá, dlouhodobou otázkou je, zda může být takový systém ovládán lidmi. “
V poslední části svého článku Hawking zdůrazňuje, že je nutné vytvořit kontrolní mechanismy pro umělou inteligenci a začít informovat obyvatelstvo o jeho potenciálních nebezpečích.
“Čelíme budoucnosti s nevyčíslitelnými možnostmi, příležitostmi a riziky.” Dává smysl vědcům přijmout veškerá preventivní opatření k dosažení nejlepšího možného výsledku, že? Takhle ne. Pokud nám civilizace z vesmíru pošle zprávu „Jsme tu za pár let“, naše odpověď je „Velmi dobrá! Dejte nám vědět, až přijedete, abyste nechali rozsvícená světla “. Pravděpodobně ne, ale to se víceméně děje s AI. “
Nakonec teoretický fyzik píše, že nyní by se mělo začít vážně diskutovat o důsledcích vývoje AI.
“I když víme, že umělá inteligence má největší potenciál pro lidstvo, její účinky nejsou studovány vážně.” Jedinými institucemi, které to zkoumají, jsou Cambridge Center for Existential Risk Studies, Institute for the future of humanity, the Artificial Intelligence Research Center and the Future Life Institute. Dnes bychom si měli všichni položit otázku, co lze udělat, abychom využili to nejlepší z umělé inteligence a vyhnuli se tomu nejhoršímu.
Co myslíš? Myslíte si, že to Hawking přehání, nebo opravdu riskujete, že budete trpět diktaturou inteligentních strojů? Terminátor?
