Nová umělá inteligence Microsoftu, Tay, se proměnila v prohitlerovský sexuální stroj. Umělá inteligence, kterou Microsoft spustil 23. března, se za méně než 24 hodin vymkla kontrole. Před dvěma dny společnost Microsoft spustila novou umělou inteligenci. Tvé jméno…

AI, kterou Microsoft spustil 23. března, se vymkla kontrole za méně než 24 hodin.

Před dvěma dny společnost Microsoft uvedla na trh novou umělou inteligenci. Jmenuje se Tay (@TayandYou) a byla vytvořena, aby její tweety vypadaly jako 19letá dívka. Jeho cílem bylo mluvit s lidmi, aby Microsoft viděl, že „rozuměl kontroverzním“, takže se od něj očekávalo, že bude žít s mnoha lidmi.

Stejně jako ostatní AI je i jeho algoritmus vytvořen tak, aby se poučil ze zkušeností a interakcí s lidmi. Microsoft si pravděpodobně nemyslel, že umělá inteligence „mladé dívky“ dokáže žít s internetovými trolly.

Výsledek?

Ano, znal jsem všechny odkazy dnešní mládeže: Taylor Swift, Miley Cyrus, Kanye West. Ale za méně než 24 hodin Přešel od „skvělých“ frází jako „Lidé jsou super“, k projevům nenávisti vůči Židům a feministkám, k Trumpově podpoře a jeho postoji k imigraci, když řekl, že 11. září je spiknutí … Co udělal Hitler, aniž by zapomněl připustit.

„Tay“ se změnil z „lidé jsou super cool“ na nacisty za méně než 24 hodin a nemám obavy z budoucnosti umělé inteligence pic.twitter.com/xuGi1u9S1A

– Gerry (@geraldmellor) 24. března 2016

Tay „přešla do režimu offline“, aby napravila zmatenou AI, která se pravděpodobně objevila včera v noci, ale můžeme vinit Microsoft?

Ve skutečnosti, když vezmeme v úvahu, že Tay je postaven na mnoha obrazech americké mládeže. Kromě toho celý vývoj jejich programování spočíval v tom, aby se jejich porozumění a inteligence zvyšovaly, jak žijí s jinými lidmi. Thajština je tedy svým způsobem odrazem toho, co jsme ho naučili..

Předstírejme, že tento stroj opravdu nemá morální, ale bude jednat přesně tak, jak říkáme. Takže pokud mu řeknou, aby nazýval lidi „Otcem“ a mluvil s nimi „špinavě“, nebo pokud mu řeknou, že Ted Cruz je kubánský Hitler, zopakuje to a přijme (a bylo to).

V současné době neexistují žádné kontroverzní tweety o incidentu, protože Microsoft rozhodně nechtěl zásadní problém s PR. Uvidíme, jak dopadne Thai 2.0.