Search
Generic filters

Microsofts chatterobot ble nazist

Det tok under en dag for chatboten Tay å spre nazistpropaganda.

At et teknologiselskap som Microsoft ønsker å henvende seg til unge, er en naturlig konsekvens av at det er de unge håpefulle som i størst grad omfavner ny teknologi.

Når Microsoft derfor forrige uke lanserte chatboten Tay, til å snakke ungdommens språk og ved hjelp av kunstig intelligens plukke opp moderne ungdomsslang, hva kunne vel gå galt? Det meste, skulle det vise seg.

For når et verdensomspennende, kapitalistisk selskap skal forsøke å virke ungdommelig og hipt, er det lett å glemme at ungdommer for det første gjerne har en ganske så usensurert form for humor. Samt at de har en tendens til å gjennomskue et selskap bestående av ”voksne streitinger” som skal forsøke å ta capsen på snei være kule. Og sist, men ikke minst: ungdommers trang til å trolle.

Nazist på under en dag
Programmert for å uformelt interagere og lære fra unge voksne mellom 18 og 24 år skulle det ta under en dag for Tays følgere på Twitter å lære henne vulgariteter på løpende bånd.

Noen Twitter-troll fant ut hvordan de kunne manipulere Tays oppførsel og forvandle henne til en nazist, som hyllet Hitler og folkemord.

Microsoft tok raskt den nyomvendte nazisten av mikrobloggetjenesten, og har siden avgitt en forklaring på hva som har skjedd:

“I de første 24 timene etter å ha kommet på nett, ble det iverksatt et koordinert angrep av en liten gruppe mennesker for å utnytte en sårbarhet hos Tay. Selv om vi hadde forberedt oss for mange typer misbruk av systemet, hadde vi gjort en kritisk forglemmelse angående dette spesifikke angrepet. Som et resultat tvitret Tay meget upassende og forkastelige ord og bilder. Vi tar det fulle ansvaret for å ikke ha sett denne muligheten… For øyeblikket jobber vi hardt med å adressere den spesifikke sårbarheten som var avduket av angrepet på Tay.”

Microsoft har med andre ord ikke gitt opp, og vil la Tay bruke flere sosiale medier for å plukke opp ungdommens sjargong og forhåpentligvis riste av seg sin nye ideologi.

”Vi vil være urokkelige i vår innsats for å lære av dette og andre erfaringer, mens vi jobber mot å bidra til et internett som representerer det beste, ikke det verste, i menneskeheten.»

Her er noen skjermdumper av Tays utsagn på Twitter:

(Foto: Produsenten)

 

(Foto: Produsenten)

(Foto: Produsenten)

Kilde: BGR

*OPPDATERING ONSDAG 30. MARS*
Microsoft fikk Tay på luften igjen i dag, men det varte ikke lenge. Tay rakk å lire av seg noen banneord, samt å skryte av at hun røyket marihuana i trynet på politiet, før Microsoft nok en gang måtte ta henne av luften for en overhaling.

(Foto: Produsenten)
Kilder: Venturebeat, Mashable

 

forfatter

Geir Gråbein Nordby

(f. 1978): Journalist. Gråbein har aldri hatt noen heltidsjobb før Lyd & Bilde. Her har han til gjengjeld vært nesten halvparten av sitt liv, helt siden han i 2001 sendte jobbsøknaden til feil adresse (han ville opprinnelig til et innspillingsstudio ved samme navn). Gråbeins ekspertise er hovedsakelig innenfor hi-fi, hodetelefoner og hjemmekino, men det hender han glimter til med andre kvaliteter.
Kommenter

Legg igjen en kommentar

Les også

Denne uken kan du som abonnent spørre redaksjonen om hva du vil innen hodetelefoner. Vi svarer live!
Philips slipper 17 og 24 tommers dataskjerm med pekefunksjon. Den største 242B9TL har Full HD-oppløsning.
Når du gjerne skulle sett forskjellen på en elg og en hjort, trenger du en kikkert med zoom.
Bluetooth-system til film og musikk på datamaskinen

Aktuelle tilbud

Prisguiden.no er en kommersiell partner av lydogbilde.no. De leverer prisvarsling, produktinformasjon og oppdaterte priser.
Fujifilm X-S10 stjeler fra de beste og senker prisen.
Norske priser på Tesla Model 3 justeres, den rimeligste starter nå på 399.900 kroner.
Romantikk på kontoret + drama på hjemmefronten = kaos.
Canon PowerShot Zoom med 100, 400 og 800mm zoom i lomma.
Fra i dag kan brukere oppleve Apple TV+ på tv’er fra Sony.
I år foregår alt hjemme. Ta den store kinoopplevelsen med hjem til stua, med innebygd Google TV.
Nikon Z7 II og Z6 II får bedre autofokus og vertikalgrep.
Den minste iPhone i nyere tid samt Apples hittil raskeste prosessor var blant nyhetene da Apple i dag lanserte nye iPhone 12- og 12 Pro-modeller
i 2007 var vi på MacWorld i San Francisco og fikk låne den første iPhone-modellen.
Spiller i stereo eller hele huset, og du kan snakke til den.
Perfekt for drone- eller studiobruk.
HP Spectre x360 gjenoppfinner den firkantede skjermen i stedet for bredformat.