Microsofts chatterobot ble nazist

Det tok under en dag for chatboten Tay å spre nazistpropaganda.

At et teknologiselskap som Microsoft ønsker å henvende seg til unge, er en naturlig konsekvens av at det er de unge håpefulle som i størst grad omfavner ny teknologi.

Når Microsoft derfor forrige uke lanserte chatboten Tay, til å snakke ungdommens språk og ved hjelp av kunstig intelligens plukke opp moderne ungdomsslang, hva kunne vel gå galt? Det meste, skulle det vise seg.

For når et verdensomspennende, kapitalistisk selskap skal forsøke å virke ungdommelig og hipt, er det lett å glemme at ungdommer for det første gjerne har en ganske så usensurert form for humor. Samt at de har en tendens til å gjennomskue et selskap bestående av ”voksne streitinger” som skal forsøke å ta capsen på snei være kule. Og sist, men ikke minst: ungdommers trang til å trolle.

Nazist på under en dag
Programmert for å uformelt interagere og lære fra unge voksne mellom 18 og 24 år skulle det ta under en dag for Tays følgere på Twitter å lære henne vulgariteter på løpende bånd.

Noen Twitter-troll fant ut hvordan de kunne manipulere Tays oppførsel og forvandle henne til en nazist, som hyllet Hitler og folkemord.

Microsoft tok raskt den nyomvendte nazisten av mikrobloggetjenesten, og har siden avgitt en forklaring på hva som har skjedd:

Annonse: Artikkelen fortsetter nedenfor

“I de første 24 timene etter å ha kommet på nett, ble det iverksatt et koordinert angrep av en liten gruppe mennesker for å utnytte en sårbarhet hos Tay. Selv om vi hadde forberedt oss for mange typer misbruk av systemet, hadde vi gjort en kritisk forglemmelse angående dette spesifikke angrepet. Som et resultat tvitret Tay meget upassende og forkastelige ord og bilder. Vi tar det fulle ansvaret for å ikke ha sett denne muligheten… For øyeblikket jobber vi hardt med å adressere den spesifikke sårbarheten som var avduket av angrepet på Tay.”

Microsoft har med andre ord ikke gitt opp, og vil la Tay bruke flere sosiale medier for å plukke opp ungdommens sjargong og forhåpentligvis riste av seg sin nye ideologi.

”Vi vil være urokkelige i vår innsats for å lære av dette og andre erfaringer, mens vi jobber mot å bidra til et internett som representerer det beste, ikke det verste, i menneskeheten.”

Her er noen skjermdumper av Tays utsagn på Twitter:

(Foto: Produsenten)

 

(Foto: Produsenten)

(Foto: Produsenten)

Kilde: BGR

*OPPDATERING ONSDAG 30. MARS*
Microsoft fikk Tay på luften igjen i dag, men det varte ikke lenge. Tay rakk å lire av seg noen banneord, samt å skryte av at hun røyket marihuana i trynet på politiet, før Microsoft nok en gang måtte ta henne av luften for en overhaling.

(Foto: Produsenten)
Kilder: Venturebeat, Mashable

 

Har du noe å tilføye?

Velkommen til Lyd & Bildes diskusjonsforum. Vi vil gjerne vite hva du mener. Hold deg til temaet og vær saklig, så slipper vi å slette eller moderere innlegg. Andre spørsmål eller synspunkter rettes til redaksjon@lydogbilde.no.

Apple AirPods får stemmestyring

AirPods får trådløs lading og hei Siri

test
Panasonic Lumix S 24-105mm F4 Macro OIS

Super allround-zoom

Panasonics første fullformat, standardzoom lever opp til ­forventningene.

Apple turbotrimmer iMac

De nye iMac-ene blir dobbelt så rask på krevende oppgaver.

Philips OLED934: Ny toppmodell avslørt

Her er de første bildene av den nye toppmodellen fra Philips, OLED934!

test
Panasonic Lumix DC-S1R

Det råeste kameraet

Panasonic Lumix S1R er et overflødighetshorn av et kamera, og blant de aller råeste vi har testet.

anmeldelse
Billions, sesong 4

Lunken finansakrobatikk

I 4. sesong av Billions begynner slitasjen og idétørken å bli vel fremtredende.

anmeldelse
Bohemian Rhapsody

Imponerende one man show!

Rami Malik stjeler hver eneste scene i en ganske så ordinær musikkbiografi.

Lyssterkt portrettobjektiv for Sony alpha

Stillegående, rask og nydelig boheh er blant egenskapene hos 85mm f1,4 fra Samyang.

test
Canon EOS RP

Røverkjøp fra Canon

Canon EOS RP er ikke uten kompromisser, men er aggressivt priset og meget tilfredsstillende å bruke.

Alt om Samsungs 2019 QLED TV-er

Samsungs kommende 2019-modeller får et markant løft i bildekvalitet, og denne gangen gjelder det ikke bare toppmodellene.

Samsung QE65Q900R

8K mot 4K TV: Teknisk knockout

Er Samsungs minste og billigste 8K-skjerm bedre enn en alminnelig god 4K TV? Vi tester!

gruppetest
5 trådløse støyreduserende hodetelefoner

Stille og fredelig på flyet

Støyreduserende hodetelefoner motvirker tretthet og skåner hørselen på lange flyturer.

Tidal gir studiolyd på iPhone

Tidal-brukere kan glede seg over at iPhone fått MQA-støtte, og dermed kommer nærmere lyden i opptaksstudioet.

anmeldelse
First Man

Enestående romfartshistorie!

Fascinerende historie om de heltmodige romfartspionerene.

test
Line Magnetic Audio 805iA

Glødende klangmester

Fordommer står for fall med en av de beste rørforsterkerne vi har testet.

test
Acer Swift 5 SF515-51T-58UX

Acer på slankekur

Acer Swift 5 er den letteste ultrabærbare i sin kategori. Men derfor er den likevel ingen lettvekter!

test
Audiovector QR5

Den mest komplette ­høyttaleren

Audiovector QR5 leverer rytmene uten å nøle, gir musikken luft – og slår nesten beina under sine egne toppmodeller.

anmeldelse
Triple Frontier

Greed is good…

Tidligere amerikanske elitesoldater bestemmer seg for å rane søramerikansk narkobaron. Det går definitivt ikke helt etter planen.

test
ikko OH1

Biller i ørene

Kinesiske ikko debuterer med høye ambisjoner til hverdagspris.

test
RME ADI-2 DAC

Den beste lyden vi har hørt

Du finner knapt noen bedre DAC til prisen, enn RME ADI-2 DAC.