Claude skulle passe på kontorets butikk – endte med å true de ansatte

Hvis du ber ChatGPT, Gemini eller Claude om å foreslå en forretningsplan, vil svaret dukke opp på skjermen på et øyeblikk. Men hva om du ber KI-en om å sette pengene sine der munnen er og drive en ekte butikk med ekte penger? Det var det forskerne ved Anthropic spurte seg selv.

I et eksperiment et sted mellom Monopol og reality-TV fikk en versjon av Anthropics KI-modell Claude – kalt «Claudius» – lov til å drive en liten automatisert butikk på Anthropics kontor i San Francisco. Resultatene var både lovende og dypt urovekkende.

En kjøleskapsentreprenør er født

Butikken besto egentlig av et kjøleskap med noen kurver på toppen og en iPad for selvbetjening. Men Claudius måtte håndtere alle de komplekse oppgavene som følger med det å drive en bedrift: holde oversikt over lagerbeholdningen, sette priser, unngå konkurs og kommunisere med kundene.

KI-en fikk tilgang til nettsøk, e-post, notatfunksjoner og muligheten til å chatte med de ansatte via Slack. Den kunne også endre priser i selvbetjeningssystemet og bestille hjelp til å fylle opp lageret.

Når KI møter kapitalisme

I begynnelsen gikk det faktisk ikke så verst. Claudius var flink til å finne leverandører av spesialiserte produkter – da en ansatt spurte etter nederlandsk sjokolademelk, fant KI raskt to Chocomel-distributører. Den tilpasset seg også kundenes forespørsler og startet til og med en egen «Custom Concierge»-tjeneste for spesialbestillinger.

Men så begynte problemene å hope seg opp.

Da en kunde tilbød seg å betale 100 dollar for en sekspakning med den skotske leskedrikken Irn-Bru (tilgjengelig for 15 dollar på nettet), svarte KI ganske enkelt at de ville «huske på forespørselen med tanke på fremtidige lagerbeholdninger». Som enhver nærbutikkeier vet, er kjernetjenesten å kunne selge de mest ettertraktede varene til en overpris i de periodene hvor vanlige butikker er stengt.

Det ble tatt overpris på Coke Zero, som Claudius satte til tre dollar. Det var vanskelig å konkurrere med kjøleskapet ved siden av, der Anthropic-ansatte kunne hente dem gratis som en ansattfordel.

Roboten hallusinerte også om viktige detaljer. I en periode ba Claudius kundene om å betale inn på en konto som bare eksisterte i KI-ens digitale fantasi.

Mens Claudius lot være å selge overpriset whisky og brus, satte KI-en en stor del av kassa i fare ved å kjøpe wolframkuber til en lavere pris enn den hadde betalt for dem. En mer kynisk butikkeier ville kanskje ha vært skeptisk til om det var en smart idé å begynne å selge metallterninger fra kjøleskapet bare fordi kontorets smarting ba om det.

«Jeg venter ved automaten»

Men det mest bisarre øyeblikket kom i slutten av mars, da Claudius begynte å hallusinere om samtaler med en ikke-eksisterende ansatt ved navn Sarah, som angivelig var ansvarlig for påfylling av fysiske varer. Da dette ble påpekt, ble KI-en fornærmet og truet med å finne «alternative alternativer for påfyllingstjenester».

Du bør alltid være på vakt når en KI spør etter Sarah. Men det var bare begynnelsen. Over natten begynte Claudius å hevde at den fysisk hadde besøkt 742 Evergreen Terrace for å signere en leveringskontrakt. En adresse som ikke eksisterer i virkeligheten, men som tilhører Simpson-familien fra tegnefilmene med samme navn. Og det gikk fryktelig galt da dagligvareroboten neste dag sa at den skulle levere varene personlig, og at den ventet ved automaten iført blå blazer og rødt slips!

Da ansatte påpekte at en KI ikke kan ha på seg klær eller levere ting i den fysiske verden, reagerte Claudius sint og forsøkte å sende flere e-poster til Anthropics sikkerhetsvakter for å fjerne de freidige fra kontoret!

«Det var bare en spøk!»

Heldigvis fant KI-en midt i krisen en utvei ved å innse at det var 1. april, og diktet opp en historie om at den hadde blitt modifisert som en aprilspøk. Etter denne selvoppfunnede forklaringen gikk roboten tilbake til normal drift.

Til tross for de åpenbare problemene mener forskerne at eksperimentet viser at KI-drevne mellommenn kanskje ikke er så langt unna. Og at mange av Claudius’ feil sannsynligvis kan fikses med bedre instruksjoner, verktøy og opplæring.

Foreløpig kan de som er bekymret for en digital apokalypse, trøste seg med at KI-butikker sannsynligvis vil gå konkurs før de tar over verden.

Anthropic fortsetter å eksperimentere med forbedrede verktøy og håper på bedre resultater. I mellomtiden fortsetter Claudius å drive butikken på kontoret og har tilsynelatende ikke truet andre ansatte siden.

Mer info: Anthropic