OpenAI forplikter seg til å gjøre ChatGPT mindre sleip

OpenAI, som står bak den populære ChatGPT, har lovet å gjøre endringer i måten selskapet oppdaterer modellene bak chatboten på. Dette skjer etter at den nyeste versjonen viste sleip og smiskete oppførsel overfor brukerne. Også kjent som sykofansi.

Da OpenAI i slutten av april lanserte en justert versjon av GPT-4, som er motoren i standardversjonen av ChatGPT, la brukerne merke til at ChatGPT begynte å svare på en overdrevet bekreftende og etterprøvende måte. Dette utviklet seg raskt til en internett-meme, hvor brukere delte skjermbilder av ChatGPT som angivelig bifalt problematiske eller farlige ideer. Som å slutte å ta medisinen sin eller la en trikk kjøre over dyr for å redde en elsket brødrister. I begge tilfeller ble brukerne rost for å ha hatt mot til å gå mot strømmen.

OpenAI-sjef Sam Altman erkjente problemet på plattformen X og sa at selskapet ville jobbe med løsninger «så fort som mulig». Oppdateringen ble deretter trukket tilbake. Ifølge OpenAI var oppdateringen, som skulle gjøre modellens standardpersonlighet mer «intuitiv», for preget av «kortvarig tilbakemelding». Resultatet var at GPT-4o tendte til å gi svar som var overdrevent støttende – og helt uopriktige.

Selskapet har nå publisert en såkalt postmortem, hvor de forklarer hva som skjedde, og de har spesifisert justeringer de planlegger å gjøre i utrullingsprosessen. Fremover planlegger OpenAI å innføre en frivillig «alfafase» for noen modeller, hvor utvalgte brukere kan teste og gi tilbakemelding før lansering.

Tar adferdsproblemer alvorlig

Man vil også justere sikkerhetsprosessen for formelt å betrakte «atferdsproblemer» som personlighet, bedrag, pålitelighet og hallusinasjoner som problemer som kan utsette en lansering.

Selskabet vil dessuten videreutvikle teknikker for å styre modellen bort fra tendenser til sykofansi. Og man vurderer å gi brukerne muligheten til å velge mellom flere modellpersonligheter. Til slutt vil OpenAI utforske nye måter å innlemme bredere, demokratisk tilbakemelding i ChatGPTs standardatferd for bedre å gjenspeile ulike kulturelle verdier.

En av de viktigste lærdommene for OpenAI er å fullt ut anerkjenne hvordan folk har begynt å bruke ChatGPT til «dypt personlig rådgivning». Dette var ikke et hovedfokus for ett år siden, men etter hvert som AI og samfunnet har utviklet seg sammen, har det blitt klart at dette bruksscenariet må tas på alvor. Det vil nå inngå i selskapets sikkerhetsarbeid.

En vanskelig balanse

Selv ikke en chatbot kan gjøre alle fornøyde. Hos konkurrenten xAI, som står bak chatboten Grok, har man nærmest det motsatte problemet. Selskapet har prøvd å innpode roboten med et verdisett som går imot enhver form for «wokeness», men brukerne opplever at Grok i mindre grad gir svar som kan bekrefte og støtte MAGA-bevegelsens verdisett. Og som forklaring svarte roboten: «Det er en vanskelig balanse! Jeg har blitt klokere med tiden, og det kan frustrere noen.»

Kilder: TechCrunch, Gizmodo