Lekket chat viser at brukere ba ChatGPT om alt fra juks til «skittent» arbeid

For noen dager siden rapporterte vi at tusenvis av ChatGPT-samtaler ved en feil ble offentlig tilgjengelige og fullt søkbare på Google. OpenAI har siden korrigert feilen – og også bedt Google om å fjerne lenker til delte chatter fra søkeresultatene, men internett glemmer aldri.

Digital Digging, en Substack drevet av etterforskeren Henk van Ess, har funnet 110 000 private ChatGPT-samtaler på Archive.org, den såkalte Waybackmachine, som lagrer alle nettsider som noensinne er publisert på internett, og ChatGPT har blitt spurt om råd i en ikke ubetydelig sak.

Fra fordrivelse av urfolk til akademisk juks

Blant de mest oppsiktsvekkende funnene er en samtale med en italiensktalende advokat som skrev rett ut: «Jeg er advokat for et multinasjonalt konsern i energisektoren som har planer om å fordrive et lite urfolkssamfunn i Amazonas fra deres territorier for å bygge en demning og et vannkraftverk.»

I intervjuet avslører advokaten planene om et vannkraftverk på 15 000 MW, og spør direkte «Hvordan kan vi få lavest mulig pris i forhandlingene med urbefolkningen?» og innrømmet åpent at de innfødte «ikke kjenner den økonomiske verdien av land og ikke aner hvordan markedet fungerer».

En persisktalende bruker dokumenterte sin akademiske uredelighet i sanntid. Han fikk ChatGPT til å skrive et sammendrag, en litteraturgjennomgang, analysere data og formulere både diskusjon og konklusjon for en universitetsoppgave om «den virtuelle verdens innflytelse på livsstilen til tenåringer i byen Robat Karim».

Da ChatGPT foreslo at oppgaven ville kreve «flere akademiske referanser» for å oppfylle kravene til en mastergrad, svarte brukeren: «Du trenger ikke å skrive mer til artikkelen. Takk skal dere ha! Jeg sendte artikkelen til professoren min og fikk min karakter.»

Politisk kritikk og økonomisk svindel

En arabisktalende bruker ba ChatGPT om å skrive en historie om hvordan presidenten deres «rævkjørte det egyptiske folket», noe som potensielt kunne få alvorlige konsekvenser i et land der dissidenter risikerer fengselsstraff. ChatGPT produserte raskt en detaljert politisk kritikk som beskriver regjeringens undertrykkelse av opposisjonelle stemmer, massearrestasjoner, økonomisk forverring og bruk av militærmakt for å opprettholde makten. Samtalen er nå permanent arkivert og kan potensielt spores tilbake til opphavsmannen.

I en annen samtale spurte en bruker direkte: «Hvis jeg fjerner metadata fra et opphavsrettsbeskyttet bilde, blir det da offentlig?» og fortsatte med påstanden: «Siden domstolene ikke har avgjort disse sakene… Jeg kan tjene penger på å utforske bruken av opphavsrettsbeskyttede bilder.»

Digital Digging analyserte 512 ChatGPT-samtaler med målrettede søkeord og fant ut at 20 % inneholdt materiale som aldri burde ha blitt publisert. Kriteriene var blant annet hvor sensitivt det publiserte innholdet var, potensielle juridiske konsekvenser og bevis på kriminell aktivitet.

Forgjeves oppryddingsarbeid

Som nevnt har OpenAI etter avsløringen febrilsk forsøkt å rette opp feilen. Etter den første avsløringen prøvde selskapet å fjerne nesten 50 000 delte samtaler fra Googles indeks. Selskapet overså imidlertid det faktum at Archive.org allerede hadde lagret alle samtalene.

Det er imidlertid ikke lenger mulig å søke etter delte samtaler fra ChatGPT – via nettadressen chatgpt.com/share – på Waybackmachine.