Mange bruker ChatGPT til alvorlige og sensitive konsultasjoner. Det kan være råd om økonomi, personlige problemer eller psykisk helse. Dette fordi man stoler på at samtalen er privat og aldri kan spores tilbake til en selv. Men en ny funksjon som OpenAI har eksperimentert med har slått feil og gjort chattene søkbare på nettet for hvem som helst.
Det handlet om en funksjon som skulle gjøre det mulig å dele interessante chatter med sine venner. I chatten var det en delingsknapp og deretter en knapp for å lage en lenke til samtalen. Når man brukte funksjonen, sa OpenAI at «navnet ditt, tilpassede instruksjoner og meldinger du legger til etter at du har delt lenken, forblir private».
Men det folk som brukte funksjonen ikke forsto, var at samtalen ble offentlig. Så offentlig at søkemotorer som Google kunne indeksere innholdet og dermed gjøre det søkbart for alle på nettet.
En journalist som undersøkte dette fant en bruker som snakket om sexlivet sitt, kampen med posttraumatisk stressyndrom og familieforhold. En annen journalist hos TechCrunch fant en person som ba om hjelp til å skrive en CV til en jobbsøknad. Basert på informasjonen i chatten var det lett å finne personen på LinkedIn, noe som ville vært svært ubehagelig hvis arbeidsgiveren hadde oppdaget personens planer om å slutte. Mange av samtalene inneholdt nok informasjon til å identifisere personen.
Bare timer etter at lekkasjen ble oppdaget, stengte OpenAI funksjonen og forklarte at eksperimentet «åpnet for mange muligheter for folk til å dele ting de ikke hadde tenkt å dele». Google kommenterte at søkemotoren deres indekserer ting som publiseres på nettet, og at det er publisisten som har kontroll over hva som legges ut og blir søkbart.
Kilde: Fast Company