Vi bruker i stadig større grad chatboter og KI-sammendrag for å lete etter informasjon. I mange tilfeller er det en rask måte å få et kjapt overblikk over informasjon som du deretter kan grave videre i. Men mange bruker chatboter til å stille spørsmål om helsen sin, og stoler for mye på nøyaktigheten i KI-sammendraget. I ekstreme tilfeller kan dette få tragiske konsekvenser.
Når du googler i dag, får du ofte opp et KI-sammendrag øverst. Men om den er nøyaktig eller ikke, avhenger av hvor den får informasjonen fra. Ifølge Google er svarene på medisinske spørsmål «pålitelige» og siterer gode kilder som smittevernsentre og sykehus. Men en tysk studie viser at sammendraget baserer seg 2-3 ganger oftere på Youtube-videoer enn på medisinske kilder.
Google sier at det finnes mange gode kanaler for medisinsk informasjon på YouTube, og at det derfor er en god kilde. Forskerne påpeker imidlertid at hvem som helst, enten det er en lege, influencer, helsecoach eller kvakksalver, kan laste opp videoer. Studien så på over 50 000 helserelaterte søk. I 82 % av dem ble det gitt et sammendrag, og kildene som ble brukt, ble analysert.
Den vanligste kilden var YouTube med 20 621 siteringer av totalt 465 823. Ifølge forskerne tyder dette på at synlighet og popularitet veier tyngre enn medisinsk pålitelighet.
Undersøkelser i Tyskland viser at
- 55 % av chatbot-brukerne bruker KI til å få helseråd
- 50 % sier at KI hjelper dem med å forstå symptomer bedre enn et Google-søk.
- 30 % sier at et KI-svar føles som en ny medisinsk vurdering.
- 16 % sier at de har ignorert legen sin fordi KI var uenig.
I ett tilfelle, som ble beskrevet som «farlig» og «alarmerende», inneholdt sammendraget feilaktig informasjon om leverprøver som kunne ha fått personer med alvorlige leversykdommer til å tro at de var friske. Google har siden fjernet sammendrag for noen, men langt fra alle, medisinske søkeord.
ChatGPT er ikke mye bedre, ettersom det har vist seg at de anser Elon Musks Grokipedia for å være en god informasjonskilde. Dette til tross for at den gjentatte ganger har vist seg å være full av tull og regelrette løgner.
Her er hva du bør gjøre
Konklusjonen er at man absolutt ikke bør stole på KI-sammendrag eller chatboter for å få medisinsk informasjon, og definitivt ikke tro at man kan få en nøyaktig diagnose. Gå til en lege i stedet!
Det er imidlertid fullt mulig å bruke kunstig intelligens til å oppsummere informasjon, hjelpe til med å formulere tekster og skape bilder. Som åpningsbildet vårt øverst. Oppsummeringene skal ses på som nettopp det, men du må klikke deg videre til kildene for å få den virkelige informasjonen.
Kilde: The Guardian og det tyske studiet
