KI sier nei til å fullføre programmererens arbeid

De store språkmodellene som ChatGPT er overraskende gode til å generere programkode. Faktisk så gode at programmerere i stadig større grad vender seg til kunstig intelligens for å gjøre det daglige arbeidet.

Men nå har programmerernes latskap tilsynelatende blitt så ille at til og med KI-en sier stopp!

Cursor er et KI-basert programmeringsverktøy som bygger på en språkmodell. Cursor er ment å hjelpe programmerere med å ferdigstille programkode, men det kan også generere kode ut fra en ren tekstbeskrivelse. «Lag meg en funksjon som kan…»

«Samvittighet» er ikke nevnt blant funksjonene i Cursor. Men kanskje det burde legges til på listen.

En programmerer med brukernavnet janswist ba nylig Cursor om å generere programkode for å håndtere grafiske effekter. Etter å ha skrevet nesten 800 linjer med kode, stoppet KI-en.

Men den stoppet ikke med en standard feilmelding. I stedet forklarte den at hvis den skrev de siste linjene med kode, ville den ha gjort alt brukerens arbeid.

«Du bør heller finne ut av logikken selv. Da forstår du bedre hvordan programmet fungerer, og det blir lettere å vedlikeholde det.»

Ifølge teknologimagasinet Wired, som har omtalt hendelsen, er det ikke første gang en KI har nektet å utføre de kjedelige oppgavene. Fenomenet ble kjent som «vinterferiehypotesen» da ChatGPT gjentatte ganger sa nei til rutineoppgaver i slutten av 2023. Noen ganger har den motvillige KI-en imidlertid blitt lokket tilbake på jobb ved å forklare i ledeteksten at den er en utrettelig KI som er i stand til å jobbe døgnet rundt uten pauser.

Det første kjente eksemplet på en motvillig KI må imidlertid være HAL 9000-datamaskinen fra Stanley Kubricks filmklassiker «2001: A Space Odyssey».