KI brukes til alt – inkludert hacking

Kunstig intelligens vil koste arbeidsplasser. Men nå er ikke lenger denne frykten forbeholdt folk med fine kontorjobber. Denne gangen gjelder det høyt kvalifiserte stillinger i den kriminelle underverdenen. Ny forskning viser at hackere tilsynelatende har blitt for late til å skrive sin egen ondsinnede kode. I stedet vender de seg til generativ KI for å få hjelp med alt fra å utvikle løsepengevirus til å skrive mer overbevisende løsepengbrev.

Ifølge en ny rapport fra KI-selskapet Anthropic har nettkriminelle begynt å bruke språkmodellene Claude og Claude Code til å lage skadelig programvare. Dette har gjort det enklere selv for de mest teknisk uerfarne hackerne å gjennomføre angrep. Denne nye utviklingen baner vei for en transformasjon som fjerner tradisjonelle tekniske barrierer for utvikling av skadelig programvare.

Et eksempel er en trusselaktør fra Storbritannia kjent som GTG-5004. Denne personen bruker Claude til å utvikle, markedsføre og distribuere løsepengevirus med avanserte evasjonsfunksjoner. På cyberkriminelle fora har GTG-5004 solgt ransomware-tjenester til priser fra 400 til 1200 amerikanske dollar. Anthropic sier at GTG-5004s produkter inkluderer ulike krypteringsalternativer, programvareverktøy og metoder som er utviklet for å hjelpe hackere med å unngå å bli oppdaget.

Likevel ser det ut til at utvikleren ikke er teknisk dyktig. Forskerne skriver at denne operatøren ikke ser ut til å være i stand til å implementere krypteringsalgoritmer, anti-analyseteknikker eller manipulering av Windows interne funksjoner uten Claudes hjelp. Med andre ord ville han ikke ha noen sjanse uten hjelp fra KI.

Til syvende og sist vil kampen mellom godt og ondt bli en kamp mellom kunstig intelligens på begge sider – med oss mennesker som statister.

Annonse

Men GTG-5004 er ikke alene. Anthropic har også oppdaget en annen cyberkriminell gruppe, som de kaller GTG-2002, som bruker Claude Code til å finne mål. Denne gruppen bruker også KI til å få tilgang til nettverk, utvikle skadelig programvare, stjele data, analysere den stjålne informasjonen og deretter utarbeide en løsepengekrav. I løpet av den siste måneden har dette angrepet rammet minst 17 organisasjoner innenfor offentlig forvaltning, helsevesen, beredskapstjenester og religiøse institusjoner. Forskerne ved Anthropic skriver i rapporten sin at operasjonen viser en bekymringsfull utvikling innen KI-assistert cyberkriminalitet, hvor KI fungerer både som teknisk konsulent og aktiv operatør.

Videre har forskere fra sikkerhetsselskapet ESET oppdaget det de kaller den første kjente KI-drevne ransomware-programvaren, kalt PromptLock. Ransomware-programvaren kjører primært lokalt på en datamaskin og bruker en åpen kildekode-AI-modell fra Open AI til å generere ondsinnede skript. Den bruker også disse skriptene til å inspisere filer, stjele data og implementere kryptering. ESET mener at koden er en proof-of-concept, dvs. en demo-versjon som ikke ser ut til å ha blitt brukt i reelle angrep ennå. Deres funn understreker imidlertid hvordan nettkriminelle har begynt å bruke språkmodeller som en del av sitt arsenal.

Selv om generativ KI gjør mange ting enklere i hverdagen vår, gjør den også ondsinnede handlinger lettere tilgjengelige. Dette er en bekymringsfull utvikling, spesielt når vi tenker på at antallet ransomware-angrep allerede har nådd rekordnivåer. Som Paul Nakasone, tidligere sjef for US National Security Agency (NSA) og Cyber Command, sa: «Vi gjør ingen fremskritt mot ransomware». Nå som KI også er en del av spillet, blir den kampen enda vanskeligere.

Til syvende og sist vil kampen mellom godt og ondt bli en kamp mellom kunstig intelligens på begge sider – med oss mennesker som statister.

Kilde: Wired, ESET