Stadig flere bruker ChatGPT, Claude eller Gemini for å få hjelp i hverdagen. De kjører alle i skyen på servere hos OpenAI, Anthropic og Google. Dette innebærer imidlertid at selskapene får tilgang til samtalene dine. I tillegg trenger du en internettforbindelse, noe som gjør dem ubrukelige hvis du for eksempel sitter på et fly. Et alternativ er å installere en LLM (stor språkmodell) på datamaskinen din. Som Gemini AI Edge Gallery, som hittil kun har vært tilgjengelig på mobil, men som nå også kommer til macOS.
Ulempen med å kjøre lokale modeller er at datamaskinen din ikke har samme kapasitet som skyserverne. Dermed har de mindre kapasitet og bruker lengre tid på å svare. De har imidlertid tilstrekkelig kapasitet for hverdagslige spørsmål, og jo raskere datamaskin du har, desto raskere svar får du. Og som nevnt holder du dataene dine private, og du kan kjøre dem uten internettforbindelse.
Når det gjelder kapasitet, hever Gemini AI Edge Gallery standarden, siden den kan kjøre den nylig lanserte Gemma-4-12B. Ifølge Google er den designet for å kjøre multimodal intelligens direkte på din egen datamaskin. Det vil si at den, i tillegg til å håndtere tekst, også forstår bilder og lyd. De fleste konkurrerende lokale LLM-er kan håndtere 2–9 milliarder parametere, mens Gemma 4 kan håndtere 12 milliarder.
Google lanserte også dikteringsverktøyet Google AI Edge Eloquent for macOS. Også dette verktøyet kjører lokalt og omformer naturlig tale til korrekt skriftlig språk. Ulempen er at det foreløpig kun er tilgjengelig på engelsk.
Les mer om Google AI Edge Eloquent her.
Mer informasjon om Google AI Edge Gallery finner du her.
Og her er flere detaljer om Gemma 4 12B.
