KI-assistent offline på Mac: lokale modeller uten internett

Hva en lokal økt gjør uten nett

En lokal økt kjører begge halvdelene av assistenten på Macen. Whisper gjør det mikrofonen hører, om til en transkripsjon, og Qwen skriver svarene, eller oversettelsen når oversettelse er på. Ingen skymodell er involvert, så selve arbeidet er ikke avhengig av nettet: ikke av hotell-Wi-Fi som faller ut, ikke av et tog mellom stasjoner, ikke av et rom der enheter ikke har nett i det hele tatt.

Denne veiledningen handler om å jobbe uten tilkobling. Er grunnen til å gå lokalt heller personvern — en samtale der lyden ikke bør forlate rommet — tar veiledningen om privat transkripsjon på Mac for seg den siden.

I en lokal økt kan du:

• Transkribere: en direkte transkripsjon av det mikrofonen hører.
• Få svar: assistentens svar, som tekst.
• Oversette: én retning om gangen, fra språket i «Fra» til språket i «Til», som tekst.
• Ta vare på den: økten lagres på Macen, som alle andre.

Hva som ikke fungerer offline

Vedlegg er ikke tilgjengelige med den lokale svarmodellen, så et spørsmål om et bilde må vente til du er på nett igjen og i en skyøkt.

Ingenting av dette finnes på iPhone eller iPad. Der kjører økter i skyen og trenger internettilkobling; det finnes ingen offlinemodus å falle tilbake på. Trenger du hjelp på en telefon et sted uten dekning, bør du planlegge for det før du drar.

De lokale modellene krever også en Mac med Apple silicon og macOS 26 eller nyere. Det er det samme kravet som for selve Mac-appen.

Før du drar: last ned modellene mens du er på nett

Modellene er ikke en del av app-nedlastingen. Du henter dem én gang, fra Hugging Face, i appens Innstillinger, og de blir liggende på Macen. Til sammen tar de flere gigabyte, så gjør det hjemme eller på kontoret med en god tilkobling, ikke på flyplass-Wi-Fi tjue minutter før boarding.

1. Åpne appens Innstillinger på Macen og last ned Whisper Large v3 Turbo, for transkripsjon, og Qwen 3 8B, for svar.
2. La Macen være våken og tilkoblet til begge nedlastingene er ferdige.
3. Velg de lokale modellene for en økt — Whisper til å lytte, Qwen til å svare — før du starter den.
4. Klikk Start økten, si noen setninger og still et spørsmål, og sjekk at transkripsjonen og et svar dukker opp.
5. Trenger du oversettelse, klikker du Oversett, stiller inn «Fra» og «Til» for retningen du venter, og sjekker én setning.
6. Klikk Avslutt økten. Nå vet du at modellene virker; neste steg er å vite at de virker uten tilkobling.

Prøv det én gang med Wi-Fi av

Om appen åpner og starter en økt helt uten tilkobling, er noe du bør sjekke selv, på din egen Mac, før det gjelder. Det tar fem minutter, og det er langt bedre å finne det ut ved skrivebordet enn i flysetet.

1. Slå av Wi-Fi og trekk ut eventuell nettverkskabel.
2. Avslutt appen helt og åpne den igjen, så ingenting henger igjen fra økten på nett.
3. Start en lokal økt, snakk i et minutt, og still et spørsmål.
4. Sjekk at både transkripsjonen og svaret dukker opp, og at en setning blir oversatt, hvis du trenger det.
5. Avslutt økten. Ba noe underveis om tilkobling, vet du det nå, mens du fortsatt kan planlegge rundt det.

Gode bruksområder på fly, tog eller i et lukket rom

En modell som kjører på en bærbar, fungerer best med det du gir den. Offline er det det du har: dine egne ord, og den andres hvis du snakker med noen.

• Tenk høyt gjennom en plan, et forslag eller en vanskelig e-post, og be om å få det tilbake som en strukturert disposisjon.
• Øv på åpningen av en presentasjon du skal holde når du kommer fram, og spør hva et publikum ville ønsket forklart.
• Oversett noen setninger som tekst til samtalen som venter i den andre enden, én retning om gangen.
• Ha en direkte transkripsjon av en samtale i et rom der enheter ikke har nett, med beskjed til alle først.
• Jobb deg gjennom et problem steg for steg når det ikke finnes noe å slå opp.

Hva en modell i bærbar størrelse er god til, og hva den ikke er

Qwen 3 8B er liten nok til å kjøre på en bærbar, som er hele poenget, og merkbart mindre dyktig enn en stor skymodell. Den er god til å omformulere, strukturere, plukke ut hva som ble bestemt når du spør, forklare vanlige begreper og oversette enkle setninger. Den er svakere på spesialisert kunnskap og lange resonnementer.

Offline har den heller ingen måte å sjekke seg selv på. Se på navn, tall, datoer og sitater i svarene som ting du må kontrollere når du er på nett igjen, og ikke stol på den ved medisinske, juridiske eller økonomiske beslutninger.

Å kjøre modellene krever mye minne og regnekraft, så Macen jobber hardere enn ved vanlige oppgaver, og batteriet tappes raskere. Koble til strøm når du kan, særlig til en lang økt.

Kreditter, personvern og hva som blir på Macen

Lokale økter bruker ingen kreditter og ingen sky. Appen trenger fortsatt abonnementet sitt for å kjøre; lokale økter trekker bare ikke på de månedlige kredittene, så en lang flytur med prat med assistenten koster ingenting ekstra.

Økter lagres på Macen, uten skysynkronisering, så det du gjør offline, dukker ikke opp på iPhonen senere. Tilbake på nett fungerer skyøkter som før, vedlegg inkludert.

Transkriberer du andre, selv i et rom uten nett, si det til dem først. Veiledningen om å ta opp og transkribere andre forklarer hva du kan si.