AI-assistent offline på Mac: lokala modeller utan internet

Vad en lokal session gör utan nätverk

En lokal session kör båda halvorna av assistenten på Macen. Whisper gör om det mikrofonen hör till ett transkript, och Qwen skriver svaren, eller översättningen när översättning är påslagen. Ingen molnmodell är inblandad, så själva arbetet är inte beroende av nätverket: inte av hotellets wifi som går ner, inte av ett tåg mellan stationerna, inte av ett rum där enheter inte har något nätverk alls.

Den här guiden handlar om att arbeta utan uppkoppling. Om ditt skäl att köra lokalt i stället är integritet — ett samtal vars ljud inte ska lämna rummet — tar guiden om privat transkribering på Mac upp den sidan.

I en lokal session kan du:

• Transkribera: ett livetranskript av det som mikrofonen hör.
• Få svar: assistentens svar, som text.
• Översätta: en riktning i taget, från språket i ”Från” till språket i ”Till”, som text.
• Spara: sessionen sparas på Macen, som vilken annan session som helst.

Vad som inte fungerar offline

Bilagor är inte tillgängliga med den lokala svarsmodellen, så en fråga om ett foto eller en bild får vänta tills du är uppkopplad igen och i en molnsession.

Inget av detta finns på iPhone eller iPad. Där körs sessioner i molnet och kräver internetuppkoppling; det finns inget offlineläge att falla tillbaka på. Behöver du hjälp på en telefon någonstans utan täckning, planera för det innan du åker.

De lokala modellerna kräver också en Mac med Apple silicon och macOS 26 eller senare. Det är samma krav som för själva Mac-appen.

Innan du åker: ladda ner modellerna medan du är uppkopplad

Modellerna ingår inte i appens nedladdning. Du hämtar dem en gång, från Hugging Face, i appens Inställningar, och de stannar på Macen. Tillsammans tar de flera gigabyte, så gör det hemma eller på kontoret på en bra uppkoppling, inte på flygplatsens wifi tjugo minuter före boarding.

1. Öppna appens Inställningar på Macen och ladda ner Whisper Large v3 Turbo, för transkribering, och Qwen 3 8B, för svar.
2. Låt Macen vara vaken och uppkopplad tills båda nedladdningarna är klara.
3. Välj de lokala modellerna för en session — Whisper för att lyssna, Qwen för att svara — innan du startar den.
4. Klicka på Starta session, säg några meningar och ställ en fråga, och kontrollera att transkriptet och ett svar visas.
5. Behöver du översättning, klicka på Översätt, ställ in ”Från” och ”Till” för den riktning du räknar med och kontrollera en mening.
6. Klicka på Avsluta. Nu vet du att modellerna fungerar; nästa steg är att veta att de fungerar utan uppkoppling.

Prova en gång med wifi avstängt

Om appen öppnas och startar en session helt utan uppkoppling är något du ska kontrollera själv, på din egen Mac, innan det gäller. Det tar fem minuter, och det är mycket bättre att få veta det vid skrivbordet än på din plats i flygplanet.

1. Stäng av wifi och koppla ur eventuell nätverkskabel.
2. Avsluta appen helt och öppna den igen, så att inget följer med från onlinesessionen.
3. Starta en lokal session, prata i en minut och ställ en fråga.
4. Kontrollera att både transkriptet och svaret visas, och, om du behöver det, att en mening översätts.
5. Avsluta sessionen. Om något på vägen bad om en uppkoppling vet du det nu, medan du fortfarande kan planera runt det.

Bra användning på flyget, tåget eller i ett stängt rum

En modell som körs på en laptop fungerar bäst med det du ger den. Offline är det vad du har: dina egna ord, och den andras om du pratar med någon.

• Tänk högt kring en plan, ett förslag eller ett svårt mejl, och be att få tillbaka det som en strukturerad disposition.
• Repetera inledningen till en presentation du ska hålla när du kommer fram, och fråga vad en publik skulle vilja ha förklarat.
• Översätt några meningar som text inför samtalet som väntar på andra sidan, en riktning i taget.
• För ett livetranskript av ett samtal i ett rum där enheter inte har något nätverk, med alla informerade först.
• Arbeta igenom ett problem steg för steg när det inte finns något att slå upp.

Vad en modell i laptopstorlek är bra på, och vad den inte är

Qwen 3 8B är liten nog att köras på en laptop, vilket är hela poängen, och den är märkbart mindre kapabel än en stor molnmodell. Den är bra på att formulera om, strukturera, plocka ut vad som beslutades när du frågar, förklara vanliga begrepp och översätta enkla meningar. Den är svagare på specialkunskap och långa resonemang.

Offline har den heller inget sätt att kontrollera sig själv. Se namn, siffror, datum och citat i svaren som saker att verifiera när du är uppkopplad igen, och förlita dig inte på den för medicinska, juridiska eller ekonomiska beslut.

Att köra modellerna kräver ordentligt med minne och processorkraft, så Macen arbetar hårdare än vid vanliga uppgifter och batteriet tar slut fortare. Koppla in laddaren när du kan, särskilt vid en lång session.

Krediter, integritet och vad som stannar på Macen

Lokala sessioner använder inga krediter och inget moln. Appen behöver fortfarande sin prenumeration för att fungera; lokala sessioner drar helt enkelt inte från månadens krediter, så ett långt flyg av samtal med assistenten kostar inget extra.

Sessioner sparas på Macen, utan molnsynkronisering, så det du gör offline dyker inte upp på din iPhone senare. När du är uppkopplad igen fungerar molnsessioner som vanligt, bilagor inräknade.

Om du transkriberar andra, även i ett rum utan nätverk, berätta det för dem först. Guiden om att spela in och transkribera andra går igenom vad du ska säga.