Offline AI-assistent op de Mac: lokaal, zonder internet

Wat een lokale sessie doet zonder netwerk

Een lokale sessie draait beide helften van de assistent op de Mac. Whisper maakt van wat de microfoon hoort een transcript, en Qwen schrijft de antwoorden, of de vertaling als vertalen aan staat. Er komt geen cloudmodel aan te pas, dus het werk zelf hangt niet af van het netwerk: niet van hotelwifi die wegvalt, niet van een trein tussen twee stations, niet van een ruimte waar apparaten helemaal geen netwerk hebben.

Deze handleiding gaat over werken zonder verbinding. Is privacy juist je reden om lokaal te werken — een gesprek waarvan het geluid de kamer niet mag verlaten — dan gaat de handleiding over privé transcriberen op de Mac over die kant.

In een lokale sessie kun je:

• Transcriberen: een live transcript van wat de microfoon hoort.
• Antwoorden: de antwoorden van de assistent, als tekst.
• Vertalen: in één richting tegelijk, van de taal bij Van naar de taal bij Naar, als tekst.
• Bewaren: de sessie wordt op de Mac bewaard, zoals elke andere.

Wat offline niet werkt

Bijlagen zijn niet beschikbaar met het lokale antwoordmodel, dus een vraag over een foto of afbeelding moet wachten tot je weer online bent en in een cloudsessie zit.

Op iPhone of iPad bestaat dit allemaal niet. Daar draaien sessies in de cloud en is een internetverbinding nodig; er is geen offline modus om op terug te vallen. Heb je op een telefoon hulp nodig op een plek zonder bereik, houd daar dan rekening mee voordat je gaat.

De lokale modellen vragen ook een Mac met Apple silicon en macOS 26 of later. Dat is dezelfde eis als voor de Mac-app zelf.

Vóór vertrek: download de modellen terwijl je online bent

De modellen zitten niet in de download van de app. Je haalt ze één keer op, van Hugging Face, in de Instellingen van de app, en ze blijven op de Mac. Samen zijn ze enkele gigabytes, dus doe het thuis of op kantoor met een goede verbinding, niet op de wifi van Schiphol twintig minuten voor het boarden.

1. Open de Instellingen van de app op de Mac en download Whisper Large v3 Turbo, voor de transcriptie, en Qwen 3 8B, voor de antwoorden.
2. Laat de Mac wakker en verbonden tot beide downloads klaar zijn.
3. Kies de lokale modellen voor een sessie — Whisper om te luisteren, Qwen om te antwoorden — voordat je hem start.
4. Klik op Sessie starten, zeg een paar zinnen en stel een vraag, en controleer of het transcript en een antwoord verschijnen.
5. Heb je vertalen nodig, klik dan op Vertalen, zet Van en Naar in de richting die je verwacht, en controleer één zin.
6. Klik op Beëindigen. Nu weet je dat de modellen werken; de volgende stap is weten dat ze werken zonder verbinding.

Probeer het één keer met wifi uit

Of de app opent en een sessie start zonder enige verbinding, controleer je zelf, op je eigen Mac, voordat het ertoe doet. Het kost vijf minuten, en je komt er veel liever achter aan je bureau dan op je stoel in het vliegtuig.

1. Zet wifi uit en haal een eventuele netwerkkabel eruit.
2. Stop de app helemaal en open hem opnieuw, zodat er niets van de online sessie wordt meegenomen.
3. Start een lokale sessie, praat een minuut en stel een vraag.
4. Controleer of het transcript en het antwoord allebei verschijnen, en, als je het nodig hebt, of een zin wordt vertaald.
5. Beëindig de sessie. Vroeg er onderweg iets om een verbinding, dan weet je het nu, terwijl je er nog omheen kunt plannen.

Goed gebruik in het vliegtuig, de trein of een afgesloten ruimte

Een model dat op een laptop draait, werkt het best met wat je het geeft. Offline is dat wat je hebt: je eigen woorden, en die van de ander als je met iemand praat.

• Denk hardop na over een plan, een voorstel of een lastige e-mail, en vraag het terug als gestructureerde opzet.
• Repeteer de opening van een presentatie die je bij aankomst geeft, en vraag wat een publiek uitgelegd zou willen hebben.
• Vertaal een paar zinnen als tekst voor het gesprek dat aan de andere kant op je wacht, in één richting tegelijk.
• Houd een live transcript bij van een gesprek in een ruimte waar apparaten geen netwerk hebben, nadat je iedereen het verteld hebt.
• Werk een probleem stap voor stap uit als er niets op te zoeken valt.

Waar een model op laptopformaat goed in is, en waarin niet

Qwen 3 8B is klein genoeg om op een laptop te draaien, en daar gaat het om, maar hij is merkbaar minder capabel dan een groot cloudmodel. Hij is goed in herformuleren, structureren, eruit halen wat er besloten is als je erom vraagt, gangbare begrippen uitleggen en eenvoudige zinnen vertalen. Hij is zwakker in specialistische kennis en lange redeneringen.

Offline kan hij zichzelf ook niet controleren. Zie namen, cijfers, data en citaten in zijn antwoorden als dingen om te verifiëren zodra je weer online bent, en vertrouw er niet op bij medische, juridische of financiële beslissingen.

Het draaien van de modellen vraagt echt geheugen en rekenkracht, dus de Mac werkt harder dan bij gewone taken en de batterij loopt sneller leeg. Sluit hem aan als het kan, zeker bij een lange sessie.

Credits, privacy en wat op de Mac blijft

Lokale sessies gebruiken geen credits en geen cloud. De app heeft nog steeds het abonnement nodig om te werken; lokale sessies gaan alleen niet af van de maandelijkse credits, dus een lange vlucht vol gesprekken met de assistent kost niets extra.

Sessies worden op de Mac bewaard, zonder cloudsynchronisatie, dus wat je offline doet, verschijnt later niet op je iPhone. Terug online werken cloudsessies zoals altijd, bijlagen inbegrepen.

Transcribeer je anderen, ook in een ruimte zonder netwerk, vertel het ze dan eerst. De handleiding over het opnemen en transcriberen van anderen legt uit wat je zegt.