Offline transcriberen op de Mac: lokaal met Whisper

Wat lokaal draait

Op een Mac met Apple silicon kan de app twee modellen downloaden en op de computer draaien: Whisper Large v3 Turbo voor de transcriptie en Qwen 3 8B voor de antwoorden. Eenmaal gedownload draaien ze op de Mac zelf, voor sessies waarvan het geluid de kamer niet mag verlaten.

De keuze tussen cloudverwerking en lokale modellen maak je per toepassing. Een wekelijkse stand-up en een gesprek met een advocaat vragen niet om dezelfde aanpak, en je hoeft niet voor alles één keuze te maken.

Wat waarheen gaat, per modus

‘Privé’ wordt vaak vaag gebruikt, dus het loont om precies te zijn.

• Cloudsessie: het geluid van de microfoon — en op de Mac optioneel het systeemgeluid en het vastgelegde scherm — wordt naar de Realtime API van OpenAI gestreamd om het transcript en de antwoorden te maken. Bijlagen worden als context meegestuurd.
• Lokale sessie op de Mac: de gedownloade modellen verwerken geluid en tekst op de computer.
• In beide gevallen worden transcripten, antwoorden, sessies, taken en notities op het apparaat bewaard, zonder cloudsynchronisatie.
• De backend van de app bewaart accounts, aankopen, het tegoed aan credits en gebruiksgegevens. Hij ontvangt en bewaart geen geluid, transcripten, antwoorden of bijlagen.

De afwegingen, eerlijk

Een model dat op een laptop past, is kleiner dan een model in een datacenter. De antwoorden van een model met acht miljard parameters volstaan voor veel — besluiten eruit halen, een term uitleggen, een vervolgmail opstellen — maar bij brede kennis of lange redeneringen zijn ze duidelijk minder sterk dan een groot cloudmodel.

De download is enkele gigabytes, en de modellen gebruiken tijdens het draaien echt geheugen en rekenkracht. Op een recente Mac met Apple silicon gaat dat prima; op een oudere is het trager. Daarom is het ook een Mac-functie: een telefoon heeft die ruimte niet.

Op iPhone en iPad

De grote lokale modellen zijn er alleen op de Mac. Op iPhone en iPad kan de transcriptie wel van de spraakherkenning van Apple op het apparaat komen in plaats van de modellen van OpenAI. De antwoorden komen dan nog steeds van het cloudmodel: het transcript van je woorden ontstaat op de telefoon, de hulp niet.

Privé gaat ook over de mensen in de kamer

Het geluid op de computer houden beschermt het tegen derden. Het verandert niets aan het feit dat je vastlegt wat anderen zeggen. Die mensen hebben het recht om het te weten, en op veel plaatsen eist de wet dat ook — de handleiding over het opnemen en transcriberen van anderen legt uit wat je zegt.