Transkriber offline på Mac: lokalt med Whisper

Hva som kjører lokalt

På en Mac med Apple silicon kan appen laste ned to modeller og kjøre dem på maskinen: Whisper Large v3 Turbo for transkripsjon og Qwen 3 8B for svar. Når de er lastet ned, kjører de på selve Macen, for økter der lyden ikke skal forlate rommet.

Valget mellom skybehandling og lokale modeller tas per bruksområde. En ukentlig stand-up og en samtale med en advokat trenger ikke samme behandling, og du trenger ikke velge én ting for alt.

Hva som går hvor, i hver modus

«Privat» brukes ofte upresist, så det lønner seg å være nøyaktig.

• Skyøkt: lyden fra mikrofonen — og på Mac eventuelt systemlyd og den fangede skjermen — strømmes til OpenAIs Realtime API for å lage transkripsjonen og svarene. Vedlegg sendes som kontekst.
• Lokal økt på Mac: de nedlastede modellene behandler lyd og tekst på maskinen.
• I begge tilfeller lagres transkripsjoner, svar, økter, oppgaver og notater på enheten, uten skysynkronisering.
• Appens backend lagrer kontoer, kjøp, kredittsaldo og bruksregistreringer. Den mottar og lagrer ikke lyd, transkripsjoner, svar eller vedlegg.

Avveiningene, ærlig

En modell som får plass på en bærbar, er mindre enn en som kjører i et datasenter. Svarene fra en modell med åtte milliarder parametere holder til mye — plukke ut beslutninger, forklare et begrep, lage utkast til en oppfølging — men til bred kunnskap eller lange resonnementer er de merkbart svakere enn en stor skymodell.

Nedlastingen er på flere gigabyte, og modellene bruker virkelig minne og regnekraft mens de kjører. På en ny Mac med Apple silicon går det fint; på en eldre går det tregere. Det er også derfor det er en Mac-funksjon: en telefon har ikke det rommet.

På iPhone og iPad

De store lokale modellene finnes bare på Mac. På iPhone og iPad kan transkripsjonen likevel komme fra Apples talegjenkjenning på enheten i stedet for fra OpenAIs modeller. Svarene kommer da fortsatt fra skymodellen: transkripsjonen av ordene dine skjer på telefonen, hjelpen gjør det ikke.

Privat handler også om folk i rommet

Å holde lyden på maskinen beskytter den mot tredjeparter. Det endrer ikke at du fanger det andre sier. De har rett til å vite det, og mange steder krever loven det også — veiledningen om å ta opp og transkribere andre forklarer hva du skal si.