Trascrizione offline e privata sul Mac con Whisper
Alcune conversazioni non dovrebbero essere trasmesse da nessuna parte: una visita medica, un colloquio con un avvocato, un consiglio di amministrazione prima di un annuncio. Per queste la domanda non è quanto sia bravo il modello cloud, ma se l'audio debba lasciare la macchina. Su un Mac con Apple silicon, non deve.
Cosa gira in locale
Su un Mac con Apple silicon l'app può scaricare due modelli ed eseguirli sulla macchina: Whisper Large v3 Turbo per la trascrizione e Qwen 3 8B per le risposte. Una volta scaricati, girano sul Mac stesso, per le sessioni il cui audio non deve lasciare la stanza.
Scegliere tra elaborazione cloud e modelli locali è una decisione caso per caso. Uno stand-up settimanale e un colloquio con un'avvocata non richiedono lo stesso trattamento, e non devi sceglierne uno per tutto.
Cosa va dove, a seconda della modalità
«Privato» viene spesso usato in modo vago, quindi conviene essere precisi.
- Sessione cloud: l'audio del microfono — e sul Mac, facoltativamente, l'audio di sistema e lo schermo catturato — viene trasmesso alla Realtime API di OpenAI per produrre trascrizione e risposte. Gli allegati vengono inviati come contesto.
- Sessione locale sul Mac: i modelli scaricati elaborano audio e testo sulla macchina.
- In entrambi i casi trascrizioni, risposte, sessioni, attività e note vengono salvate sul dispositivo, senza sincronizzazione cloud.
- Il backend dell'app conserva account, acquisti, saldo dei crediti e registri d'uso. Non riceve né conserva audio, trascrizioni, risposte o allegati.
I compromessi, onestamente
Un modello che sta su un portatile è più piccolo di uno che gira in un data center. Le risposte di un modello da otto miliardi di parametri bastano per molte cose — estrarre decisioni, spiegare un termine, abbozzare un follow-up — ma su conoscenze ampie o ragionamenti lunghi sono nettamente meno capaci di un grande modello cloud.
Il download pesa diversi gigabyte, e i modelli usano davvero memoria e potenza di calcolo mentre girano. Su un Mac recente con Apple silicon va bene; su uno più vecchio è più lento. È anche per questo che è una funzione del Mac: un telefono non ha il margine per farlo.
Su iPhone e iPad
I grandi modelli locali sono solo per il Mac. Su iPhone e iPad la trascrizione può comunque arrivare dal riconoscimento vocale di Apple sul dispositivo invece che dai modelli di OpenAI. Le risposte arrivano comunque dal modello cloud: la trascrizione delle tue parole avviene sul telefono, l'aiuto no.
Privato riguarda anche chi è nella stanza
Tenere l'audio sulla macchina lo protegge da terzi. Non cambia il fatto che stai raccogliendo ciò che dicono altre persone. Hanno il diritto di saperlo, e in molti luoghi lo impone anche la legge — la guida su registrare e trascrivere altre persone spiega cosa dire.
Su quali Mac girano i modelli locali?
Sui Mac con Apple silicon. I modelli si scaricano una volta e girano sulla macchina; i Mac più recenti sono più veloci.
I modelli locali girano sull'iPhone?
No. Su iPhone e iPad la trascrizione può arrivare dal riconoscimento vocale di Apple sul dispositivo, ma il modello locale per le risposte è solo per il Mac.
I server dell'app vedono mai le mie trascrizioni?
No. Il backend gestisce account, acquisti e crediti; trascrizioni e risposte vengono salvate sul tuo dispositivo.
