Assistente IA offline su Mac: modelli locali, senza internet
Su un Mac con Apple silicon, GPT Realtime Assistant può far girare una sessione senza il cloud: Whisper Large v3 Turbo trascrive, e Qwen 3 8B risponde e traduce, sul Mac stesso. Scarichi entrambi una volta nelle Impostazioni mentre sei online, e poi le sessioni locali funzionano come testo e non consumano crediti. Prima di contarci in aereo, prova una volta un'intera sessione locale con il Wi-Fi spento.
Cosa fa una sessione locale senza rete
Una sessione locale fa girare entrambe le metà dell'assistente sul Mac. Whisper trasforma ciò che sente il microfono in una trascrizione, e Qwen scrive le risposte, o la traduzione quando la traduzione è attiva. Non entra in gioco nessun modello cloud, quindi il lavoro in sé non dipende dalla rete: né dal Wi-Fi dell'hotel che cade, né da un treno che entra in galleria tra Bologna e Firenze, né da una stanza in cui i dispositivi non hanno alcuna rete.
Questa guida parla di lavorare senza connessione. Se il motivo per cui scegli il locale è invece la privacy — una conversazione il cui audio non deve lasciare la stanza — la guida sulla trascrizione privata sul Mac copre quel lato.
In una sessione locale puoi:
- Trascrivere: una trascrizione dal vivo di ciò che sente il microfono.
- Ricevere risposte: le risposte dell'assistente, come testo.
- Tradurre: una direzione alla volta, dalla lingua di «Da» alla lingua di «A», come testo.
- Conservare: la sessione viene salvata sul Mac, come tutte le altre.
Cosa non funziona offline
Gli allegati non sono disponibili con il modello locale per le risposte, quindi una domanda su una foto o un'immagine deve aspettare che tu sia di nuovo online e in una sessione cloud.
Niente di tutto questo esiste su iPhone o iPad. Lì le sessioni girano nel cloud e hanno bisogno di una connessione a internet; non c'è una modalità offline di riserva. Se ti serve aiuto su un telefono in un posto senza campo, organizzati prima di partire.
I modelli locali richiedono anche un Mac con Apple silicon e macOS 26 o successivo. È lo stesso requisito dell'app per Mac.
Prima di partire: scarica i modelli finché sei online
I modelli non fanno parte del download dell'app. Li scarichi una volta, da Hugging Face, nelle Impostazioni dell'app, e restano sul Mac. Insieme occupano diversi gigabyte, quindi fallo a casa o in ufficio con una buona connessione, non con il Wi-Fi dell'aeroporto venti minuti prima dell'imbarco.
- Apri le Impostazioni dell'app sul Mac e scarica Whisper Large v3 Turbo, per la trascrizione, e Qwen 3 8B, per le risposte.
- Lascia il Mac acceso e connesso finché entrambi i download non sono finiti.
- Scegli i modelli locali per una sessione — Whisper per ascoltare, Qwen per rispondere — prima di avviarla.
- Fai clic su Avvia sessione, di' qualche frase e fai una domanda, e controlla che compaiano la trascrizione e una risposta.
- Se ti servirà la traduzione, fai clic su Traduci, imposta «Da» e «A» per la direzione che prevedi e controlla una frase.
- Fai clic su Termina sessione. Ora sai che i modelli funzionano; il passo successivo è sapere che funzionano senza connessione.
Provala una volta con il Wi-Fi spento
Se l'app si apre e avvia una sessione senza alcuna connessione è una cosa da verificare di persona, sul tuo Mac, prima che conti. Ci vogliono cinque minuti, ed è molto meglio scoprirlo alla scrivania che al tuo posto in aereo.
- Spegni il Wi-Fi e scollega qualsiasi cavo di rete.
- Chiudi completamente l'app e riaprila, così non resta nulla della sessione online.
- Avvia una sessione locale, parla per un minuto e fai una domanda.
- Controlla che compaiano sia la trascrizione sia la risposta e, se ti serve, che una frase venga tradotta.
- Termina la sessione. Se qualcosa lungo il percorso ha chiesto una connessione, ora lo sai, quando puoi ancora organizzarti.
Buoni usi in aereo, in treno o in una stanza chiusa
Un modello che gira su un portatile lavora meglio con ciò che gli dai. Offline, è ciò che hai: le tue parole, e quelle dell'altra persona se stai parlando con qualcuno.
- Ragiona ad alta voce su un piano, una proposta o un'email difficile, e chiedi di riavere tutto come una scaletta strutturata.
- Prova l'inizio di una presentazione che farai all'arrivo, e chiedi cosa vorrebbe sentirsi spiegare il pubblico.
- Traduci qualche frase come testo per la conversazione che ti aspetta all'arrivo, una direzione alla volta.
- Tieni una trascrizione dal vivo di una conversazione in una stanza dove i dispositivi non hanno rete, dopo averlo detto a tutti.
- Affronta un problema passo per passo quando non c'è niente da cercare.
In cosa è bravo un modello da portatile, e in cosa no
Qwen 3 8B è abbastanza piccolo da girare su un portatile, ed è proprio questo il punto, ma è sensibilmente meno capace di un grande modello cloud. È bravo a riformulare, strutturare, estrarre ciò che è stato deciso quando glielo chiedi, spiegare concetti comuni e tradurre frasi semplici. È più debole sulle conoscenze specialistiche e sui ragionamenti lunghi.
Offline, poi, non ha modo di verificarsi. Considera nomi, cifre, date e citazioni nelle sue risposte come cose da controllare quando sei di nuovo online, e non affidarti a lui per decisioni mediche, legali o finanziarie.
Far girare i modelli richiede davvero memoria e potenza di calcolo, quindi il Mac lavora più che per le attività normali e la batteria si scarica più in fretta. Collegalo alla corrente quando puoi, soprattutto per una sessione lunga.
Crediti, privacy e cosa resta sul Mac
Le sessioni locali non usano né crediti né il cloud. L'app ha comunque bisogno dell'abbonamento per funzionare; le sessioni locali semplicemente non attingono ai crediti mensili, quindi un lungo volo passato a parlare con l'assistente non costa nulla in più.
Le sessioni vengono salvate sul Mac, senza sincronizzazione cloud, quindi ciò che fai offline non comparirà poi sul tuo iPhone. Di nuovo online, le sessioni cloud funzionano come prima, allegati compresi.
Se trascrivi altre persone, anche in una stanza senza rete, diglielo prima. La guida su registrare e trascrivere altre persone spiega cosa dire.
Posso usarlo offline su iPhone o iPad?
No. Su iPhone e iPad le sessioni girano nel cloud e hanno bisogno di una connessione a internet. I modelli locali sono per i Mac con Apple silicon.
Quali Mac possono usarlo offline?
I Mac con Apple silicon e macOS 26 o successivo, con Whisper Large v3 Turbo e Qwen 3 8B scaricati una volta nelle Impostazioni.
Usa crediti offline?
No. Le sessioni locali non usano né crediti né il cloud. L'abbonamento serve comunque per usare l'app.
Posso allegare immagini in una sessione locale?
No. Gli allegati non sono disponibili con il modello locale per le risposte, quindi le domande su un'immagine richiedono una sessione cloud e una connessione.
