Pembantu AI offline di Mac: model setempat, tanpa internet

Apa yang dilakukan sesi setempat tanpa rangkaian

Sesi setempat menjalankan kedua-dua bahagian pembantu pada Mac. Whisper menukar apa yang didengar mikrofon kepada transkrip, dan Qwen menulis jawapan, atau terjemahan apabila terjemahan dihidupkan. Tiada model awan terlibat, jadi kerja itu sendiri tidak bergantung pada rangkaian: tidak pada Wi-Fi hotel yang terputus-putus, tidak di dalam kereta api antara stesen, tidak di bilik di mana peranti langsung tiada rangkaian.

Panduan ini tentang bekerja tanpa sambungan. Jika sebab anda memilih setempat ialah privasi — perbualan yang audionya tidak patut keluar dari bilik — panduan transkripsi peribadi di Mac menerangkan sisi itu.

Dalam sesi setempat anda boleh:

• Mentranskrip: transkrip langsung apa yang didengar mikrofon.
• Menjawab: jawapan pembantu, sebagai teks.
• Menterjemah: satu hala pada satu masa, daripada bahasa dalam “Daripada” ke bahasa dalam “Kepada”, sebagai teks.
• Menyimpannya: sesi disimpan pada Mac, seperti sesi lain.

Apa yang tidak berfungsi di luar talian

Lampiran tidak tersedia dengan model jawapan setempat, jadi soalan tentang foto atau gambar perlu menunggu sehingga anda kembali dalam talian dan dalam sesi awan.

Semua ini tiada di iPhone atau iPad. Di sana, sesi berjalan dalam awan dan memerlukan sambungan internet; tiada mod luar talian untuk dijadikan sandaran. Jika anda memerlukan bantuan di telefon di tempat tiada isyarat, rancang untuk itu sebelum pergi.

Model setempat juga memerlukan Mac dengan Apple silicon dan macOS 26 atau lebih baharu. Itu keperluan yang sama seperti apl Mac itu sendiri.

Sebelum bertolak: muat turun model semasa dalam talian

Model tidak termasuk dalam muat turun apl. Anda mengambilnya sekali, daripada Hugging Face, dalam Seting apl, dan ia kekal pada Mac. Bersama-sama ia mengambil beberapa gigabait, jadi lakukan di rumah atau di pejabat dengan sambungan yang baik, bukan dengan Wi-Fi lapangan terbang dua puluh minit sebelum menaiki pesawat.

1. Buka Seting apl pada Mac dan muat turun Whisper Large v3 Turbo, untuk transkripsi, dan Qwen 3 8B, untuk jawapan.
2. Biarkan Mac berjaga dan bersambung sehingga kedua-dua muat turun selesai.
3. Pilih model setempat untuk sesi — Whisper untuk mendengar, Qwen untuk menjawab — sebelum memulakannya.
4. Klik Mulakan Sesi, ucapkan beberapa ayat dan tanya satu soalan, dan pastikan transkrip dan jawapan muncul.
5. Jika anda akan memerlukan terjemahan, klik Terjemah, tetapkan “Daripada” dan “Kepada” untuk arah yang anda jangkakan, dan semak satu ayat.
6. Klik Tamatkan. Kini anda tahu model berfungsi; langkah seterusnya ialah mengetahui ia berfungsi tanpa sambungan.

Cuba sekali dengan Wi-Fi dimatikan

Sama ada apl dibuka dan memulakan sesi tanpa sebarang sambungan ialah perkara yang perlu anda semak sendiri, pada Mac anda sendiri, sebelum ia penting. Ia mengambil masa lima minit, dan jauh lebih baik mengetahuinya di meja anda daripada di tempat duduk kapal terbang.

1. Matikan Wi-Fi dan cabut sebarang kabel rangkaian.
2. Keluar sepenuhnya daripada apl dan bukanya semula, supaya tiada apa yang terbawa daripada sesi dalam talian.
3. Mulakan sesi setempat, bercakap selama seminit, dan tanya satu soalan.
4. Pastikan transkrip dan jawapan kedua-duanya muncul, dan, jika perlu, satu ayat diterjemah.
5. Tamatkan sesi. Jika ada apa-apa sepanjang proses meminta sambungan, anda tahu sekarang, semasa masih boleh merancang.

Kegunaan yang baik di kapal terbang, kereta api atau bilik tertutup

Model yang berjalan pada komputer riba paling berkesan dengan apa yang anda berikan kepadanya. Di luar talian, itulah yang anda ada: kata-kata anda sendiri, dan kata-kata orang lain jika anda sedang berbual dengan seseorang.

• Fikir dengan lantang tentang rancangan, cadangan atau e-mel yang sukar, dan minta ia dikembalikan sebagai rangka yang tersusun.
• Latih pembukaan pembentangan yang akan anda sampaikan sebaik tiba, dan tanya apa yang hadirin mahu diterangkan.
• Terjemah beberapa ayat sebagai teks untuk perbualan yang menanti di hujung perjalanan, satu hala pada satu masa.
• Simpan transkrip langsung perbualan di bilik di mana peranti tiada rangkaian, dengan semua orang diberitahu dahulu.
• Selesaikan masalah langkah demi langkah apabila tiada apa-apa untuk dicari.

Apa yang mampu dilakukan model sebesar komputer riba, dan apa yang tidak

Qwen 3 8B cukup kecil untuk berjalan pada komputer riba — itulah tujuannya — dan ia jelas kurang berkebolehan berbanding model awan yang besar. Ia bagus untuk menyusun semula ayat, menstruktur, mengeluarkan apa yang diputuskan apabila anda bertanya, menerangkan idea biasa dan menterjemah ayat mudah. Ia lebih lemah dalam pengetahuan khusus dan rantaian penaakulan yang panjang.

Di luar talian, ia juga tiada cara untuk menyemak dirinya. Anggap nama, angka, tarikh dan petikan dalam jawapannya sebagai perkara untuk disahkan apabila anda kembali dalam talian, dan jangan bergantung padanya untuk keputusan perubatan, undang-undang atau kewangan.

Menjalankan model menggunakan memori dan kuasa pemprosesan yang sebenar, jadi Mac bekerja lebih keras daripada untuk tugas biasa dan bateri lebih cepat habis. Cas apabila boleh, terutamanya untuk sesi yang panjang.

Kredit, privasi dan apa yang kekal pada Mac

Sesi setempat tidak menggunakan kredit dan tidak menggunakan awan. Apl masih memerlukan langganannya untuk berjalan; sesi setempat cuma tidak menggunakan kredit bulanan, jadi penerbangan panjang berbual dengan pembantu tidak menelan kos tambahan.

Sesi disimpan pada Mac, tanpa penyegerakan awan, jadi apa yang anda lakukan di luar talian tidak muncul di iPhone anda kemudian. Apabila kembali dalam talian, sesi awan berfungsi seperti biasa, termasuk lampiran.

Jika anda mentranskrip orang lain, walaupun di bilik tanpa rangkaian, beritahu mereka dahulu. Panduan tentang merakam dan mentranskrip orang lain menerangkan apa yang perlu dikatakan.