Mac 離線 AI 助理:本機模型,沒有網路也能用
在搭載 Apple silicon 的 Mac 上,GPT Realtime Assistant 可以不經雲端執行工作階段:Whisper Large v3 Turbo 負責轉錄,Qwen 3 8B 負責回答和翻譯,全都在 Mac 本身執行。趁有網路時在「設定」中下載一次,之後本機工作階段就以文字運作,也不消耗點數。在飛機上依賴它之前,先關掉 Wi-Fi 完整跑一次本機工作階段。
本機工作階段在沒有網路時做什麼
本機工作階段把助理的兩半都放在 Mac 上執行。Whisper 把麥克風聽到的聲音變成逐字稿,Qwen 寫出回答,或在開啟翻譯時寫出譯文。整個過程不經過雲端模型,所以工作本身不依賴網路:不怕飯店 Wi-Fi 斷線,不怕火車開到兩站之間,也不怕在裝置完全不能連網的房間裡。
這篇指南談的是沒有網路時怎麼工作。如果你選擇本機是為了隱私——一段音訊不該離開房間的對話——Mac 私密轉錄的指南會說明那一面。
在本機工作階段中,你可以:
- 轉錄:麥克風聽到的內容的即時逐字稿。
- 回答:助理的回答,以文字呈現。
- 翻譯:一次一個方向,從「來源語言」翻成「目標語言」,以文字呈現。
- 保存:工作階段像其他工作階段一樣儲存在 Mac 上。
離線時哪些不能用
本機回答模型不支援附件,所以關於照片或圖片的問題,要等回到網路上、在雲端工作階段中才能問。
這些在 iPhone 或 iPad 上都沒有。在那裡,工作階段在雲端執行,需要網路連線;沒有離線模式可以退而求其次。如果你需要在沒有訊號的地方用手機求助,出發前就要另做打算。
本機模型也需要搭載 Apple silicon、執行 macOS 26 或以上版本的 Mac。這和 Mac App 本身的需求相同。
出發前:趁有網路時下載模型
模型不包含在 App 的下載中。你要在 App 的「設定」中從 Hugging Face 下載一次,之後就留在 Mac 上。兩者加起來有好幾 GB,所以請在家裡或辦公室用穩定的網路下載,不要在登機前二十分鐘用機場 Wi-Fi。
- 在 Mac 上打開 App 的「設定」,下載用於轉錄的 Whisper Large v3 Turbo,以及用於回答的 Qwen 3 8B。
- 讓 Mac 保持喚醒並連著網路,直到兩個都下載完成。
- 開始工作階段前,為它選擇本機模型——用 Whisper 聽,用 Qwen 回答。
- 按一下「開始工作階段」,說幾句話、問一個問題,確認逐字稿和回答都有出現。
- 如果會需要翻譯,按一下「翻譯」,依你預期的方向設定「來源語言」和「目標語言」,測試一句話。
- 按一下「結束工作階段」。現在你知道模型能用了;下一步,是確認它們在沒有網路時也能用。
關掉 Wi-Fi 試一次
App 在完全沒有網路時能不能開啟、能不能開始工作階段,這件事請在你自己的 Mac 上、在它變得重要之前親自確認。只要五分鐘,在辦公桌前發現問題,遠比在飛機座位上發現好得多。
- 關閉 Wi-Fi,拔掉所有網路線。
- 完全結束 App 再重新打開,讓線上工作階段的狀態不會延續下來。
- 開始一個本機工作階段,說一分鐘的話,再問一個問題。
- 確認逐字稿和回答都有出現;如果需要,也確認一句話有被翻譯。
- 結束工作階段。如果過程中有任何步驟要求連網,你現在就知道了,還來得及另做安排。
在飛機上、火車上或封閉房間裡的好用法
在筆電上執行的模型,最擅長處理你給它的東西。離線時,你有的就是這些:你自己的話,以及如果你在和別人交談,對方的話。
- 把一個計畫、一份提案或一封難寫的信邊想邊說出來,請它整理成有結構的大綱。
- 排練抵達後要做的簡報開場,問它聽眾會希望哪些地方講清楚。
- 為另一端等著你的對話,先以文字翻譯幾句話,一次一個方向。
- 在裝置不能連網的房間裡,為一段對話保留即時逐字稿,並事先告知所有人。
- 在沒有東西可查的時候,一步一步想通一個問題。
筆電大小的模型擅長什麼、不擅長什麼
Qwen 3 8B 小到能在筆電上執行,這正是重點,但它的能力明顯不如大型雲端模型。它擅長改寫、整理結構、在你要求時找出做了哪些決定、解釋常見概念,以及翻譯簡單的句子。在專業知識和長串推理上則比較弱。
離線時,它也沒辦法自我查證。把回答中的人名、數字、日期和引述,當成回到網路上之後要核實的東西,也不要依賴它做醫療、法律或財務決定。
執行這些模型需要實實在在的記憶體和運算資源,所以 Mac 會比做一般工作時更吃力,電池也耗得更快。能插電就插電,尤其是長時間的工作階段。
點數、隱私,以及什麼留在 Mac 上
本機工作階段不使用點數,也不使用雲端。App 本身仍需要訂閱才能執行;本機工作階段只是不從每月點數中扣除,所以整趟長途飛行都在和助理對話,也不會多花錢。
工作階段儲存在 Mac 上,沒有雲端同步,所以離線時做的事,之後不會出現在你的 iPhone 上。回到網路上,雲端工作階段照常運作,附件也可以用。
如果你轉錄別人說的話,即使在不能連網的房間裡,也要先告訴他們。關於錄製和轉錄他人對話的指南會說明該怎麼說。
可以在 iPhone 或 iPad 上離線使用嗎?
不行。在 iPhone 和 iPad 上,工作階段在雲端執行,需要網路連線。本機模型只供搭載 Apple silicon 的 Mac 使用。
哪些 Mac 可以離線執行?
搭載 Apple silicon、執行 macOS 26 或以上版本的 Mac,並在「設定」中下載一次 Whisper Large v3 Turbo 和 Qwen 3 8B。
離線時會消耗點數嗎?
不會。本機工作階段不使用點數,也不使用雲端。使用 App 仍需要訂閱。
本機工作階段可以附加圖片嗎?
不行。本機回答模型不支援附件,所以關於圖片的問題需要雲端工作階段和網路連線。
