MacでオフラインAI：ネット不要のローカルモデル

ネットワークなしでローカルセッションがすること

ローカルセッションは、アシスタントを支える2つのモデルを両方とも Mac の上で動かします。Whisper がマイクの聞いたものを文字起こしにし、Qwen が回答を、翻訳がオンなら訳を書きます。クラウドのモデルは関わらないので、処理そのものはネットワークに左右されません。途切れがちなホテルの Wi-Fi にも、駅と駅の間を走る列車にも、端末がネットワークにつながらない部屋にもです。

このガイドは、通信なしで作業するためのものです。ローカルを選ぶ理由がプライバシー——音声を部屋の外に出すべきでない会話——なら、Mac でオフライン文字起こしをするガイドがその面を説明しています。

ローカルセッションでできること：

• 文字起こし：マイクが聞いたもののライブの文字起こし。
• 回答：アシスタントの返事を、テキストで。
• 翻訳：「翻訳元」の言語から「翻訳先」の言語へ、一度に一方向、テキストで。
• 保存：セッションはほかと同じように Mac に保存されます。

オフラインでは使えないもの

ローカルの回答モデルでは添付ファイルが使えないので、写真や画像についての質問は、オンラインに戻ってクラウドのセッションを使うまで待つことになります。

iPhone と iPad には、こうした機能はまったくありません。そちらではセッションはクラウドで動き、インターネット接続が必要で、代わりに使えるオフラインモードはありません。電波のない場所でスマートフォンの助けが必要になりそうなら、出かける前にそれを見越して準備してください。

ローカルモデルには、Apple シリコン搭載で macOS 26 以降の Mac も必要です。Mac 版アプリ自体と同じ条件です。

出発前に：オンラインのうちにモデルをダウンロード

モデルはアプリのダウンロードには含まれていません。アプリの「設定」から Hugging Face 経由で一度取得すれば、Mac に残ります。合わせて数ギガバイトになるので、搭乗20分前の空港の Wi-Fi ではなく、家やオフィスの良い回線でダウンロードしてください。

1. Mac でアプリの「設定」を開き、文字起こし用の Whisper Large v3 Turbo と、回答用の Qwen 3 8B をダウンロードします。
2. 両方のダウンロードが終わるまで、Mac をスリープさせずにネットワークにつないだままにします。
3. セッションを始める前に、ローカルモデル——聞き取りに Whisper、回答に Qwen——を選びます。
4. 「セッションの開始」をクリックし、いくつか文を話して質問をひとつし、文字起こしと回答が表示されるか確かめます。
5. 翻訳が必要になりそうなら、「翻訳する」をクリックし、使う予定の方向に「翻訳元」と「翻訳先」を設定して、一文試します。
6. 「終了」をクリックします。これでモデルが動くことはわかりました。次は、通信なしで動くことを確かめます。

一度、Wi-Fi をオフにして試す

まったく通信のない状態でアプリが開き、セッションを始められるかどうかは、大事な場面の前に自分の Mac で確かめておいてください。5分で済み、機内の座席で知るより、机で知るほうがずっとましです。

1. Wi-Fi をオフにし、ネットワークケーブルがあれば抜きます。
2. アプリを完全に終了してから開き直し、オンラインのセッションから何も引き継がれないようにします。
3. ローカルセッションを始め、1分ほど話して、質問をひとつします。
4. 文字起こしと回答の両方が表示されるか、必要なら文が翻訳されるかを確かめます。
5. セッションを終了します。途中で何かが通信を求めたなら、まだ対策を立てられるいまのうちにわかったことになります。

機内、列車、閉じた部屋での使い道

ノートパソコンで動くモデルは、与えたものでいちばん力を発揮します。オフラインで手元にあるのは、自分の言葉と、誰かと話しているならその人の言葉です。

• 計画や提案、書きにくいメールについて声に出して考え、構成の整ったアウトラインにして返してもらう。
• 到着後にするプレゼンの冒頭をリハーサルし、聴衆が説明してほしいと思いそうなことを聞く。
• 向こうで待っている会話のために、いくつかの文をテキストで、一方向ずつ翻訳しておく。
• 端末がネットワークにつながらない部屋での会話を、全員に先に伝えたうえで、ライブで文字起こしする。
• 調べものができないときに、問題を一歩ずつ考え抜く。

ノートパソコンで動くモデルが得意なこと、苦手なこと

Qwen 3 8B はノートパソコンで動くほど小さく、それこそが要点ですが、大きなクラウドのモデルより明らかに力が劣ります。言い換え、構成、頼めば決まったことの抜き出し、一般的な考え方の説明、平易な文の翻訳は得意です。専門的な知識や、長く続く推論は苦手です。

オフラインでは、自分で確かめる手段もありません。回答に出てくる名前、数字、日付、引用は、オンラインに戻ってから確かめるものとして扱い、医療・法律・金銭の判断には頼らないでください。

モデルを動かすと、メモリと処理能力を実際に使うので、Mac はふだんの作業より負荷がかかり、バッテリーの減りも早くなります。できるときは、特に長いセッションでは、電源につないでください。

クレジット、プライバシー、Mac に残るもの

ローカルセッションは、クレジットもクラウドも使いません。アプリを使うにはサブスクリプションが必要ですが、ローカルセッションは毎月のクレジットを消費しないので、長いフライトの間ずっとアシスタントと話しても、追加の費用はかかりません。

セッションは Mac に保存され、クラウド同期はないので、オフラインでしたことがあとで iPhone に表示されることはありません。オンラインに戻れば、クラウドのセッションは添付ファイルも含めて元どおり使えます。

ほかの人の話を文字起こしするなら、ネットワークのない部屋でも、まず本人に伝えてください。他人の会話の録音と文字起こしのガイドで、何を伝えるかを説明しています。