Macでオフライン文字起こし:音声を外に出さないローカルモデル
どこにも送るべきでない会話があります。診察、法律相談、発表前の取締役会。そうした会話で大事なのは、クラウドのモデルがどれほど優秀かではなく、そもそも音声をマシンの中にとどめられるかどうかです。Apple シリコン搭載の Mac なら、とどめられます。
ローカルで動くもの
Apple シリコン搭載の Mac では、アプリが二つのモデルをダウンロードしてマシン上で動かせます。文字起こしは Whisper Large v3 Turbo、回答は Qwen 3 8B が担当します。一度ダウンロードすれば Mac 自体の上で動き、音声を部屋の外に出すべきでないセッションに使えます。
クラウド処理とローカルモデルのどちらを使うかは、用途ごとの判断です。毎週のスタンドアップと弁護士との相談に同じ扱いは要りません。すべてにどちらか一方を選ぶ必要はありません。
モードごとに、何がどこへ行くか
「プライベート」という言葉はあいまいに使われがちなので、正確にしておく価値があります。
- クラウドのセッション:マイクの音声——Mac では任意でシステムオーディオとキャプチャした画面も——が、文字起こしと回答を作るために OpenAI の Realtime API に送られます。添付ファイルはコンテキストとして送られます。
- Mac でのローカルセッション:ダウンロードしたモデルが、音声とテキストをマシン上で処理します。
- どちらの場合も、文字起こし・回答・セッション・タスク・メモは端末に保存されます。クラウド同期はありません。
- アプリのバックエンドが保持するのは、アカウント、購入、クレジット残高、利用記録です。音声・文字起こし・回答・添付ファイルは受け取らず、保存もしません。
トレードオフを正直に
ノートパソコンに収まるモデルは、データセンターで動くモデルより小さいものです。80億パラメータのモデルの回答は、決定事項の抽出、用語の説明、フォローアップの下書きなど多くのことに十分ですが、幅広い知識や長い推論が必要なことでは、大きなクラウドのモデルより明らかに力が劣ります。
ダウンロードはギガバイト単位で、動いている間はメモリと処理能力を実際に使います。最近の Apple シリコン搭載 Mac なら問題ありませんが、古い機種では遅くなります。これが Mac の機能である理由でもあります。スマートフォンにはその余裕がありません。
iPhone と iPad では
大きなローカルモデルは Mac 専用です。iPhone と iPad でも、文字起こしは OpenAI のモデルではなく、端末上で動く Apple の音声認識で行えます。その場合でも回答はクラウドのモデルから来ます。つまり、話した言葉の文字起こしはスマートフォンの中で行われますが、助けはそうではありません。
プライベートとは、部屋にいる人のことでもある
音声をマシンにとどめることは、第三者から音声を守ります。それでも、他の人が話すことを記録しているという事実は変わりません。その人たちには知る権利があり、多くの場所で法律もそう定めています。他人の会話の録音と文字起こしのガイドで、何を伝えるかを説明しています。
どの Mac でローカルモデルを動かせますか?
Apple シリコン搭載の Mac です。モデルは一度ダウンロードすればマシン上で動き、新しい Mac ほど速く動きます。
ローカルモデルは iPhone で動きますか?
いいえ。iPhone と iPad では Apple の端末上の音声認識で文字起こしできますが、ローカルの回答モデルは Mac 専用です。
アプリのサーバーが文字起こしを見ることはありますか?
ありません。バックエンドが扱うのはアカウント、購入、クレジットです。文字起こしと回答は端末に保存されます。
