Нейросеть офлайн на Mac: ИИ-ассистент без интернета

Что локальный сеанс делает без сети

Локальный сеанс запускает обе половины ассистента на Mac. Whisper превращает то, что слышит микрофон, в расшифровку, а Qwen пишет ответы — или перевод, когда перевод включён. Облачная модель не участвует, так что сама работа от сети не зависит: ни от гостиничного Wi-Fi, который пропадает, ни от поезда между станциями, ни от комнаты, где у устройств вообще нет сети.

Это руководство — о работе без подключения. Если вы переходите на локальные модели ради приватности — разговор, звук которого не должен покидать комнату, — эту сторону объясняет руководство по приватной расшифровке на Mac.

В локальном сеансе можно:

• Расшифровывать: живая расшифровка того, что слышит микрофон.
• Получать ответы: ответы ассистента текстом.
• Переводить: в одну сторону за раз, с исходного языка («С языка») на целевой («На язык»), текстом.
• Сохранять: сеанс хранится на Mac, как и любой другой.

Что не работает без сети

С локальной моделью ответов вложения недоступны, так что вопрос о фото или изображении придётся отложить, пока вы снова не окажетесь в сети и в облачном сеансе.

На iPhone и iPad ничего этого нет. Там сеансы работают в облаке и требуют интернета; офлайн-режима, на который можно было бы переключиться, нет. Если помощь понадобится на телефоне там, где нет сигнала, продумайте это до поездки.

Локальным моделям также нужен Mac с Apple silicon и macOS 26 или новее. Это те же требования, что и у самого приложения для Mac.

Перед отъездом: скачайте модели, пока вы в сети

Модели не входят в загрузку приложения. Их скачивают один раз, с Hugging Face, в «Настройках» приложения, и они остаются на Mac. Вместе они занимают несколько гигабайт, поэтому скачивайте дома или в офисе на хорошем подключении, а не через Wi-Fi аэропорта за двадцать минут до посадки.

1. Откройте «Настройки» приложения на Mac и скачайте Whisper Large v3 Turbo для расшифровки и Qwen 3 8B для ответов.
2. Не давайте Mac уснуть и не отключайте его от сети, пока обе загрузки не завершатся.
3. Перед началом сеанса выберите для него локальные модели: Whisper — слушать, Qwen — отвечать.
4. Нажмите «Начать сеанс», скажите несколько фраз, задайте вопрос и проверьте, что появились расшифровка и ответ.
5. Если понадобится перевод, нажмите «Перевести», выберите «С языка» и «На язык» для ожидаемого направления и проверьте одну фразу.
6. Нажмите «Завершить». Теперь вы знаете, что модели работают; следующий шаг — убедиться, что они работают без подключения.

Проверьте один раз с выключенным Wi-Fi

Открывается ли приложение и начинается ли сеанс совсем без подключения, стоит проверить самому, на своём Mac, до того как это станет важно. Это пять минут, и гораздо лучше узнать всё за рабочим столом, чем в кресле самолёта.

1. Выключите Wi-Fi и отсоедините сетевой кабель, если он есть.
2. Полностью закройте приложение и откройте снова, чтобы ничего не перенеслось из сеанса в сети.
3. Начните локальный сеанс, поговорите минуту и задайте вопрос.
4. Проверьте, что появились и расшифровка, и ответ, а если нужно — что фраза переводится.
5. Завершите сеанс. Если где-то по пути понадобилось подключение, вы узнали об этом сейчас, пока ещё можно всё спланировать.

Что делать в самолёте, в поезде или в закрытой комнате

Модель, которая работает на ноутбуке, лучше всего справляется с тем, что вы ей даёте. Офлайн у вас есть именно это: ваши собственные слова и слова собеседника, если вы с кем-то разговариваете.

• Продумайте вслух план, предложение или трудное письмо и попросите вернуть это в виде структурированного плана.
• Отрепетируйте начало презентации, которую будете делать по прилёте, и спросите, что аудитория захочет, чтобы ей объяснили.
• Переведите текстом несколько фраз для разговора, который ждёт вас на месте, — в одну сторону за раз.
• Ведите живую расшифровку разговора в комнате, где у устройств нет сети, предупредив всех заранее.
• Разберите задачу шаг за шагом, когда подсмотреть негде.

В чём сильна модель размером с ноутбук, а в чём нет

Qwen 3 8B достаточно мала, чтобы работать на ноутбуке, — в этом и смысл, — и заметно уступает большой облачной модели. Она хорошо перефразирует, структурирует, вычленяет принятые решения, если попросить, объясняет распространённые понятия и переводит простые фразы. Слабее она в специальных знаниях и длинных цепочках рассуждений.

Офлайн ей ещё и нечем себя проверить. Имена, цифры, даты и цитаты в её ответах перепроверяйте, когда снова будете в сети, и не полагайтесь на неё в медицинских, юридических и финансовых решениях.

Работа моделей требует настоящей памяти и вычислительной мощности, поэтому Mac нагружается сильнее, чем в обычных задачах, и батарея садится быстрее. По возможности подключайте зарядку, особенно для долгого сеанса.

Кредиты, приватность и что остаётся на Mac

Локальные сеансы не используют ни кредиты, ни облако. Приложению по-прежнему нужна подписка; локальные сеансы просто не расходуют ежемесячные кредиты, так что долгий перелёт в разговорах с ассистентом не стоит ничего сверх неё.

Сеансы хранятся на Mac, без синхронизации с облаком, так что сделанное офлайн потом не появится на iPhone. Когда вы снова в сети, облачные сеансы работают как прежде, вложения тоже.

Если вы расшифровываете других людей — даже в комнате без сети, — сначала скажите им. Руководство о записи и расшифровке других людей объясняет, что сказать.