Транскрибация офлайн на Mac: Whisper и Qwen локально
Некоторые разговоры не должны никуда передаваться: приём у врача, консультация юриста, заседание совета директоров перед объявлением. Для них вопрос не в том, насколько хороша облачная модель, а в том, должен ли звук вообще покидать компьютер. На Mac с Apple silicon — не должен.
Что работает локально
На Mac с Apple silicon приложение может скачать две модели и запускать их на компьютере: Whisper Large v3 Turbo для расшифровки и Qwen 3 8B для ответов. После загрузки они работают на самом Mac — для сеансов, звук которых не должен покидать комнату.
Выбор между облачной обработкой и локальными моделями делается под каждую задачу. Еженедельный стендап и консультация с адвокатом не требуют одинакового подхода, и выбирать что-то одно для всего не нужно.
Что куда уходит в каждом режиме
Слово «приватно» часто используют расплывчато, поэтому стоит быть точным.
- Облачный сеанс: звук с микрофона — а на Mac по желанию ещё системный звук и захваченный экран — передаётся в Realtime API OpenAI, чтобы получить расшифровку и ответы. Вложения отправляются как контекст.
- Локальный сеанс на Mac: скачанные модели обрабатывают звук и текст на компьютере.
- В обоих случаях расшифровки, ответы, сеансы, задачи и заметки хранятся на устройстве, без синхронизации с облаком.
- Бэкенд приложения хранит аккаунты, покупки, баланс кредитов и записи об использовании. Он не получает и не хранит звук, расшифровки, ответы или вложения.
Компромиссы, честно
Модель, которая помещается на ноутбук, меньше той, что работает в дата-центре. Ответов модели на восемь миллиардов параметров хватает для многого — вычленить решения, объяснить термин, набросать письмо по итогам, — но в широких знаниях и длинных рассуждениях она заметно уступает большой облачной модели.
Загрузка весит несколько гигабайт, а во время работы модели действительно расходуют память и вычислительную мощность. На свежем Mac с Apple silicon это нормально; на старом — медленнее. Поэтому это и функция Mac: у телефона нет такого запаса.
На iPhone и iPad
Большие локальные модели есть только на Mac. На iPhone и iPad расшифровку всё равно может делать распознавание речи Apple на устройстве вместо моделей OpenAI. Ответы при этом по-прежнему приходят от облачной модели: расшифровка ваших слов происходит на телефоне, помощь — нет.
Приватность касается и людей в комнате
Звук, оставленный на компьютере, защищён от третьих лиц. Но это не меняет того, что вы фиксируете слова других людей. Они вправе об этом знать, а во многих местах этого требует и закон — руководство о записи и расшифровке других людей объясняет, что сказать.
На каких Mac работают локальные модели?
На Mac с Apple silicon. Модели скачиваются один раз и работают на компьютере; на более новых Mac — быстрее.
Работают ли локальные модели на iPhone?
Нет. На iPhone и iPad расшифровку может делать распознавание речи Apple на устройстве, но локальная модель для ответов есть только на Mac.
Видят ли серверы приложения мои расшифровки?
Нет. Бэкенд обрабатывает аккаунты, покупки и кредиты; расшифровки и ответы хранятся на вашем устройстве.
