Assistente de IA offline no Mac com modelos locais

O que uma sessão local faz sem a rede

Uma sessão local roda as duas metades do assistente no Mac. O Whisper transforma o que o microfone ouve numa transcrição, e o Qwen escreve as respostas, ou a tradução quando a tradução está ativada. Nenhum modelo na nuvem participa, então o trabalho em si não depende da rede: nem do Wi-Fi do hotel que cai, nem do trem entre estações, nem de uma sala onde os aparelhos não têm rede nenhuma.

Este guia é sobre trabalhar sem conexão. Se o seu motivo para usar modelos locais é a privacidade — uma conversa cujo áudio não deve sair da sala —, o guia sobre transcrição privada no Mac trata desse lado.

Numa sessão local, você pode:

• Transcrever: uma transcrição ao vivo do que o microfone ouve.
• Receber respostas: as respostas do assistente, em texto.
• Traduzir: um sentido por vez, do idioma em “De” para o idioma em “Para”, em texto.
• Guardar: a sessão fica salva no Mac, como qualquer outra.

O que não funciona offline

Os anexos não estão disponíveis com o modelo local de respostas, então uma pergunta sobre uma foto ou uma imagem precisa esperar até você estar de novo online, numa sessão na nuvem.

Nada disso existe no iPhone nem no iPad. Neles, as sessões rodam na nuvem e precisam de conexão com a internet; não há modo offline a que recorrer. Se você for precisar de ajuda num celular num lugar sem sinal, planeje isso antes de ir.

Os modelos locais também exigem um Mac com Apple silicon e macOS 26 ou posterior. É o mesmo requisito do próprio app para Mac.

Antes de sair: baixe os modelos enquanto está online

Os modelos não vêm no download do app. Você os baixa uma vez, do Hugging Face, nos Ajustes do app, e eles ficam no Mac. Juntos, ocupam vários gigabytes, então faça isso em casa ou no escritório com uma boa conexão, não no Wi-Fi do aeroporto vinte minutos antes do embarque.

1. Abra os Ajustes do app no Mac e baixe o Whisper Large v3 Turbo, para a transcrição, e o Qwen 3 8B, para as respostas.
2. Deixe o Mac ligado, sem entrar em repouso, e conectado até os dois downloads terminarem.
3. Escolha os modelos locais para uma sessão — o Whisper para ouvir, o Qwen para responder — antes de iniciá-la.
4. Clique em Começar sessão, diga algumas frases, faça uma pergunta e confira se a transcrição e uma resposta aparecem.
5. Se for precisar de tradução, clique em Traduzir, defina “De” e “Para” no sentido que você espera e confira uma frase.
6. Clique em Encerrar sessão. Agora você sabe que os modelos funcionam; o próximo passo é saber que funcionam sem conexão.

Teste uma vez com o Wi-Fi desligado

Se o app abre e inicia uma sessão sem nenhuma conexão é algo para você conferir por conta própria, no seu Mac, antes que isso importe. Leva cinco minutos, e é muito melhor descobrir na sua mesa do que na poltrona do avião.

1. Desligue o Wi-Fi e desconecte qualquer cabo de rede.
2. Saia do app por completo e abra-o de novo, para nada ficar da sessão online.
3. Inicie uma sessão local, fale por um minuto e faça uma pergunta.
4. Confira se a transcrição e a resposta aparecem e, se você precisar, se uma frase é traduzida.
5. Encerre a sessão. Se algo no caminho pediu conexão, você fica sabendo agora, enquanto ainda dá para se planejar.

Bons usos num avião, num trem ou numa sala fechada

Um modelo que roda num notebook funciona melhor com o que você dá a ele. Offline, é isso que você tem: as suas próprias palavras, e as da outra pessoa, se você estiver conversando com alguém.

• Pense em voz alta sobre um plano, uma proposta ou um e-mail difícil, e peça de volta um roteiro estruturado.
• Ensaie a abertura de uma apresentação que você vai fazer na chegada, e pergunte o que um público gostaria que fosse explicado.
• Traduza algumas frases em texto para a conversa que espera por você do outro lado, um sentido por vez.
• Mantenha uma transcrição ao vivo de uma conversa numa sala onde os aparelhos não têm rede, com todos avisados antes.
• Resolva um problema passo a passo quando não há nada para pesquisar.

No que um modelo do tamanho de um notebook é bom, e no que não é

O Qwen 3 8B é pequeno o bastante para rodar num notebook, e é essa a ideia, mas é bem menos capaz do que um grande modelo na nuvem. Ele vai bem em reescrever, estruturar, extrair o que foi decidido quando você pede, explicar ideias comuns e traduzir frases simples. É mais fraco em conhecimento especializado e em cadeias longas de raciocínio.

Offline, ele também não tem como se verificar. Trate nomes, números, datas e citações nas respostas dele como coisas a conferir quando você estiver de novo online, e não confie nele para decisões médicas, jurídicas ou financeiras.

Rodar os modelos exige memória e processamento de verdade, então o Mac trabalha mais do que em tarefas comuns e a bateria acaba mais rápido. Ligue na tomada quando puder, sobretudo numa sessão longa.

Créditos, privacidade e o que fica no Mac

Sessões locais não usam créditos nem a nuvem. O app continua precisando da assinatura para funcionar; as sessões locais apenas não consomem os créditos mensais, então um voo longo conversando com o assistente não custa nada a mais.

As sessões ficam salvas no Mac, sem sincronização na nuvem, então o que você faz offline não aparece depois no seu iPhone. De volta online, as sessões na nuvem funcionam como antes, com anexos.

Se você transcrever outras pessoas, mesmo numa sala sem rede, avise antes. O guia sobre gravar e transcrever outras pessoas explica o que dizer.