Asystent AI offline na Macu: lokalne modele bez internetu
Na Macu z Apple silicon GPT Realtime Assistant może prowadzić sesję bez chmury: Whisper Large v3 Turbo transkrybuje, a Qwen 3 8B odpowiada i tłumaczy, na samym Macu. Oba modele pobierasz raz w Ustawieniach, gdy masz internet, a potem sesje lokalne działają jako tekst i nie zużywają kredytów. Zanim zaczniesz na tym polegać w samolocie, przeprowadź raz całą sesję lokalną z wyłączonym Wi-Fi.
Co robi sesja lokalna bez sieci
Sesja lokalna uruchamia obie połowy asystenta na Macu. Whisper zamienia to, co słyszy mikrofon, w transkrypcję, a Qwen pisze odpowiedzi albo tłumaczenie, gdy tłumaczenie jest włączone. Nie bierze w tym udziału żaden model w chmurze, więc sama praca nie zależy od sieci: ani od hotelowego Wi-Fi, które się zrywa, ani od pociągu między stacjami, ani od pomieszczenia, w którym urządzenia w ogóle nie mają sieci.
Ten poradnik dotyczy pracy bez połączenia. Jeśli wybierasz tryb lokalny z powodu prywatności — rozmowy, której dźwięk nie powinien opuszczać pokoju — tę stronę sprawy opisuje poradnik o prywatnej transkrypcji na Macu.
W sesji lokalnej możesz:
- Transkrybować: transkrypcja na żywo tego, co słyszy mikrofon.
- Dostawać odpowiedzi: odpowiedzi asystenta, jako tekst.
- Tłumaczyć: w jedną stronę naraz, z języka w polu „Od” na język w polu „Do”, jako tekst.
- Zachować wynik: sesja jest zapisywana na Macu, jak każda inna.
Co nie działa offline
Załączniki nie są dostępne z lokalnym modelem odpowiedzi, więc pytanie o zdjęcie lub obraz musi poczekać, aż znów będziesz online i w sesji w chmurze.
Nic z tego nie istnieje na iPhonie ani iPadzie. Tam sesje działają w chmurze i potrzebują połączenia z internetem; nie ma trybu offline, na który można by przejść. Jeśli potrzebujesz pomocy na telefonie tam, gdzie nie ma zasięgu, zaplanuj to przed wyjazdem.
Modele lokalne wymagają też Maca z Apple silicon i macOS 26 lub nowszego. To te same wymagania co dla samej aplikacji na Maca.
Przed wyjazdem: pobierz modele, gdy masz internet
Modele nie są częścią pobieranej aplikacji. Pobierasz je raz, z Hugging Face, w Ustawieniach aplikacji, i zostają na Macu. Razem zajmują kilka gigabajtów, więc zrób to w domu albo w biurze, na dobrym łączu, a nie na lotniskowym Wi-Fi dwadzieścia minut przed wejściem na pokład.
- Otwórz Ustawienia aplikacji na Macu i pobierz Whisper Large v3 Turbo do transkrypcji oraz Qwen 3 8B do odpowiedzi.
- Nie pozwól Macowi zasnąć i nie odłączaj go od sieci, dopóki oba pobierania się nie zakończą.
- Zanim zaczniesz sesję, wybierz dla niej modele lokalne — Whisper do słuchania, Qwen do odpowiedzi.
- Kliknij „Rozpocznij sesję”, powiedz kilka zdań, zadaj pytanie i sprawdź, czy pojawiają się transkrypcja i odpowiedź.
- Jeśli będziesz potrzebować tłumaczenia, kliknij Przetłumacz, ustaw „Od” i „Do” w kierunku, którego się spodziewasz, i sprawdź jedno zdanie.
- Kliknij „Zakończ sesję”. Teraz wiesz, że modele działają; następny krok to sprawdzić, czy działają bez połączenia.
Sprawdź raz z wyłączonym Wi-Fi
To, czy aplikacja otworzy się i zacznie sesję zupełnie bez połączenia, trzeba sprawdzić samemu, na własnym Macu, zanim będzie to ważne. Zajmuje to pięć minut i dużo lepiej przekonać się o tym przy biurku niż na fotelu w samolocie.
- Wyłącz Wi-Fi i odłącz kabel sieciowy, jeśli go używasz.
- Całkowicie zamknij aplikację i otwórz ją ponownie, żeby nic nie przeszło z sesji online.
- Zacznij sesję lokalną, mów przez minutę i zadaj pytanie.
- Sprawdź, czy pojawiają się i transkrypcja, i odpowiedź, a jeśli potrzebujesz, czy zdanie zostaje przetłumaczone.
- Zakończ sesję. Jeśli po drodze coś zażądało połączenia, wiesz o tym teraz, gdy jeszcze możesz to uwzględnić w planach.
Dobre zastosowania w samolocie, pociągu i zamkniętym pomieszczeniu
Model działający na laptopie sprawdza się najlepiej z tym, co mu dasz. Offline masz właśnie to: własne słowa, a jeśli z kimś rozmawiasz, także słowa tej osoby.
- Przemyśl na głos plan, propozycję albo trudnego maila i poproś, żeby asystent oddał ci to jako uporządkowany konspekt.
- Przećwicz początek prezentacji, którą wygłosisz po przylocie, i zapytaj, co publiczność chciałaby mieć wyjaśnione.
- Przetłumacz kilka zdań jako tekst na rozmowę, która czeka cię na miejscu, w jedną stronę naraz.
- Prowadź transkrypcję na żywo rozmowy w pomieszczeniu, w którym urządzenia nie mają sieci, po uprzedzeniu wszystkich.
- Rozwiązuj problem krok po kroku, gdy nie ma czego sprawdzić w sieci.
W czym model na laptopa jest dobry, a w czym nie
Qwen 3 8B jest na tyle mały, że działa na laptopie, i o to chodzi, ale jest wyraźnie słabszy niż duży model w chmurze. Dobrze przeredagowuje, porządkuje, wyłuskuje, co postanowiono, gdy o to zapytasz, wyjaśnia popularne pojęcia i tłumaczy proste zdania. Słabiej radzi sobie ze specjalistyczną wiedzą i długimi ciągami rozumowania.
Offline nie ma też jak sam się sprawdzić. Traktuj imiona, liczby, daty i cytaty w jego odpowiedziach jako rzeczy do weryfikacji, gdy wrócisz online, i nie opieraj na nim decyzji medycznych, prawnych ani finansowych.
Uruchamianie modeli naprawdę zużywa pamięć i moc obliczeniową, więc Mac pracuje ciężej niż przy zwykłych zadaniach, a bateria szybciej się rozładowuje. Podłącz zasilanie, kiedy możesz, zwłaszcza przy długiej sesji.
Kredyty, prywatność i to, co zostaje na Macu
Sesje lokalne nie zużywają kredytów i nie korzystają z chmury. Aplikacja nadal potrzebuje subskrypcji, żeby działać; sesje lokalne po prostu nie pobierają miesięcznych kredytów, więc długi lot spędzony na rozmowie z asystentem nie kosztuje nic dodatkowo.
Sesje są zapisywane na Macu, bez synchronizacji z chmurą, więc to, co robisz offline, nie pojawi się potem na twoim iPhonie. Po powrocie do sieci sesje w chmurze działają jak wcześniej, łącznie z załącznikami.
Jeśli transkrybujesz innych ludzi, nawet w pomieszczeniu bez sieci, najpierw ich uprzedź. Poradnik o nagrywaniu i transkrypcji innych osób wyjaśnia, co powiedzieć.
Czy działa offline na iPhonie lub iPadzie?
Nie. Na iPhonie i iPadzie sesje działają w chmurze i potrzebują połączenia z internetem. Modele lokalne są dla Maców z Apple silicon.
Na których Macach działa offline?
Na Macach z Apple silicon i macOS 26 lub nowszym, z modelami Whisper Large v3 Turbo i Qwen 3 8B pobranymi raz w Ustawieniach.
Czy offline zużywa kredyty?
Nie. Sesje lokalne nie zużywają kredytów i nie korzystają z chmury. Do korzystania z aplikacji nadal potrzebna jest subskrypcja.
Czy w sesji lokalnej mogę dołączać obrazy?
Nie. Załączniki nie są dostępne z lokalnym modelem odpowiedzi, więc pytania o obraz wymagają sesji w chmurze i połączenia.
