Offline MI-asszisztens Macen, helyi modellekkel

Mit csinál egy helyi munkamenet hálózat nélkül

Egy helyi munkamenet az asszisztens mindkét felét a Macen futtatja. A Whisper átirattá alakítja, amit a mikrofon hall, a Qwen pedig megírja a válaszokat, vagy bekapcsolt fordításnál a fordítást. Felhős modell nem vesz részt benne, így maga a munka nem függ a hálózattól: sem az akadozó szállodai wifitől, sem a két állomás között haladó vonattól, sem egy olyan teremtől, ahol az eszközöknek egyáltalán nincs hálózatuk.

Ez az útmutató a kapcsolat nélküli munkáról szól. Ha inkább az adatvédelem miatt választanád a helyi módot — egy beszélgetés, amelynek hangja nem hagyhatja el a termet —, azzal az oldallal a Macen végzett privát átírásról szóló útmutató foglalkozik.

Egy helyi munkamenetben:

• Átírhatsz: élő átirat arról, amit a mikrofon hall.
• Válaszokat kaphatsz: az asszisztens válaszai, szövegként.
• Fordíthatsz: egyszerre egy irányba, a Forrásnyelvről a Célnyelvre, szövegként.
• Megőrizheted: a munkamenet a Macen tárolódik, mint bármelyik másik.

Mi nem működik offline

A helyi válaszmodellel nem érhetők el a mellékletek, így egy fotóról vagy képről szóló kérdésnek meg kell várnia, amíg újra online vagy, egy felhős munkamenetben.

Mindez iPhone-on és iPaden nem létezik. Ott a munkamenetek a felhőben futnak, és internetkapcsolat kell hozzájuk; nincs offline mód, amelyre vissza lehetne esni. Ha térerő nélküli helyen telefonon lenne szükséged segítségre, indulás előtt számolj ezzel.

A helyi modellekhez Apple siliconos Mac és macOS 26 vagy újabb kell. Ez ugyanaz a követelmény, mint magáé a Mac appé.

Indulás előtt: töltsd le a modelleket, amíg online vagy

A modellek nem részei az app letöltésének. Egyszer töltöd le őket a Hugging Face-ről, az app Beállításaiban, és a Macen maradnak. Együtt több gigabájtot foglalnak, ezért otthon vagy az irodában, jó kapcsolaton csináld, ne a reptéri wifin húsz perccel beszállás előtt.

1. Nyisd meg az app Beállításait a Macen, és töltsd le a Whisper Large v3 Turbót az átíráshoz, valamint a Qwen 3 8B-t a válaszokhoz.
2. Hagyd a Macet ébren és csatlakoztatva, amíg mindkét letöltés be nem fejeződik.
3. Indítás előtt válaszd ki a munkamenethez a helyi modelleket — a Whispert a hallgatáshoz, a Qwent a válaszokhoz.
4. Kattints a Munkamenet indítása gombra, mondj néhány mondatot, tegyél fel egy kérdést, és ellenőrizd, hogy megjelenik-e az átirat és egy válasz.
5. Ha fordításra is szükséged lesz, kattints a Fordítás gombra, állítsd be a Forrásnyelvet és a Célnyelvet a várható irányra, és ellenőrizz egy mondatot.
6. Kattints a Befejezés gombra. Most már tudod, hogy a modellek működnek; a következő lépés az, hogy megtudd, kapcsolat nélkül is működnek-e.

Próbáld ki egyszer kikapcsolt wifivel

Hogy az app kapcsolat nélkül is megnyílik-e, és elindít-e egy munkamenetet, azt magadnak kell ellenőrizned, a saját Maceden, mielőtt számítana. Öt perc az egész, és sokkal jobb az íróasztalodnál kideríteni, mint a repülőn az üléseden.

1. Kapcsold ki a wifit, és húzd ki a hálózati kábelt, ha van.
2. Lépj ki teljesen az appból, és nyisd meg újra, hogy semmi se maradjon meg az online munkamenetből.
3. Indíts helyi munkamenetet, beszélj egy percig, és tegyél fel egy kérdést.
4. Ellenőrizd, hogy az átirat és a válasz is megjelenik-e, és ha szükséged van rá, hogy egy mondatot lefordít-e.
5. Fejezd be a munkamenetet. Ha közben bármi kapcsolatot kért, most már tudod, és még van időd számolni vele.

Jó felhasználások repülőn, vonaton, zárt teremben

Egy laptopon futó modell azzal dolgozik a legjobban, amit adsz neki. Offline ez az, ami van: a saját szavaid, és ha valakivel beszélgetsz, az övéi.

• Gondolj végig hangosan egy tervet, egy ajánlatot vagy egy nehéz e-mailt, és kérd vissza strukturált vázlatként.
• Gyakorold egy érkezés után megtartandó prezentáció nyitányát, és kérdezd meg, mire lenne kíváncsi a közönség.
• Fordíts le néhány mondatot szövegként a túloldalon rád váró beszélgetéshez, egyszerre egy irányba.
• Vezess élő átiratot egy beszélgetésről egy olyan teremben, ahol az eszközöknek nincs hálózatuk, miután mindenkinek szóltál.
• Gondolj végig lépésről lépésre egy problémát, amikor nincs mit utánanézni.

Miben jó egy laptopméretű modell, és miben nem

A Qwen 3 8B elég kicsi ahhoz, hogy laptopon fusson, és éppen ez a lényeg, de érezhetően kevésbé képes, mint egy nagy felhős modell. Jó az átfogalmazásban, a strukturálásban, abban, hogy kérésre kiemelje, mit döntöttetek el, a hétköznapi fogalmak elmagyarázásában és egyszerű mondatok fordításában. Gyengébb a szakmai tudásban és a hosszú érvelési láncokban.

Offline ráadásul semmivel sem tudja ellenőrizni magát. A válaszaiban szereplő neveket, számokat, dátumokat és idézeteket kezeld úgy, mint amelyeket ellenőrizni kell, amint újra online vagy, és ne hagyatkozz rá orvosi, jogi vagy pénzügyi döntéseknél.

A modellek futtatása valódi memóriát és számítási teljesítményt igényel, így a Mac jobban megdolgozik, mint a szokásos feladatoknál, és az akkumulátor gyorsabban merül. Amikor csak lehet, dugd be a töltőt, főleg egy hosszú munkamenetnél.

Kreditek, adatvédelem, és mi marad a Macen

A helyi munkamenetek nem használnak sem kreditet, sem felhőt. Az apphoz ettől még előfizetés kell; a helyi munkamenetek egyszerűen nem a havi kreditekből fogyasztanak, így egy hosszú repülőút alatt az asszisztenssel folytatott beszélgetés semmibe sem kerül külön.

A munkamenetek a Macen tárolódnak, felhőszinkronizálás nélkül, így ami offline történt, később nem jelenik meg az iPhone-odon. Újra online a felhős munkamenetek úgy működnek, mint korábban, mellékletekkel együtt.

Ha másokat írsz át, akár egy hálózat nélküli teremben is, előbb szólj nekik. A mások felvételéről és átírásáról szóló útmutató elmondja, mit mondj.