Mac पर ऑफलाइन AI असिस्टेंट: लोकल मॉडल, बिना इंटरनेट

नेटवर्क के बिना लोकल सेशन क्या करता है

लोकल सेशन असिस्टेंट के दोनों हिस्से Mac पर चलाता है। Whisper माइक्रोफ़ोन की सुनी बात को ट्रांसक्रिप्ट में बदलता है, और Qwen जवाब लिखता है, या अनुवाद चालू होने पर अनुवाद। कोई क्लाउड मॉडल शामिल नहीं, इसलिए काम ख़ुद नेटवर्क पर निर्भर नहीं: न बार-बार कटने वाले होटल के Wi-Fi पर, न स्टेशनों के बीच दौड़ती ट्रेन पर, न ऐसे कमरे में जहाँ डिवाइस को कोई नेटवर्क ही नहीं मिलता।

यह गाइड बिना कनेक्शन के काम करने के बारे में है। अगर लोकल जाने की आपकी वजह प्राइवेसी है — ऐसी बातचीत जिसकी आवाज़ कमरे से बाहर नहीं जानी चाहिए — तो प्राइवेट ट्रांसक्रिप्शन की गाइड वह पहलू बताती है।

लोकल सेशन में आप ये कर सकते हैं:

• ट्रांसक्राइब: माइक्रोफ़ोन जो सुनता है, उसका लाइव ट्रांसक्रिप्ट।
• जवाब: असिस्टेंट के जवाब, टेक्स्ट के रूप में।
• अनुवाद: एक बार में एक दिशा में, “से” वाली भाषा से “को” वाली भाषा में, टेक्स्ट के रूप में।
• सेव: सेशन बाक़ी सेशन की तरह Mac पर सेव होता है।

ऑफलाइन क्या काम नहीं करता

लोकल जवाब मॉडल के साथ अटैचमेंट उपलब्ध नहीं हैं, इसलिए किसी फ़ोटो या तस्वीर के बारे में सवाल तब तक रुकना होगा जब तक आप फिर ऑनलाइन और क्लाउड सेशन में न हों।

iPhone या iPad पर इसमें से कुछ भी नहीं है। वहाँ सेशन क्लाउड में चलते हैं और इंटरनेट चाहिए; सहारे के लिए कोई ऑफलाइन मोड नहीं। अगर आपको बिना नेटवर्क वाली जगह फ़ोन पर मदद चाहिए, तो जाने से पहले उसकी योजना बना लें।

लोकल मॉडल के लिए Apple silicon वाला Mac और macOS 26 या उसके बाद का वर्शन भी चाहिए। Mac ऐप की भी यही शर्त है।

निकलने से पहले: ऑनलाइन रहते हुए मॉडल डाउनलोड करें

मॉडल ऐप डाउनलोड का हिस्सा नहीं हैं। आप उन्हें एक बार, Hugging Face से, ऐप की “सेटिंग्ज़” में डाउनलोड करते हैं, और वे Mac पर रहते हैं। दोनों मिलकर कई गीगाबाइट के हैं, इसलिए यह घर या दफ़्तर में अच्छे कनेक्शन पर करें, बोर्डिंग से बीस मिनट पहले एयरपोर्ट के Wi-Fi पर नहीं।

1. Mac पर ऐप की “सेटिंग्ज़” खोलें और ट्रांसक्रिप्शन के लिए Whisper Large v3 Turbo, और जवाबों के लिए Qwen 3 8B डाउनलोड करें।
2. दोनों डाउनलोड पूरे होने तक Mac को जगा और कनेक्टेड रहने दें।
3. सेशन शुरू करने से पहले उसके लिए लोकल मॉडल चुनें — सुनने के लिए Whisper, जवाब के लिए Qwen।
4. “सत्र प्रारंभ करें” पर क्लिक करें, कुछ वाक्य बोलें और एक सवाल पूछें, और जाँचें कि ट्रांसक्रिप्ट और जवाब दिखते हैं।
5. अगर अनुवाद चाहिए, तो “अनुवाद करें” पर क्लिक करें, जिस दिशा की उम्मीद है उसके लिए “से” और “को” सेट करें, और एक वाक्य जाँच लें।
6. “सत्र समाप्त करें” पर क्लिक करें। अब आप जानते हैं कि मॉडल काम करते हैं; अगला कदम यह जानना है कि वे बिना कनेक्शन के भी काम करते हैं।

एक बार Wi-Fi बंद करके आज़माइए

ऐप बिल्कुल बिना कनेक्शन के खुलता है और सेशन शुरू करता है या नहीं, यह आपको अपने Mac पर ख़ुद जाँचना है, ज़रूरत पड़ने से पहले। इसमें पाँच मिनट लगते हैं, और यह बात हवाई जहाज़ की सीट के बजाय अपनी डेस्क पर पता चलना कहीं बेहतर है।

1. Wi-Fi बंद करें और कोई नेटवर्क केबल लगी हो तो निकाल दें।
2. ऐप से पूरी तरह बाहर निकलें, सिर्फ़ विंडो बंद न करें, और फिर खोलें, ताकि ऑनलाइन सेशन से कुछ साथ न आए।
3. लोकल सेशन शुरू करें, एक मिनट बोलें, और एक सवाल पूछें।
4. जाँचें कि ट्रांसक्रिप्ट और जवाब दोनों दिखते हैं, और ज़रूरत हो तो यह भी कि एक वाक्य का अनुवाद होता है।
5. सेशन समाप्त करें। अगर बीच में किसी भी चीज़ ने कनेक्शन माँगा, तो अब आपको पता है, जब आप अब भी उसके हिसाब से योजना बना सकते हैं।

हवाई जहाज़, ट्रेन या बंद कमरे में अच्छे इस्तेमाल

लैपटॉप पर चलने वाला मॉडल उसी के साथ सबसे अच्छा काम करता है जो आप उसे देते हैं। ऑफलाइन आपके पास यही होता है: आपके अपने शब्द, और अगर आप किसी से बात कर रहे हैं तो उनके भी।

• किसी योजना, प्रस्ताव या मुश्किल ईमेल पर ज़ोर से सोचें, और उसे व्यवस्थित ढाँचे के रूप में वापस माँगें।
• पहुँचते ही देने वाली प्रेज़ेंटेशन की शुरुआत की प्रैक्टिस करें, और पूछें कि श्रोता किन बातों को समझाया जाना चाहेंगे।
• दूसरी तरफ़ इंतज़ार कर रही बातचीत के लिए कुछ वाक्यों का टेक्स्ट के रूप में अनुवाद करें, एक बार में एक दिशा में।
• ऐसे कमरे में जहाँ डिवाइस को नेटवर्क नहीं मिलता, सबको पहले बताकर, बातचीत का लाइव ट्रांसक्रिप्ट रखें।
• जब कुछ खोजने का रास्ता न हो, तब किसी समस्या को कदम-दर-कदम सुलझाएँ।

लैपटॉप के आकार का मॉडल किसमें अच्छा है, और किसमें नहीं

Qwen 3 8B इतना छोटा है कि लैपटॉप पर चल जाए, यही इसकी ख़ासियत है, और यह बड़े क्लाउड मॉडल से साफ़ तौर पर कम सक्षम है। यह बात को दूसरे शब्दों में कहने, ढाँचा बनाने, पूछने पर यह निकालने कि क्या तय हुआ, आम विचार समझाने और सीधे-सादे वाक्यों के अनुवाद में अच्छा है। ख़ास विषयों की जानकारी और लंबे तर्क में यह कमज़ोर है।

ऑफलाइन इसके पास ख़ुद को जाँचने का कोई तरीक़ा भी नहीं। इसके जवाबों में नाम, आँकड़े, तारीख़ें और उद्धरण ऐसी चीज़ें मानिए जिन्हें ऑनलाइन लौटने पर जाँचना है, और मेडिकल, क़ानूनी या वित्तीय फ़ैसलों के लिए इस पर भरोसा न करें।

मॉडल चलाने में असली मेमोरी और प्रोसेसिंग लगती है, इसलिए Mac आम कामों से ज़्यादा मेहनत करता है और बैटरी जल्दी ख़त्म होती है। जब हो सके चार्जर लगाएँ, ख़ासकर लंबे सेशन के लिए।

क्रेडिट, प्राइवेसी और Mac पर क्या रहता है

लोकल सेशन न क्रेडिट इस्तेमाल करते हैं, न क्लाउड। ऐप चलाने के लिए सब्सक्रिप्शन फिर भी चाहिए; लोकल सेशन बस महीने के क्रेडिट में से कुछ नहीं लेते, इसलिए लंबी फ़्लाइट भर असिस्टेंट से बात करने का कोई अतिरिक्त ख़र्च नहीं।

सेशन Mac पर सेव होते हैं, बिना क्लाउड सिंक के, इसलिए जो आप ऑफलाइन करते हैं वह बाद में आपके iPhone पर नहीं दिखता। ऑनलाइन लौटने पर क्लाउड सेशन पहले की तरह चलते हैं, अटैचमेंट समेत।

अगर आप दूसरों को ट्रांसक्राइब करते हैं, बिना नेटवर्क वाले कमरे में भी, तो उन्हें पहले बताइए। दूसरों को रिकॉर्ड और ट्रांसक्राइब करने की गाइड बताती है कि क्या कहना है।