תמלול אופליין ב-Mac: Whisper ו-Qwen מקומית

מה רץ מקומית

ב-Mac עם Apple silicon האפליקציה יכולה להוריד שני מודלים ולהריץ אותם על המחשב: Whisper Large v3 Turbo לתמלול ו-Qwen 3 8B לתשובות. אחרי ההורדה הם רצים על ה-Mac עצמו, לסשנים שהשמע שלהם לא אמור לצאת מהחדר.

הבחירה בין עיבוד בענן למודלים מקומיים נעשית לפי השימוש. סטנדאפ שבועי ופגישה עם עורכת דין לא דורשים את אותו טיפול, ואין צורך לבחור אחד לכל דבר.

מה הולך לאן בכל מצב

במילה “פרטי” משתמשים לעיתים קרובות בצורה מעורפלת, ולכן כדאי לדייק.

• סשן בענן: השמע מהמיקרופון — וב-Mac, אם תבחרו, גם שמע המערכת והמסך שנלכד — מוזרם ל-Realtime API של OpenAI כדי להפיק את התמלול והתשובות. קבצים מצורפים נשלחים כהקשר.
• סשן מקומי ב-Mac: המודלים שהורדו מעבדים את השמע והטקסט על המחשב.
• בשני המקרים, תמלולים, תשובות, סשנים, משימות והערות נשמרים במכשיר, בלי סנכרון לענן.
• השרת של האפליקציה שומר חשבונות, רכישות, יתרת קרדיטים ורישומי שימוש. הוא לא מקבל ולא שומר שמע, תמלולים, תשובות או קבצים מצורפים.

הפשרות, בכנות

מודל שנכנס למחשב נייד קטן יותר ממודל שרץ במרכז נתונים. התשובות של מודל עם שמונה מיליארד פרמטרים מספיקות להרבה — לחלץ החלטות, להסביר מונח, לנסח הודעת המשך — אבל בידע רחב או בהסקה ארוכה הן חלשות בבירור ממודל ענן גדול.

ההורדה שוקלת כמה ג'יגה-בייטים, והמודלים באמת צורכים זיכרון וכוח עיבוד כשהם רצים. ב-Mac חדש עם Apple silicon זה בסדר; בדגם ישן יותר זה איטי יותר. גם בגלל זה זו תכונה של Mac: לטלפון אין את המרווח הזה.

ב-iPhone וב-iPad

המודלים המקומיים הגדולים קיימים רק ב-Mac. ב-iPhone וב-iPad התמלול עדיין יכול להיעשות בידי זיהוי הדיבור של Apple במכשיר במקום המודלים של OpenAI. התשובות עדיין מגיעות אז ממודל הענן: התמלול של המילים שלכם נעשה בטלפון, העזרה לא.

פרטיות נוגעת גם לאנשים בחדר

השארת השמע על המחשב מגנה עליו מפני צדדים שלישיים. היא לא משנה את העובדה שאתם קולטים את מה שאחרים אומרים. יש להם זכות לדעת, ובמקומות רבים גם החוק דורש זאת — המדריך על הקלטה ותמלול של אנשים אחרים מסביר מה לומר.