Mac'te internetsiz yazıya dökme: yerel Whisper ve Qwen
Bazı konuşmalar hiçbir yere aktarılmamalıdır: bir doktor randevusu, bir hukuki danışma, bir duyuru öncesi yönetim kurulu toplantısı. Bu konuşmalarda soru bulut modelinin ne kadar iyi olduğu değil, sesin bilgisayardan çıkması gerekip gerekmediğidir. Apple silicon'lu bir Mac'te gerekmez.
Yerel olarak ne çalışır
Apple silicon'lu bir Mac'te uygulama iki modeli indirip bilgisayarda çalıştırabilir: yazıya dökme için Whisper Large v3 Turbo, yanıtlar için Qwen 3 8B. İndirildikten sonra Mac'in kendisinde çalışırlar — sesi odadan çıkmaması gereken oturumlar için.
Bulut işleme ile yerel modeller arasındaki seçim kullanım durumuna göre yapılır. Haftalık bir stand-up ile bir avukatla yapılan görüşme aynı yaklaşımı gerektirmez ve her şey için tek bir seçim yapmak zorunda değilsiniz.
Her modda ne nereye gider
“Gizli” kelimesi çoğu zaman belirsiz kullanılır, bu yüzden kesin olmakta fayda var.
- Bulut oturumu: mikrofon sesi — ve Mac'te isteğe bağlı olarak sistem sesi ve yakalanan ekran — transkripti ve yanıtları üretmek için OpenAI'ın Realtime API'sine aktarılır. Ekler bağlam olarak gönderilir.
- Mac'te yerel oturum: indirilen modeller sesi ve metni bilgisayarda işler.
- Her iki durumda da transkriptler, yanıtlar, oturumlar, görevler ve notlar cihazda saklanır; bulut senkronizasyonu yoktur.
- Uygulamanın arka ucu hesapları, satın alımları, kredi bakiyesini ve kullanım kayıtlarını tutar. Sesi, transkriptleri, yanıtları veya ekleri almaz ve saklamaz.
Ödünleşimler, dürüstçe
Bir dizüstü bilgisayara sığan model, bir veri merkezinde çalışan modelden daha küçüktür. Sekiz milyar parametreli bir modelin yanıtları birçok iş için yeterlidir — kararları çıkarmak, bir terimi açıklamak, takip e-postası taslağı yazmak — ama geniş bilgi ya da uzun akıl yürütme gerektiğinde büyük bir bulut modelinden belirgin biçimde zayıftır.
İndirme birkaç gigabayttır ve modeller çalışırken gerçekten bellek ve işlem gücü kullanır. Yeni bir Apple silicon Mac'te sorun olmaz; eski bir modelde daha yavaştır. Bunun bir Mac özelliği olmasının sebebi de budur: bir telefonun bunun için payı yoktur.
iPhone ve iPad'de
Büyük yerel modeller yalnızca Mac'te vardır. iPhone ve iPad'de yazıya dökme yine de OpenAI'ın modelleri yerine Apple'ın cihaz üzerindeki konuşma tanımasıyla yapılabilir. Bu durumda yanıtlar hâlâ bulut modelinden gelir: sözlerinizin transkripti telefonda oluşur, yardım değil.
Gizlilik odadaki insanlarla da ilgilidir
Sesi bilgisayarda tutmak onu üçüncü taraflardan korur. Başkalarının söylediklerini kaydettiğiniz gerçeğini değiştirmez. O insanların bunu bilmeye hakkı vardır ve birçok yerde yasa da bunu ister — başkalarını kaydetme ve yazıya dökme rehberi ne söyleyeceğinizi anlatır.
Yerel modeller hangi Mac'lerde çalışır?
Apple silicon'lu Mac'lerde. Modeller bir kez indirilir ve bilgisayarda çalışır; daha yeni Mac'ler daha hızlıdır.
Yerel modeller iPhone'da çalışır mı?
Hayır. iPhone ve iPad'de yazıya dökme Apple'ın cihaz üzerindeki konuşma tanımasıyla yapılabilir, ama yerel yanıt modeli yalnızca Mac'te vardır.
Uygulamanın sunucuları transkriptlerimi görür mü?
Hayır. Arka uç hesapları, satın alımları ve kredileri yönetir; transkriptler ve yanıtlar cihazınızda saklanır.
