Litterointi offline Macilla: paikallisesti Whisperillä

Mikä toimii paikallisesti

Apple silicon -Macilla sovellus voi ladata kaksi mallia ja ajaa niitä koneella: Whisper Large v3 Turbo litterointiin ja Qwen 3 8B vastauksiin. Ladattuina ne toimivat itse Macissa, istunnoissa, joiden ääni ei saa lähteä huoneesta.

Valinta pilvikäsittelyn ja paikallisten mallien välillä tehdään käyttötarkoituksen mukaan. Viikoittainen standup ja keskustelu asianajajan kanssa eivät vaadi samaa kohtelua, eikä sinun tarvitse valita yhtä kaikkeen.

Mikä menee minne kussakin tilassa

Sanaa ”yksityinen” käytetään usein epämääräisesti, joten kannattaa olla tarkka.

• Pilvi-istunto: mikrofonin ääni — ja Macilla valinnaisesti järjestelmän ääni ja kaapattu näyttö — välitetään OpenAI:n Realtime API:lle litteroinnin ja vastausten tuottamiseksi. Liitteet lähetetään kontekstina.
• Paikallinen istunto Macilla: ladatut mallit käsittelevät äänen ja tekstin koneella.
• Molemmissa tapauksissa litteroinnit, vastaukset, istunnot, tehtävät ja muistiinpanot tallennetaan laitteelle ilman pilvisynkronointia.
• Sovelluksen taustajärjestelmä säilyttää tilit, ostot, krediittisaldon ja käyttötiedot. Se ei vastaanota eikä tallenna ääntä, litterointeja, vastauksia tai liitteitä.

Kompromissit rehellisesti

Kannettavaan mahtuva malli on pienempi kuin datakeskuksessa toimiva. Kahdeksan miljardin parametrin mallin vastaukset riittävät moneen — päätösten poimimiseen, termin selittämiseen, jatkoviestin luonnosteluun — mutta laajassa tietämyksessä tai pitkässä päättelyssä ne jäävät selvästi suuresta pilvimallista.

Lataus on useita gigatavuja, ja mallit käyttävät toimiessaan todella muistia ja laskentatehoa. Uudella Apple silicon -Macilla se sujuu; vanhemmalla se on hitaampaa. Siksi tämä on Macin ominaisuus: puhelimessa ei ole siihen varaa.

iPhonella ja iPadilla

Suuret paikalliset mallit ovat vain Macilla. iPhonella ja iPadilla litteroinnin voi silti tehdä Applen puheentunnistus laitteella OpenAI:n mallien sijaan. Vastaukset tulevat silloin edelleen pilvimallilta: sanojesi litterointi tapahtuu puhelimessa, apu ei.

Yksityisyys koskee myös huoneessa olevia

Äänen pitäminen koneella suojaa sen kolmansilta osapuolilta. Se ei muuta sitä, että tallennat muiden sanomisia. Heillä on oikeus tietää, ja monin paikoin laki myös edellyttää sitä — opas muiden äänittämisestä ja litteroinnista kertoo, mitä sanoa.