Chuyển giọng nói thành văn bản offline, riêng tư trên Mac

Những gì chạy cục bộ

Trên Mac dùng Apple silicon, ứng dụng có thể tải hai mô hình và chạy ngay trên máy: Whisper Large v3 Turbo để ghi lời và Qwen 3 8B để trả lời. Sau khi tải về, chúng chạy ngay trên chiếc Mac, cho những phiên mà âm thanh không nên ra khỏi phòng.

Chọn xử lý đám mây hay mô hình cục bộ là quyết định theo từng trường hợp. Buổi họp đứng hằng tuần và buổi tư vấn với luật sư không cần cách xử lý giống nhau, và bạn cũng không phải chọn một cho tất cả.

Cái gì đi đâu, theo từng chế độ

Chữ “riêng tư” thường được dùng mơ hồ, nên cần nói cho chính xác.

• Phiên đám mây: âm thanh từ micro — và trên Mac, tùy chọn thêm âm thanh hệ thống cùng màn hình được chụp — được truyền tới Realtime API của OpenAI để tạo bản ghi và câu trả lời. Tệp đính kèm được gửi làm ngữ cảnh.
• Phiên cục bộ trên Mac: các mô hình đã tải xử lý âm thanh và văn bản ngay trên máy.
• Trong cả hai trường hợp, bản ghi, câu trả lời, phiên, công việc và ghi chú được lưu trên thiết bị, không đồng bộ đám mây.
• Hệ thống phụ trợ của ứng dụng lưu tài khoản, giao dịch mua, số dư tín dụng và nhật ký sử dụng. Nó không nhận cũng không lưu âm thanh, bản ghi, câu trả lời hay tệp đính kèm.

Những đánh đổi, nói thật

Mô hình vừa với một chiếc laptop thì nhỏ hơn mô hình chạy trong trung tâm dữ liệu. Câu trả lời của mô hình tám tỷ tham số đủ cho nhiều việc — rút ra quyết định, giải thích thuật ngữ, soạn thư theo dõi — nhưng với kiến thức rộng hoặc suy luận dài thì rõ ràng kém hơn một mô hình đám mây lớn.

Dung lượng tải về lên tới vài gigabyte, và khi chạy, các mô hình thực sự dùng bộ nhớ và sức xử lý. Trên Mac Apple silicon đời mới thì ổn; trên máy cũ hơn sẽ chậm hơn. Đó cũng là lý do đây là tính năng của Mac: điện thoại không có dư địa như vậy.

Trên iPhone và iPad

Các mô hình cục bộ lớn chỉ có trên Mac. Trên iPhone và iPad, việc ghi lời vẫn có thể do tính năng nhận dạng giọng nói của Apple trên thiết bị đảm nhận thay cho mô hình của OpenAI. Khi đó câu trả lời vẫn đến từ mô hình đám mây: bản ghi lời bạn nói được tạo trên điện thoại, còn sự trợ giúp thì không.

Riêng tư cũng là chuyện của người trong phòng

Giữ âm thanh trên máy bảo vệ nó khỏi bên thứ ba. Điều đó không thay đổi việc bạn đang ghi lại lời người khác nói. Họ có quyền được biết, và ở nhiều nơi luật pháp cũng yêu cầu như vậy — hướng dẫn về việc ghi âm và ghi lời người khác giải thích nên nói gì.