Nhận dạng giọng nói thời gian thực (streaming) chép lời ngay trong lúc người ta nói, chỉ chậm hơn lời nói một khoảng ngắn, nên phải đoán khi chưa nghe hết câu; nhận dạng theo tệp (batch) chờ có cả đoạn ghi âm rồi mới xử lý, được nhìn cả câu trước và sau nên thường chính xác hơn. Tổng đài tự động, phụ đề trực tiếp, trợ lý giọng nói cần thời gian thực; gỡ băng phỏng vấn, chép biên bản sau họp, làm phụ đề video đã quay thì nên chạy theo tệp.
Với tiếng Việt, khác biệt giữa hai chế độ có khi rõ hơn với tiếng Anh, vì dấu thanh và ranh giới từ thường được quyết định nhờ ngữ cảnh phía sau. Bài này giải thích vì sao chế độ thời gian thực phải đánh đổi, hiện tượng chữ “nhảy” trên màn hình, các ứng dụng điển hình và cách chọn chế độ cho từng việc. Quy trình làm phụ đề ở góc nghề dịch thuật thuộc về trang AI Dịch Thuật; ở đây chỉ bàn phần công nghệ nhận dạng.
Vì sao chép ngay thì khó hơn chép sau
Hãy nghĩ tới cách một người nghe và ghi chép. Khi nghe đến “anh ấy bảo là ca…”, người ghi chưa biết là “ca”, “cá” hay “cà”, nhưng nghe tiếp “…cà phê sáng nay hết rồi” thì mọi thứ rõ. Người ghi tốc ký giỏi thường chờ một nhịp rồi mới viết. Máy chép theo tệp có lợi thế đó trọn vẹn: nó được thấy cả câu, cả đoạn, thậm chí cả bản ghi trước khi quyết định từng chữ.
Máy chép thời gian thực thì bị giới hạn ở những gì đã nghe cộng với một chút “nhìn trước” rất ngắn. Mô hình được thiết kế để chỉ dùng ngữ cảnh bên trái, hoặc chờ thêm một khoảng nhỏ phía phải trước khi chốt. Chờ càng lâu thì càng chính xác nhưng càng trễ; chờ ít thì nhanh nhưng dễ sai. Đây là đánh đổi căn bản giữa độ trễ và độ chính xác, không có công nghệ nào xoá bỏ được, chỉ có thể dịch chuyển điểm cân bằng.
Tiếng Việt chịu đánh đổi này ở ba chỗ. Thứ nhất, dấu thanh mơ hồ như hỏi và ngã thường cần ngữ cảnh sau. Thứ hai, từ ghép nhiều âm tiết: nghe “học” chưa biết có thành “học sinh”, “học viên” hay “học hành”. Thứ ba, chuẩn hoá số: “hai mươi” có thể là đầu của “hai mươi lăm nghìn” hay “hai mươi phần trăm”, máy chưa thể viết thành chữ số ngay được.
Chữ “nhảy” trên màn hình và kết quả tạm thời
Kết quả tạm thời. Phần lớn hệ thống thời gian thực trả hai loại kết quả: tạm thời, hiện ngay để người xem thấy máy đang nghe, và chính thức, chốt sau khi máy đủ tự tin. Kết quả tạm thời có thể bị sửa nhiều lần; đó là lý do người xem phụ đề trực tiếp thấy chữ thay đổi liên tục ở cuối dòng.
Độ ổn định quan trọng không kém độ chính xác. Với người đọc phụ đề, chữ nhảy quá nhiều gây mệt và khó theo dõi. Một số hệ thống chấp nhận hiện chậm hơn một chút để chữ đã hiện ít khi phải sửa. Khi đánh giá công cụ cho phụ đề trực tiếp, nên xem cả độ nhảy, không chỉ bản chốt cuối cùng.
Chốt theo câu hay theo khoảng ngừng. Hệ thống thường chốt kết quả khi phát hiện một khoảng ngừng. Người nói liền mạch không ngừng thì dòng chữ tạm thời kéo dài, dễ sai nhiều. Người nói ngừng nghỉ tự nhiên giúp máy chốt sớm và đúng hơn.
Bản chốt cuối vẫn kém bản theo tệp. Ngay cả kết quả chính thức của chế độ thời gian thực thường vẫn kém bản chạy lại theo tệp trên cùng đoạn âm thanh. Vì thế nhiều dịch vụ làm cả hai: hiện phụ đề trực tiếp trong lúc họp, rồi chạy lại theo tệp sau đó để có biên bản chính xác hơn.
Chọn chế độ theo việc
Bảng dưới gợi ý chế độ phù hợp cho các việc hay gặp, kèm điều cần lưu ý.
| Việc | Chế độ phù hợp | Lưu ý |
|---|---|---|
| Tổng đài tự động hỏi đáp khách | Thời gian thực | Độ trễ thấp quan trọng hơn chép đẹp; luôn có lối chuyển sang người |
| Phụ đề trực tiếp cho người nghe kém | Thời gian thực | Ưu tiên chữ ổn định, không nhảy; báo rõ là phụ đề máy |
| Gõ tin nhắn bằng giọng nói | Thời gian thực | Người dùng tự sửa ngay; chính xác tên riêng là chính |
| Biên bản họp | Theo tệp, có thể kèm trực tiếp | Chạy lại theo tệp sau họp để có bản chuẩn |
| Gỡ băng phỏng vấn, nghiên cứu | Theo tệp | Không vội, chọn chế độ chính xác nhất |
| Phụ đề video đã quay | Theo tệp | Cần mốc thời gian chuẩn; soát trước khi đăng |
| Phân tích cuộc gọi tổng đài sau đó | Theo tệp | Chạy hàng loạt vào giờ thấp điểm, chú ý dữ liệu cá nhân |
Nhiều người mặc định chọn thời gian thực vì nghe hiện đại, kể cả cho việc không cần ngay. Nếu không ai cần đọc bản chép trong lúc nói, chế độ theo tệp gần như luôn là lựa chọn tốt hơn: chính xác hơn, thường rẻ tài nguyên hơn, và dễ chạy lại khi có công cụ tốt hơn.
Tổng đài tự động: nhận dạng chỉ là một mắt xích
Trong tổng đài tự động, khách nói, máy chép thành chữ, phần hiểu ý đọc chữ đó để đoán khách muốn gì, rồi trả lời bằng giọng tổng hợp. Mỗi mắt xích có lỗi riêng, và lỗi cộng dồn. Nhận dạng sai một chữ quan trọng như “huỷ” thành “hủy” thì không sao, nhưng “không muốn” thành “muốn” thì phần hiểu ý đi sai hướng hoàn toàn.
Âm thanh tổng đài là âm thanh điện thoại: dải tần hẹp, nén, có khi rớt tiếng, cộng tiếng ồn nơi khách đứng. Khách thường nói ngắn, cụt, hoặc nói tên riêng, số tài khoản, mã đơn hàng, những thứ mà ngữ cảnh không giúp được. Vì vậy hệ thống tổng đài tốt thường hạn chế câu hỏi mở, hỏi xác nhận lại thông tin quan trọng (“có phải anh muốn huỷ đơn hàng không ạ?”) và luôn cho khách lối nói chuyện với nhân viên.
Một điểm hay bị coi nhẹ: khách hàng lớn tuổi, giọng vùng ít gặp trong dữ liệu, hoặc nói lẫn tiếng địa phương sẽ bị máy nghe kém hơn. Nếu tổng đài không có lối thoát dễ dàng, nhóm khách này bị bỏ rơi. Thông báo ghi âm đầu cuộc gọi và chính sách xử lý dữ liệu cuộc gọi cũng cần rõ ràng, vì giọng và nội dung cuộc gọi là dữ liệu cá nhân.
Phụ đề trực tiếp: vì ai và chuẩn nào
Phụ đề trực tiếp có ích cho nhiều người: người nghe kém, người xem ở nơi ồn hoặc cần tắt tiếng, người nghe giọng vùng khác chưa quen, người học tiếng Việt. Với người nghe kém, phụ đề không phải tiện ích mà là phương tiện tiếp cận, nên độ chính xác và độ ổn định quan trọng hơn ở mọi trường hợp khác.
Ở các sự kiện, hội thảo, lễ trao giải, phụ đề máy thời gian thực tiết kiệm chi phí so với người tốc ký, nhưng sai tên đại biểu, tên đơn vị là chuyện dễ xảy ra và gây khó xử. Cách làm hợp lý là khai trước danh sách tên người, tên đơn vị, thuật ngữ của sự kiện vào từ điển riêng, thử trước với giọng của người dẫn chương trình, và có người theo dõi để xử lý khi phụ đề sai nghiêm trọng.
Với video phát trực tiếp trên mạng, nhiều nền tảng có phụ đề tự động. Chất lượng tiếng Việt thay đổi theo nền tảng và theo thời gian. Sau khi buổi phát kết thúc, nếu video được giữ lại, nên thay phụ đề trực tiếp bằng phụ đề chạy theo tệp và đã soát, vì người xem lại không cần ngay mà cần đúng. Việc thay này thường chỉ tốn vài phút chạy máy cộng thời gian soát tên riêng.
Trợ lý giọng nói: biết khi nào người dùng nói xong
Với trợ lý giọng nói và tổng đài hỏi đáp, có một bài toán nhỏ mà quyết định cảm giác “máy có hiểu mình không”: phát hiện điểm kết thúc lượt nói. Máy phải đoán người dùng đã nói xong để bắt đầu trả lời. Đoán sớm quá thì cắt ngang khi người ta mới ngừng để nghĩ; đoán muộn quá thì người dùng phải chờ trong im lặng, tưởng máy hỏng.
Người Việt khi nói với máy hay ngập ngừng giữa câu, nhất là khi đọc số tài khoản, mã đơn hàng, địa chỉ: “số đơn là… hai bốn… à không, hai năm bảy…”. Một hệ thống chỉ dựa vào khoảng ngừng sẽ cắt ở chữ “là”. Hệ thống tốt hơn kết hợp khoảng ngừng với nội dung đã nghe: câu đang dở dang về ngữ pháp, hoặc vừa hỏi số mà mới nghe được hai chữ số, thì chờ thêm.
Với người làm sản phẩm, đây là chỗ đáng thử kỹ với người dùng thật, đặc biệt người lớn tuổi, người nói chậm. Cho phép người dùng nói lại, sửa lại (“à không”) và xác nhận lại thông tin quan trọng trước khi thực hiện là cách bù rẻ và hiệu quả cho mọi sai sót ở khâu này.
Đánh giá một hệ thống thời gian thực
Đánh giá chế độ thời gian thực cần thêm vài tiêu chí so với chế độ theo tệp. Các bước dưới đây dùng được cho người làm sản phẩm hoặc người phụ trách sự kiện.
- Đo độ trễ: từ lúc người nói dứt một câu đến lúc chữ chốt hiện ra là bao lâu. Ghi lại cả trung bình và những lần chậm nhất, vì người dùng nhớ những lần chậm.
- Đo độ chính xác của bản chốt bằng tỷ lệ lỗi từ, so với bản chạy theo tệp trên cùng âm thanh để biết chế độ thời gian thực “mất” bao nhiêu.
- Quan sát độ nhảy: quay màn hình phụ đề, đếm xem chữ đã hiện bị sửa bao nhiêu lần trong một phút.
- Thử trong điều kiện mạng kém nếu hệ thống chạy qua đám mây: độ trễ và lỗi tăng thế nào khi mạng chập chờn.
- Thử với nhiều giọng, đặc biệt giọng của nhóm người dùng chính, và cả người nói nhanh, người nói ngập ngừng.
- Kiểm hành vi khi gặp im lặng dài, tiếng nhạc, tiếng vỗ tay: hệ thống có tự bịa chữ không.
Bước cuối nghe nhỏ nhưng quan trọng với phụ đề trực tiếp: một dòng chữ vô nghĩa hiện lên trong lúc khán phòng vỗ tay có thể gây hiểu lầm, thậm chí phản cảm nếu máy “nghe” ra một từ nhạy cảm.
Câu hỏi thường gặp
Vì sao phụ đề trực tiếp sai mà video xem lại sau thì phụ đề đúng hơn?
Phụ đề xem lại thường đã được chạy lại theo tệp, máy được nghe cả câu trước và sau khi quyết định từng chữ, và có khi đã được người soát. Phụ đề trực tiếp phải đoán khi chưa nghe hết câu, nên sai nhiều hơn, nhất là dấu thanh và từ ghép.
Độ trễ bao nhiêu thì người xem phụ đề trực tiếp chấp nhận được?
Không có con số chung cho mọi tình huống. Người xem thường chấp nhận phụ đề chậm hơn lời nói một chút nếu chữ ổn định và đúng; điều khó chịu nhất là chữ hiện rồi đổi liên tục. Với sự kiện quan trọng, nên thử trước với một nhóm người xem thật để chọn cấu hình.
Trợ lý giọng nói trên điện thoại dùng chế độ nào?
Trợ lý giọng nói dùng chế độ thời gian thực để phản hồi nhanh, thường kết hợp phát hiện khi nào người dùng nói xong để bắt đầu xử lý. Một số thao tác đơn giản được xử lý ngay trên máy, câu hỏi phức tạp có thể được gửi lên máy chủ; kiểm cài đặt hiện hành của thiết bị.
Có nên dùng phụ đề tự động của nền tảng họp cho người nghe kém trong cơ quan không?
Có thể dùng như một phương tiện hỗ trợ, nhưng nên hỏi chính người nghe kém xem chất lượng có đủ theo dõi không, và cho phép họ đề nghị thêm hỗ trợ khác khi cần, như người tốc ký hoặc tài liệu viết trước. Chuyện hỗ trợ người khiếm thính trong đời sống được bàn ở trang AI Đồng Hành.
Chạy theo tệp có tốn thời gian chờ lâu không?
Thường không lâu như người ta nghĩ. Nhiều công cụ chép tệp nhanh hơn thời gian thực nhiều lần, tức một giờ ghi âm có thể xong trong vài phút đến vài chục phút tuỳ máy và dịch vụ. Với việc không gấp, khoảng chờ đó đổi lấy bản chép chính xác hơn là xứng đáng.
Tổng đài có nên ghi lại toàn bộ bản chép lời cuộc gọi không?
Chỉ nên giữ những gì cần cho mục đích đã thông báo với khách, trong thời hạn hợp lý, với quyền truy cập giới hạn. Bản chép cuộc gọi có thể chứa thông tin cá nhân, tài chính, sức khoẻ. Tuân theo quy định bảo vệ dữ liệu cá nhân hiện hành và che thông tin trước khi dùng để phân tích.