Nhân bản giọng nói chỉ có thể làm đúng khi chính chủ giọng đồng ý, đồng ý một cách cụ thể (dùng vào việc gì, ai dùng, trong bao lâu), có thể kiểm chứng (bên làm xác minh được người đồng ý đúng là chủ giọng) và có thể rút lại; kèm theo đó, giọng tạo ra nên được gắn dấu hiệu nhận biết là giọng tổng hợp. Công nghệ hiện nay có thể tạo giọng giống một người chỉ từ một đoạn ghi âm ngắn, nên rào chắn chủ yếu không còn nằm ở kỹ thuật mà ở quy trình.
Bài này không hướng dẫn cách nhân bản giọng, và tuyệt đối không bàn cách giả giọng người khác. Nó dành cho người làm sản phẩm, người làm nội dung, đơn vị muốn dùng giọng của nhân viên, phát thanh viên hay người thân với sự đồng ý của họ: cần quy trình gì, đặt giới hạn gì, và các công cụ nhận biết giọng tổng hợp làm được đến đâu. Phần cảnh báo lừa đảo bằng giọng giả dành cho người dùng phổ thông có ở trang AI Bảo Mật.
Nhân bản giọng khác dựng giọng thế nào
Dựng một giọng đọc theo cách truyền thống là ghi âm nhiều giờ của một người đọc theo kịch bản rồi huấn luyện mô hình, như bài về dữ liệu ghi âm trên trang này đã mô tả. Người đọc biết rõ mình đang làm gì vì cả quá trình kéo dài, có hợp đồng, có phòng thu. Nhân bản giọng theo nghĩa hẹp ngày nay thì khác: các mô hình được huấn luyện trước trên rất nhiều giọng có thể bắt chước một giọng mới chỉ từ một mẫu ngắn, có khi vài giây đến vài phút, mà không cần huấn luyện lại.
Chính sự dễ dàng đó thay đổi bài toán đạo đức. Khi dựng giọng cần người đọc ngồi phòng thu cả tuần, việc lấy giọng của ai đó mà họ không biết gần như không thể. Khi chỉ cần một đoạn video người đó nói trên mạng, giọng của bất kỳ ai cũng có thể bị dùng. Giới nghiên cứu và nhiều công ty công bố mô hình nhân bản giọng đã nhận thức điều này; một số chọn không phát hành mô hình mạnh nhất ra công chúng, số khác yêu cầu người dùng xác minh trước khi nhân bản.
Với tiếng Việt, chất lượng nhân bản giọng phụ thuộc vào việc mô hình gốc đã học đủ tiếng Việt chưa. Một mô hình học chủ yếu tiếng Anh có thể bắt chước chất giọng nhưng đọc thanh điệu sai. Dù vậy, chất lượng đang cải thiện, và không nên coi tiếng Việt là lá chắn tự nhiên trước giọng giả.
Những trường hợp dùng chính đáng và ranh giới của từng trường hợp
Nhân bản giọng có những ứng dụng chính đáng, và mỗi ứng dụng có một ranh giới riêng cần giữ. Bảng dưới đây không đầy đủ, chỉ để thấy rằng câu hỏi đúng không phải là "có được nhân bản không" mà là "trong khuôn khổ nào".
| Trường hợp | Giá trị | Ranh giới cần giữ |
|---|---|---|
| Người sắp mất giọng vì bệnh | ghi lại giọng khi còn khoẻ để sau này thiết bị hỗ trợ giao tiếp nói bằng giọng của chính họ | mẫu giọng và mô hình thuộc quyền kiểm soát của người bệnh; không dùng vào việc khác |
| Tác giả đọc sách của mình | tác giả không có thời gian đọc cả cuốn vẫn có sách nói bằng giọng mình | tác giả duyệt bản cuối; ghi rõ giọng là tổng hợp |
| Phát thanh viên, người dẫn | cập nhật thông tin nhanh, đọc nhiều phiên bản | phạm vi nội dung và thời hạn rõ; chủ giọng biết mọi kênh phát hành |
| Lồng tiếng sang ngôn ngữ khác | giữ chất giọng gốc khi dịch video | đồng ý cho từng ngôn ngữ, từng tác phẩm; không dùng giọng để nói nội dung ngoài bản dịch |
| Nghiên cứu | phát triển kỹ thuật, làm dữ liệu cho bộ phát hiện giọng giả | dữ liệu chỉ dùng trong nghiên cứu, không công bố mô hình giọng của người cụ thể |
Trường hợp người sắp mất giọng là ví dụ cho thấy nhân bản giọng có thể mang lại giá trị nhân văn rõ ràng, khi quyền kiểm soát nằm trọn trong tay chủ giọng. Ngược lại, mọi trường hợp mà người dùng giọng không phải chủ giọng và chủ giọng không biết đều nằm ngoài ranh giới, bất kể mục đích được mô tả là vô hại hay hài hước.
Đồng ý thế nào mới gọi là đồng ý
Cụ thể. Đồng ý "cho phép dùng giọng" quá chung. Đồng ý đúng nghĩa nêu rõ mục đích (đọc bản tin nội bộ, giọng tổng đài, sách nói của chính tác giả), loại nội dung được phép và không được phép (ví dụ không quảng cáo, không chính trị, không nội dung mà chủ giọng không duyệt), kênh phát hành và thời hạn.
Tự nguyện và có hiểu biết. Chủ giọng cần hiểu một giọng nhân bản đọc được bất cứ câu nào, kể cả câu họ chưa từng nói. Trong quan hệ lao động, nhân viên có thể ngại từ chối sếp; đồng ý có giá trị khi việc từ chối không gây hậu quả bất lợi cho họ.
Kiểm chứng được. Bên làm nhân bản phải chắc người đồng ý đúng là chủ giọng. Một số dịch vụ yêu cầu chủ giọng tự đọc một câu xác minh ngẫu nhiên do hệ thống đưa ra, để chứng minh người tải mẫu lên chính là người có giọng, không phải ai đó cắt từ video.
Rút lại được. Chủ giọng cần có cách dừng việc sử dụng: mô hình hoặc hồ sơ giọng bị xoá, nội dung mới không được tạo thêm. Nội dung đã phát hành trước đó xử lý ra sao nên được thoả thuận từ đầu.
Có ghi nhận. Đồng ý nên ở dạng văn bản lưu được, ghi ngày, phạm vi, và người đại diện mỗi bên. Với người đã mất hay người không còn tự quyết được, vấn đề phức tạp hơn nhiều và cần ý kiến của người có quyền theo pháp luật cùng tư vấn pháp lý.
Một quy trình nhân bản giọng có trách nhiệm cho tổ chức
Các bước sau mô tả một quy trình khung cho đơn vị muốn dùng giọng nhân bản của nhân viên, phát thanh viên hay đối tác. Chi tiết pháp lý cần được người làm pháp chế hoặc luật sư soát theo quy định hiện hành.
- Xác định nhu cầu và lý do cần giọng của một người cụ thể, thay vì dùng một giọng đọc thương mại có sẵn. Nếu không có lý do rõ ràng, giọng có sẵn thường là lựa chọn ít rủi ro hơn.
- Giải thích cho chủ giọng bằng ngôn ngữ đời thường: giọng nhân bản làm được gì, sẽ dùng ở đâu, ai kiểm soát, rủi ro nào có thể xảy ra (bị lộ, bị dùng sai). Cho họ thời gian suy nghĩ và quyền từ chối.
- Lập văn bản đồng ý ghi rõ phạm vi, thời hạn, thù lao nếu có, cách rút lại, và cam kết của tổ chức về lưu trữ, bảo mật mẫu giọng.
- Xác minh chủ giọng khi tạo hồ sơ giọng, ví dụ bằng câu đọc xác minh trực tiếp, và lưu bằng chứng.
- Giới hạn quyền truy cập: chỉ một số người được tạo nội dung bằng giọng đó; mọi lần tạo được ghi nhật ký.
- Thiết lập quy trình duyệt nội dung: chủ giọng hoặc người được uỷ quyền duyệt trước những loại nội dung nhạy cảm.
- Gắn nhãn công khai nội dung dùng giọng tổng hợp và, nếu công cụ hỗ trợ, gắn dấu nước âm thanh.
- Khi hết thời hạn hoặc chủ giọng rút lại, xoá hồ sơ giọng, mẫu ghi âm và xác nhận bằng văn bản với chủ giọng.
Mẫu giọng là dữ liệu cá nhân và có thể được dùng để giả mạo chính người đó, nên phải được lưu như dữ liệu nhạy cảm: mã hoá, hạn chế truy cập, không gửi qua kênh chat thông thường. Khi người lao động nghỉ việc, đây là một mục cần có trong danh sách bàn giao.
Dấu nước âm thanh và nhãn nội dung: làm được gì, không làm được gì
Dấu nước âm thanh là tín hiệu được giấu vào bản ghi, tai người khó nghe thấy, nhưng một bộ phát hiện tương ứng đọc ra được, để chứng minh bản ghi do một hệ thống tổng hợp tạo. Một số nhà cung cấp lớn đã gắn dấu nước vào giọng tổng hợp của họ, và có những sáng kiến chuẩn chung về thông tin nguồn gốc nội dung như C2PA, áp dụng cho cả ảnh, video lẫn âm thanh, dù mức hỗ trợ thực tế ở các nền tảng còn không đồng đều.
Dấu nước có giới hạn rõ ràng. Nó chỉ có trong nội dung do những hệ thống chịu gắn tạo ra; kẻ xấu dùng mô hình mã nguồn mở không gắn dấu nước thì không có gì để phát hiện. Dấu nước có thể yếu đi hoặc mất khi âm thanh bị nén mạnh, ghi lại qua loa, cắt ghép, đổi tốc độ, tuỳ độ bền của kỹ thuật. Và mỗi hãng một kiểu dấu nước, chưa có bộ đọc chung cho tất cả.
Vì vậy dấu nước nên được coi là một lớp bằng chứng cho nội dung hợp pháp, giúp tổ chức chứng minh "đây là giọng tổng hợp do tổ chức này tạo, có đồng ý của chủ giọng", hơn là công cụ bắt giọng giả. Nhãn công khai, chẳng hạn một câu ở đầu bản ghi hay ghi chú dưới video cho biết giọng được tạo bằng AI, đơn giản hơn nhiều mà hiệu quả với người nghe ngay lập tức.
Bộ phát hiện giọng giả: tình trạng nghiên cứu
Phát hiện giọng tổng hợp mà không có dấu nước là một hướng nghiên cứu riêng, thường gọi là chống giả mạo giọng nói. Chuỗi thử thách ASVspoof, tổ chức từ năm 2015, là nơi các nhóm nghiên cứu so sánh phương pháp phát hiện trên các bộ dữ liệu chung. Các bộ phát hiện đạt kết quả tốt trên loại giọng giả chúng đã thấy khi huấn luyện, nhưng thường kém đi rõ rệt khi gặp kỹ thuật tổng hợp mới, âm thanh bị nén qua điện thoại, hay ngôn ngữ khác ngôn ngữ huấn luyện.
Với tiếng Việt, dữ liệu huấn luyện bộ phát hiện còn ít hơn tiếng Anh nhiều, nên không nên kỳ vọng một công cụ phát hiện trực tuyến nào đó cho kết quả đáng tin với một đoạn ghi âm tiếng Việt qua điện thoại. Một kết quả "có vẻ thật" không chứng minh giọng là thật, và ngược lại. Trong tình huống thực tế như nghi ngờ cuộc gọi giả giọng người thân, cách xác minh hiệu quả nhất vẫn là gọi lại qua số đã biết hoặc hỏi một điều chỉ người thật biết, như trang AI Bảo Mật hướng dẫn.
Câu hỏi thường gặp
Nhân bản giọng của chính mình có cần lo gì không?
Có. Mẫu giọng và hồ sơ giọng của bạn có thể bị lộ và dùng để giả mạo bạn. Hãy đọc điều khoản dịch vụ về lưu trữ, quyền sử dụng mẫu giọng, cách xoá; dặn người thân cách xác minh khi nhận cuộc gọi nghe như giọng bạn nhưng có yêu cầu bất thường.
Dùng giọng của người đã mất để tạo nội dung có được không?
Đây là vùng nhạy cảm cả về đạo đức lẫn pháp lý. Cần ý kiến của những người có quyền theo pháp luật, cân nhắc mong muốn của người đã mất khi còn sống, và tư vấn pháp lý theo quy định hiện hành. Nên minh bạch với người nghe rằng giọng là tổng hợp.
Dấu nước âm thanh có giúp phát hiện mọi giọng giả không?
Không. Dấu nước chỉ có trong nội dung từ các hệ thống chịu gắn nó; giọng giả tạo bằng công cụ không gắn dấu nước sẽ không có gì để phát hiện. Dấu nước cũng có thể yếu đi khi âm thanh bị nén hay ghi lại qua loa. Nó hữu ích để chứng minh nguồn gốc nội dung hợp pháp.
Công cụ phát hiện giọng giả trên mạng có đáng tin không?
Nên coi là tham khảo. Các bộ phát hiện thường kém đi với kỹ thuật tổng hợp mới, âm thanh qua điện thoại và ngôn ngữ ít dữ liệu như tiếng Việt. Một kết quả không chứng minh được giọng thật hay giả; với tình huống tiền bạc hay danh dự, hãy xác minh qua kênh khác.
Doanh nghiệp có được yêu cầu nhân viên cho nhân bản giọng không?
Đồng ý trong quan hệ lao động phải thật sự tự nguyện, việc từ chối không được gây bất lợi. Phạm vi, thời hạn, thù lao, cách xoá khi nghỉ việc nên được thoả thuận riêng bằng văn bản. Chi tiết pháp lý cần tham khảo quy định hiện hành về lao động và dữ liệu cá nhân.
Giọng nói có được pháp luật Việt Nam bảo vệ như hình ảnh không?
Bộ luật Dân sự có quy định riêng về quyền đối với hình ảnh; với giọng nói, việc bảo vệ hiện chủ yếu đến từ quy định về dữ liệu cá nhân và các quyền liên quan khi giọng gắn với một cuộc biểu diễn hay bản ghi. Cách áp dụng cụ thể nên tra văn bản hiện hành và hỏi luật sư.