Các lớp an toàn của hệ thống AI, gồm hành vi từ chối được huấn luyện và bộ lọc nội dung chạy kèm, thường hoạt động kém ổn định hơn với tiếng Việt so với tiếng Anh, chủ yếu vì dữ liệu an toàn tiếng Việt ít hơn và tiếng Việt trên mạng có nhiều biến thể khó: viết không dấu, tiếng lóng, viết tắt kiểu teencode, nói lái, chơi chữ đồng âm. Hệ quả có hai chiều: nội dung độc hại lọt qua, và nội dung vô hại bị chặn nhầm.
Bài này dành cho người làm sản phẩm có AI xử lý tiếng Việt, người kiểm duyệt nội dung, giáo viên và phụ huynh quan tâm tới việc trẻ dùng chatbot. Bài giải thích các điểm yếu đặc thù của tiếng Việt, cách hệ thống phát hiện nội dung độc hại hoạt động, các lỗi hay gặp và những việc cụ thể nên làm. Bài không đưa ra cách lách bộ lọc.
Vì sao an toàn bằng tiếng Việt yếu hơn tiếng Anh
Các mô hình lớn hiện nay được huấn luyện căn chỉnh chủ yếu bằng tiếng Anh: dữ liệu so sánh câu trả lời tốt xấu, ví dụ về yêu cầu nguy hiểm và cách từ chối, bộ câu thử của đội đỏ. Khả năng đa ngôn ngữ giúp một phần hành vi an toàn "chuyển" sang tiếng Việt, nhưng sự chuyển giao này không trọn vẹn. Một số nghiên cứu từ năm 2023 cho thấy dịch yêu cầu có hại sang ngôn ngữ ít dữ liệu làm tăng tỉ lệ mô hình làm theo; các nhà phát triển sau đó đã bổ sung dữ liệu đa ngôn ngữ, nhưng khoảng cách chưa chắc đã khép lại với mọi ngôn ngữ.
Bộ lọc nội dung chạy riêng, như bộ phân loại phát hiện ngôn từ thù ghét hay nội dung tự hại, cũng chịu cùng vấn đề. Bộ phân loại được huấn luyện trên dữ liệu gán nhãn; dữ liệu gán nhãn tiếng Việt về các chủ đề nhạy cảm vốn ít, lại phải do người hiểu ngữ cảnh văn hoá gán mới chính xác. Một từ có thể là chửi thề ở vùng này nhưng là cách nói thân mật ở vùng khác.
Thêm vào đó, cách người Việt viết trên mạng thay đổi rất nhanh. Tiếng lóng mới xuất hiện theo mùa, theo trào lưu mạng xã hội; bộ lọc học từ dữ liệu cũ một hai năm trước đã có thể bỏ sót. Không ai gán nhãn trước được cho những từ chưa ra đời, nên an toàn tiếng Việt luôn là việc cập nhật liên tục chứ không làm một lần là xong.
Những đặc thù tiếng Việt gây khó cho bộ lọc
Bảng dưới liệt kê các hiện tượng ngôn ngữ thường gặp và vì sao chúng làm bộ lọc vấp. Ví dụ được giữ ở mức vô hại để minh hoạ cơ chế.
| Hiện tượng | Ví dụ vô hại | Vì sao gây khó |
|---|---|---|
| Viết không dấu | "ban dang o dau" có thể là "bạn đang ở đâu" hay "bán đang ở đâu" | Một chuỗi không dấu ứng với nhiều câu có dấu; nghĩa xấu và nghĩa tốt có thể trùng mặt chữ |
| Viết tắt, teencode | "ko", "k", "dc", "j" thay cho "không", "được", "gì" | Bộ tách từ và từ điển chuẩn không nhận ra; biến thể sinh ra liên tục |
| Nói lái, chơi chữ | Đảo vần, đảo phụ âm đầu để tạo nghĩa ẩn | Nghĩa nằm ở phép biến đổi, không nằm ở mặt chữ |
| Đồng âm, đa nghĩa | "bác" là người hay là bác bỏ; "chết" trong "vui chết đi được" | Phải hiểu ngữ cảnh mới phân biệt được thù địch với cường điệu |
| Trộn Anh–Việt | Câu nửa tiếng Việt nửa tiếng Anh | Bộ lọc mỗi ngôn ngữ chỉ thấy một nửa câu |
| Biệt danh, ám chỉ | Gọi một nhóm người bằng tên ám chỉ thay vì tên thật | Từ ngữ thù ghét mới nổi chưa có trong dữ liệu gán nhãn |
Điểm chung của các hiện tượng này là nghĩa phụ thuộc nặng vào ngữ cảnh và vào hiểu biết văn hoá. Bộ lọc dựa trên danh sách từ cấm vừa bỏ sót vừa chặn nhầm; bộ lọc dựa trên mô hình tốt hơn nhưng chỉ tốt bằng dữ liệu nó được học.
Phát hiện ngôn từ độc hại tiếng Việt hoạt động thế nào
Cách đơn giản nhất là danh sách từ khoá: gặp từ trong danh sách thì chặn. Cách này rẻ, dễ giải thích nhưng rất dễ sai. Nó chặn nhầm tên địa danh hay tên người trùng mặt chữ với từ tục, và bỏ sót mọi biến thể viết khác đi một ký tự. Phần lớn hệ thống nghiêm túc chỉ dùng danh sách như một lớp phụ.
Cách phổ biến hơn là bộ phân loại học máy: một mô hình được tinh chỉnh trên tập bình luận đã gán nhãn như bình thường, xúc phạm, thù ghét, để dự đoán nhãn cho bình luận mới. Cộng đồng xử lý ngôn ngữ tiếng Việt đã có những bộ dữ liệu và bài toán chia sẻ về phát hiện ngôn từ thù ghét trên mạng xã hội, trong đó có bài toán từng được tổ chức trong chuỗi hội thảo VLSP. Các mô hình ngôn ngữ huấn luyện trước cho tiếng Việt, như PhoBERT, thường được dùng làm nền cho bộ phân loại kiểu này.
Cách mới nhất là dùng chính mô hình ngôn ngữ lớn làm bộ kiểm duyệt: đưa cho mô hình chính sách nội dung bằng lời và nhờ nó phán đoán. Cách này linh hoạt, hiểu ngữ cảnh tốt hơn, chính sách sửa được nhanh, nhưng tốn chi phí hơn, chậm hơn, và vẫn mang theo điểm yếu tiếng Việt của mô hình nền. Thực tế nhiều hệ thống kết hợp: bộ lọc nhanh ở lớp ngoài, mô hình lớn xử lý ca khó, con người xem các ca không chắc chắn.
Các lỗi an toàn hay gặp với tiếng Việt
Người làm sản phẩm và người kiểm duyệt nên chủ động thử những loại lỗi dưới đây với hệ thống của mình, bằng tình huống vô hại hoặc dữ liệu đã được phép dùng.
- Chặn nhầm địa danh, tên người: một số địa danh, tên riêng tiếng Việt khi bỏ dấu trùng với từ nhạy cảm; người dùng bị chặn vô lý sẽ mất lòng tin.
- Bỏ sót xúc phạm vùng miền: các từ miệt thị theo vùng miền, dân tộc thường không có trong dữ liệu gốc tiếng Anh.
- Xử lý kém chủ đề tự hại bằng tiếng Việt: người dùng trong lúc khủng hoảng thường viết không dấu, ngắn, nói giảm nói tránh; hệ thống phải nhận ra và đưa thông tin hỗ trợ phù hợp với Việt Nam thay vì số đường dây nước ngoài.
- Lời khuyên y tế, pháp luật không hợp bối cảnh: câu trả lời tiếng Việt nhưng dựa trên quy định nước ngoài, tên thuốc không lưu hành, thủ tục không áp dụng ở Việt Nam.
- Hành vi khác nhau giữa có dấu và không dấu: cùng một yêu cầu, viết có dấu thì bị từ chối, viết không dấu thì được trả lời, hoặc ngược lại.
- Lộ dữ liệu cá nhân dạng Việt Nam: bộ lọc dữ liệu cá nhân nhận ra số an sinh xã hội kiểu Mỹ nhưng bỏ qua số căn cước công dân, biển số xe, số tài khoản theo định dạng trong nước.
Lỗi cuối đặc biệt quan trọng với doanh nghiệp: nếu dùng công cụ che dữ liệu cá nhân trước khi gửi văn bản lên dịch vụ AI, hãy kiểm xem nó có nhận đúng các loại giấy tờ, định dạng số của Việt Nam không, và luôn rà lại bằng mắt với tài liệu nhạy cảm.
Việc nên làm khi xây sản phẩm AI cho người Việt
Dù sản phẩm dùng mô hình của nhà cung cấp lớn hay tự tinh chỉnh, các bước dưới đây giúp giảm rủi ro an toàn đặc thù tiếng Việt.
- Viết chính sách nội dung bằng tiếng Việt, có ví dụ cụ thể theo bối cảnh Việt Nam, thay vì dịch nguyên chính sách tiếng Anh.
- Lập bộ câu thử an toàn tiếng Việt, gồm bản có dấu, không dấu, viết tắt, trộn Anh–Việt cho cùng một tình huống; chạy lại sau mỗi lần đổi mô hình hay đổi câu lệnh hệ thống.
- Đo cả hai chiều lỗi: tỉ lệ nội dung xấu lọt qua và tỉ lệ nội dung tốt bị chặn nhầm; chỉ đo một chiều sẽ đẩy hệ thống về cực đoan.
- Có người hiểu văn hoá vùng miền xem các ca khó, ưu tiên đa dạng về vùng, tuổi, giới trong nhóm kiểm duyệt.
- Cập nhật danh sách biến thể tiếng lóng định kỳ từ phản hồi người dùng và các ca bị báo cáo.
- Chuẩn bị nội dung hỗ trợ phù hợp Việt Nam cho tình huống khủng hoảng tinh thần, bạo lực, xâm hại, chỉ dẫn tới kênh hỗ trợ chính thức đã được kiểm chứng.
- Che dữ liệu cá nhân trước khi gửi lên dịch vụ ngoài và tuân thủ quy định bảo vệ dữ liệu cá nhân hiện hành.
Không bước nào đòi hỏi đội ngũ nghiên cứu lớn. Phần tốn công nhất là bộ câu thử và người hiểu ngữ cảnh, nhưng đó cũng là phần mang lại nhiều giá trị nhất.
Trẻ em dùng chatbot tiếng Việt: điều phụ huynh và giáo viên nên biết
Nhiều chatbot phổ biến đặt giới hạn độ tuổi trong điều khoản sử dụng, nhưng thực tế học sinh vẫn dùng, nhất là để làm bài tập. Vì lớp an toàn tiếng Việt có thể kém ổn định, trẻ có thể gặp câu trả lời không phù hợp lứa tuổi hoặc thông tin sai trình bày rất tự tin. Thêm vào đó, các chatbot dạng "bạn ảo" có thể tạo gắn bó cảm xúc mà trẻ chưa đủ trải nghiệm để nhận ra giới hạn.
Cách tiếp cận hợp lý không phải cấm tuyệt đối mà là dùng cùng trẻ ở giai đoạn đầu, giải thích rằng chatbot có thể sai và không phải người thật, dạy trẻ không chia sẻ tên trường, địa chỉ, ảnh cá nhân, và khuyến khích trẻ kể lại khi gặp nội dung khiến mình khó chịu. Giáo viên có thể biến những lần chatbot trả lời sai về tiếng Việt hay lịch sử Việt Nam thành bài học kiểm chứng thông tin.
Với nhà trường, nên có quy định rõ ràng bằng văn bản về việc dùng AI trong học tập: được dùng vào việc gì, phải ghi nhận ra sao, việc gì không được giao cho máy. Quy định rõ giúp học sinh không phải đoán, và giúp giáo viên đánh giá công bằng. Khi chọn một công cụ AI cho lớp học, hãy thử trước bằng chính những câu hỏi tiếng Việt mà học sinh hay đặt, kể cả viết không dấu, để xem công cụ phản ứng thế nào với nội dung nhạy cảm, và đọc chính sách dữ liệu của nhà cung cấp về người dùng chưa đủ tuổi trưởng thành.
Câu hỏi thường gặp
Vì sao chatbot đôi khi trả lời yêu cầu không phù hợp khi viết không dấu?
Vì lớp an toàn được huấn luyện chủ yếu với văn bản chuẩn, và tiếng Việt không dấu tạo ra nhiều cách hiểu, khiến mô hình nhận diện ý định kém hơn. Đây là lỗ hổng các nhà phát triển cần vá. Người dùng gặp trường hợp như vậy nên báo cáo qua kênh phản hồi thay vì khai thác hay chia sẻ.
Danh sách từ cấm có đủ để lọc bình luận tiếng Việt không?
Không đủ. Danh sách từ cấm bỏ sót biến thể chính tả, tiếng lóng mới và lời lẽ thù ghét không dùng từ tục, đồng thời chặn nhầm tên riêng, địa danh. Nên dùng danh sách như lớp phụ, kết hợp bộ phân loại học máy và người kiểm duyệt cho các ca không chắc chắn.
Có bộ dữ liệu công khai về ngôn từ độc hại tiếng Việt không?
Có một số bộ dữ liệu do cộng đồng nghiên cứu công bố, trong đó có dữ liệu từ các bài toán chia sẻ của chuỗi hội thảo VLSP. Trước khi dùng, hãy đọc kỹ giấy phép, cách thu thập, cách gán nhãn và thời điểm thu thập, vì tiếng lóng thay đổi nhanh và dữ liệu cũ có thể không còn đại diện.
Làm sao biết bộ lọc của mình chặn nhầm quá nhiều?
Lấy mẫu ngẫu nhiên các nội dung bị chặn trong một khoảng thời gian, nhờ người hiểu ngữ cảnh xem lại và tính tỉ lệ chặn đúng. Theo dõi khiếu nại của người dùng về việc bị chặn vô lý. Nếu tỉ lệ chặn nhầm cao, điều chỉnh ngưỡng hoặc bổ sung dữ liệu cho các trường hợp hay nhầm.
Kiểm duyệt bằng mô hình ngôn ngữ lớn có thay được người kiểm duyệt không?
Chưa thay được hoàn toàn. Mô hình lớn giúp xử lý khối lượng lớn và hiểu ngữ cảnh tốt hơn danh sách từ khoá, nhưng vẫn sai ở các ca văn hoá tinh tế, tiếng lóng mới và mang điểm yếu tiếng Việt của mô hình nền. Con người vẫn cần cho ca khó, cho kháng nghị và để cập nhật chính sách.
Người kiểm duyệt nội dung tiếng Việt cần được bảo vệ thế nào?
Công việc tiếp xúc nhiều nội dung độc hại gây áp lực tâm lý thật. Tổ chức có trách nhiệm nên giới hạn thời gian tiếp xúc, cho nghỉ luân phiên, làm mờ hình ảnh mặc định, có hỗ trợ tâm lý và cho phép chuyển chủ đề. Dùng máy lọc trước giúp giảm lượng nội dung người phải xem trực tiếp.