Dùng mô hình ngôn ngữ sinh dữ liệu tiếng Việt hợp lý trong bốn trường hợp: khởi động khi chưa có dữ liệu thật, phủ các ca hiếm khó thu, tạo biến thể cho dữ liệu có sẵn (thêm lỗi gõ, bỏ dấu, diễn đạt lại), và tạo cặp hỏi đáp để tinh chỉnh khi có người kiểm. Nó không hợp để làm tập kiểm tra, không thay được dữ liệu thật của người dùng, và nếu không lọc thì kéo cả bộ dữ liệu về một giọng văn đơn điệu, nhiều khi là giọng văn dịch.
Bài này không định nghĩa dữ liệu tổng hợp (trang AI Hiểu đã có phần đó) mà đi vào thực hành với tiếng Việt: những kiểu lỗi đặc trưng khi mô hình sinh tiếng Việt, cách làm cho dữ liệu đa dạng, cách lọc, rủi ro dài hạn khi mô hình học từ dữ liệu của mô hình, và các ràng buộc về điều khoản sử dụng. Mọi ví dụ trong bài là ví dụ giả định.
Bốn trường hợp đáng dùng
Khởi động khi chưa có gì. Một nhóm muốn thử ý tưởng phân loại câu hỏi về thủ tục hành chính nhưng chưa có câu hỏi thật nào. Vài nghìn câu sinh ra đủ để dựng nguyên mẫu, thử luồng xử lý và biết bài toán khó ở đâu. Khi có dữ liệu thật, phần sinh nên giảm dần tỷ trọng.
Phủ ca hiếm. Bình luận phàn nàn về một lỗi sản phẩm hiếm, câu hỏi tổng đài về tình huống ít gặp, câu có từ địa phương hiếm: thu thật thì phải chờ rất lâu. Sinh có chủ đích giúp mô hình ít nhất từng thấy những ca này.
Tăng cường biến thể. Từ một câu thật, tạo các biến thể: bỏ dấu một phần, thêm lỗi gõ Telex hay VNI kiểu "vieejt nam", viết tắt "ko, dc, j", đổi xưng hô, đảo trật tự. Kiểu tăng cường này rẻ, kiểm soát được và giúp mô hình bền với cách viết đời thường. Phần lớn không cần mô hình lớn, chỉ cần quy tắc.
Tạo cặp hỏi đáp để tinh chỉnh. Cho mô hình đọc tài liệu nội bộ đã che thông tin, sinh câu hỏi người dùng có thể đặt và câu trả lời dựa trên tài liệu, rồi người hiểu nghiệp vụ kiểm và sửa. Đây là cách làm phổ biến để có dữ liệu tinh chỉnh trợ lý chuyên ngành; điểm mấu chốt là bước kiểm của người không được bỏ.
Bẫy văn dịch và bối cảnh ngoại nhập
Nhiều mô hình ngôn ngữ học tiếng Việt ít hơn tiếng Anh nhiều lần, nên văn tiếng Việt chúng sinh ra hay mang dấu vết văn dịch, và dữ liệu dịch máy từ bộ tiếng Anh càng nặng hơn. Dấu hiệu dễ nhận: lạm dụng "điều này", "việc", "một cách", "được" và "bị" ở câu bị động mà tiếng Việt tự nhiên không cần; xưng "bạn" với mọi người trong mọi hoàn cảnh; câu dài nhiều mệnh đề phụ đặt sau danh từ theo kiểu tiếng Anh; thành ngữ dịch sát chữ.
Bối cảnh cũng bị ngoại nhập theo: ví dụ về tiền đô la, mùa đông có tuyết, tên người kiểu nước ngoài, thủ tục theo hệ thống của nước khác. Một bộ dữ liệu hỏi đáp về thủ tục hành chính dịch từ tiếng Anh có thể chứa nguyên khái niệm không tồn tại ở Việt Nam. Còn khi mô hình tự sinh về Việt Nam, nó có thể dùng địa danh cũ, cấp huyện đã bỏ từ tháng 7/2025, hay bịa tên cơ quan.
Cách giảm: viết câu lệnh sinh bằng tiếng Việt, đưa vào vài ví dụ tiếng Việt gốc làm mẫu giọng văn, nêu rõ bối cảnh Việt Nam (đơn vị hành chính hiện hành, cách xưng hô theo quan hệ), và có bước lọc phát hiện các cụm văn dịch phổ biến. Quan trọng nhất là có người bản ngữ đọc mẫu; người đọc nhạy nhận ra văn dịch trong vài giây, còn chỉ số tự động thì gần như không.
Làm cho dữ liệu sinh đa dạng
Hỏi mô hình "viết một trăm bình luận khách hàng" sẽ nhận về một trăm câu na ná nhau, cùng độ dài, cùng cấu trúc, cùng vài từ khen chê quen thuộc. Mô hình có xu hướng trả về phương án "an toàn", trung bình nhất. Để có đa dạng thật phải chủ động đưa đa dạng vào đầu vào.
Cách hay dùng là tạo trước một bảng thuộc tính rồi tổ hợp: người viết (tuổi, vùng, nghề, mức thạo công nghệ), tình huống (sản phẩm nào, lỗi gì, đã liên hệ chưa), cảm xúc và mức độ, độ dài, kiểu viết (có dấu, không dấu, viết tắt, có biểu tượng cảm xúc). Mỗi lần sinh lấy một tổ hợp khác, yêu cầu viết đúng vai đó. Đưa danh sách các câu đã sinh gần đây vào yêu cầu để tránh lặp cũng có tác dụng.
Sau khi sinh, đo đa dạng bằng vài chỉ số đơn giản: tỷ lệ cụm từ khác nhau trên tổng số cụm, phân bố độ dài, độ trùng giữa các mẫu. So với cùng chỉ số trên dữ liệu thật; nếu dữ liệu sinh đơn điệu hơn rõ rệt, mô hình học từ nó sẽ khó xử lý được sự lộn xộn của người dùng thật.
Quy trình lọc dữ liệu sinh
Dữ liệu sinh luôn cần lọc nhiều tầng, vì mô hình sinh có thể sai nhãn, sai sự thật và lặp lại chính nó.
- Lọc trùng và gần trùng, cả trong phần sinh lẫn giữa phần sinh với dữ liệu thật, nhất là với tập kiểm tra.
- Kiểm định dạng: đủ trường, đúng độ dài, đúng kiểu viết đã yêu cầu, không chứa câu từ chối hay lời dẫn của mô hình kiểu "dưới đây là".
- Kiểm nhãn: với dữ liệu phân loại, cho một mô hình khác hoặc quy tắc phân loại lại, các mẫu mà nhãn yêu cầu và nhãn kiểm lệch nhau thì đưa người xem hoặc loại.
- Kiểm sự thật với nội dung có thông tin: tên cơ quan, thủ tục, địa danh, con số. Mô hình bịa nghe rất hợp lý; với dữ liệu tinh chỉnh trợ lý, một câu trả lời bịa trong dữ liệu sẽ thành thói quen bịa của mô hình.
- Lọc văn dịch và bối cảnh lạ bằng danh sách cụm dấu hiệu, rồi người đọc mẫu.
- Đọc tay một mẫu ngẫu nhiên mỗi mẻ, ghi tỷ lệ lỗi theo loại; tỷ lệ lỗi cao ở một kiểu yêu cầu nào thì sửa câu lệnh sinh chứ không chỉ lọc.
- Gắn nhãn nguồn "sinh" cho từng mẫu và giữ nhãn đó đến cuối, để có thể đo ảnh hưởng và loại ra khi cần.
Mô hình học từ mô hình: rủi ro sụp đổ và cách giữ chân dữ liệu thật
Một nghiên cứu của Ilia Shumailov và cộng sự đăng trên tạp chí Nature năm 2024 cho thấy khi mô hình được huấn luyện lặp lại qua nhiều thế hệ trên dữ liệu do thế hệ trước sinh ra, các phần hiếm của phân bố dữ liệu dần biến mất và chất lượng suy giảm, hiện tượng được gọi là sụp đổ mô hình. Mức độ ảnh hưởng trong thực tế còn được bàn luận, và các nghiên cứu khác cho thấy giữ lại dữ liệu thật bên cạnh dữ liệu sinh làm giảm rủi ro đáng kể.
Với tiếng Việt, rủi ro này có chiều kích riêng. Phần "hiếm" của tiếng Việt trong mắt mô hình chính là giọng vùng miền, từ địa phương, cách viết của người lớn tuổi, thuật ngữ chuyên ngành tiếng Việt. Nếu các thế hệ dữ liệu đều đi qua mô hình, những phần đó mòn dần, và tiếng Việt của máy ngày càng đồng phục. Web tiếng Việt ngày càng nhiều văn bản do máy sinh nên ngay cả dữ liệu "thu từ web" cũng không còn chắc là của người.
Biện pháp thực tế: luôn giữ một lõi dữ liệu thật do người viết hoặc nói, ghi rõ tỷ lệ dữ liệu sinh trong mỗi phiên bản, không dùng dữ liệu sinh làm tập kiểm tra, và ưu tiên dữ liệu thật thu trước khi văn bản máy sinh tràn lan cho các phần cần giọng tự nhiên.
Điều khoản sử dụng, nhãn nguồn và minh bạch
Nhiều nhà cung cấp mô hình có điều khoản về việc dùng đầu ra của mô hình, trong đó một số hạn chế dùng đầu ra để phát triển mô hình cạnh tranh với họ. Điều khoản thay đổi theo thời gian và khác nhau giữa các nhà cung cấp, nên trước khi dùng một dịch vụ để sinh dữ liệu huấn luyện, đọc điều khoản hiện hành và lưu bản sao như với mọi nguồn dữ liệu khác. Mô hình mở cũng có giấy phép riêng, có loại kèm điều kiện về việc dùng đầu ra.
Dữ liệu đầu vào cho việc sinh cũng phải sạch: đưa tài liệu nội bộ chưa che thông tin khách hàng vào dịch vụ bên ngoài để sinh hỏi đáp là đưa dữ liệu cá nhân ra ngoài. Che trước, hoặc dùng mô hình chạy trong hạ tầng của mình.
Khi công bố bộ dữ liệu hay mô hình, nói rõ phần nào là dữ liệu sinh, sinh bằng loại mô hình nào, lọc thế nào, tỷ lệ bao nhiêu. Người dùng sau cần biết điều đó để đánh giá đúng kết quả, và cộng đồng nghiên cứu cần biết để tránh vô tình dùng dữ liệu sinh làm chuẩn đánh giá.
Tạo dữ liệu tinh chỉnh từ tài liệu: phần việc của người kiểm
Trường hợp dùng nhiều nhất hiện nay là sinh cặp hỏi đáp từ tài liệu để tinh chỉnh trợ lý chuyên ngành, ví dụ giả định một phòng hành chính muốn trợ lý trả lời câu hỏi của nhân viên về quy chế nội bộ. Luồng làm thường là: chia tài liệu thành đoạn, cho mô hình đọc từng đoạn và đặt các câu hỏi một nhân viên thật có thể hỏi, rồi trả lời chỉ dựa trên đoạn đó, kèm trích dẫn câu gốc.
Phần việc của người kiểm gồm bốn điểm. Câu hỏi có giống người thật hỏi không, hay là câu hỏi kiểu đề thi lặp lại nguyên văn tài liệu? Người thật hỏi ngắn, thiếu ngữ cảnh, hay dùng từ khác với văn bản quy chế. Câu trả lời có đúng và đủ không, có bịa thêm điều tài liệu không nói không? Câu trả lời có xưng hô và giọng điệu đúng với nơi dùng không? Và có những câu hỏi mà tài liệu không trả lời được, để dạy mô hình biết nói "tài liệu không đề cập" thay vì đoán?
Loại câu hỏi cuối cùng thường bị bỏ quên vì mô hình sinh luôn muốn trả lời. Nên chủ động sinh và giữ một phần câu hỏi nằm ngoài tài liệu, với câu trả lời mẫu là từ chối có hướng dẫn. Một trợ lý được tinh chỉnh toàn trên câu hỏi trả lời được sẽ học thói quen trả lời mọi thứ, kể cả khi không có căn cứ.
Câu hỏi thường gặp
Có nên dịch bộ dữ liệu hỏi đáp tiếng Anh sang tiếng Việt để tinh chỉnh không?
Dùng được để khởi động, nhưng phải lọc văn dịch, đổi bối cảnh sang Việt Nam và có người kiểm. Phần kiến thức gắn với nước ngoài như luật, thủ tục, đơn vị đo cần thay hoặc bỏ. Tập kiểm tra nên là tiếng Việt gốc.
Dữ liệu sinh chiếm bao nhiêu phần trăm là vừa?
Không có tỷ lệ chuẩn. Cách đúng là thử nhiều tỷ lệ và đánh giá trên tập kiểm tra gồm dữ liệu thật. Thường thấy lợi ích rõ nhất khi dữ liệu thật ít; khi dữ liệu thật đã nhiều, thêm dữ liệu sinh có thể không giúp hoặc làm kém đi.
Dịch ngược là gì và có hợp với tiếng Việt không?
Dịch ngược là dịch câu tiếng Việt sang một ngôn ngữ khác rồi dịch lại để có cách diễn đạt mới cùng nghĩa, kỹ thuật được Sennrich và cộng sự phổ biến trong dịch máy năm 2016. Dùng được để tăng biến thể, nhưng câu dịch lại thường mang văn dịch, cần lọc.
Thêm lỗi gõ nhân tạo có giúp mô hình thật không?
Có, nếu lỗi giống lỗi người dùng thật: lỗi bộ gõ Telex, VNI, bỏ dấu một phần, gõ nhầm phím gần. Nên lấy thống kê từ dữ liệu thật để mô phỏng đúng tần suất, tránh tạo những lỗi không ai gõ.
Có thể dùng dữ liệu sinh để làm tập kiểm tra không?
Không nên. Tập kiểm tra sinh bằng mô hình sẽ đo mức một mô hình giống mô hình sinh, không đo khả năng xử lý tiếng Việt của người thật. Tập kiểm tra nên do người viết, người nói, người gán nhãn.
Làm sao biết dữ liệu sinh có đủ đa dạng?
So các chỉ số đơn giản như tỷ lệ cụm từ khác nhau, phân bố độ dài, độ trùng giữa mẫu với cùng chỉ số trên dữ liệu thật, và đọc mẫu. Nếu dữ liệu sinh đều đặn, sạch sẽ hơn hẳn dữ liệu thật, đó là dấu hiệu thiếu đa dạng.