Tinh chỉnh một mô hình cho tiếng Việt chỉ đáng làm khi vấn đề nằm ở hành vi lặp lại mà câu lệnh không giữ nổi, như định dạng đầu ra cố định, giọng văn và xưng hô riêng, bộ nhãn phân loại của tổ chức, hoặc khi cần một mô hình nhỏ rẻ thay cho mô hình lớn đắt. Nếu vấn đề là mô hình thiếu kiến thức hay thông tin thay đổi thường xuyên, như quy định nội bộ, bảng sản phẩm, tên đơn vị hành chính mới, thì tìm kiếm tài liệu đưa vào câu lệnh hợp hơn tinh chỉnh.
Nhiều nhóm tinh chỉnh quá sớm: có vài trăm câu hỏi đáp, nghĩ rằng đưa vào là mô hình sẽ thuộc, rồi thất vọng vì mô hình vẫn bịa và còn kém đi ở việc khác. Bài này sắp xếp ba công cụ theo đúng việc của chúng, liệt kê dấu hiệu nên và không nên tinh chỉnh, giải thích tinh chỉnh toàn phần và LoRA ở mức nguyên lý, rồi đi vào phần khó nhất với tiếng Việt: chuẩn bị dữ liệu và đo trước–sau.
Ba công cụ, ba loại vấn đề
Trước khi nghĩ tới tinh chỉnh, hãy gọi đúng tên vấn đề. Mỗi công cụ sửa một kiểu lỗi; dùng sai công cụ thì tốn công mà lỗi vẫn còn.
| Vấn đề quan sát được | Công cụ hợp nhất | Lý do |
|---|---|---|
| Câu trả lời đúng ý nhưng sai định dạng, lúc có lúc không | Câu lệnh rõ hơn, ví dụ mẫu; nếu vẫn chập chờn thì tinh chỉnh | Định dạng là hành vi, học được qua mẫu |
| Mô hình không biết quy định nội bộ, giá dịch vụ, danh mục sản phẩm | Tìm kiếm tài liệu đưa vào câu lệnh (RAG) | Kiến thức đổi thường xuyên, cần dẫn nguồn |
| Xưng hô sai vai, giọng văn không hợp thương hiệu | Câu lệnh hệ thống trước; tinh chỉnh nếu cần ổn định tuyệt đối | Giọng điệu là hành vi lặp lại |
| Bộ nhãn phân loại riêng, hàng triệu văn bản mỗi tháng | Tinh chỉnh mô hình nhỏ | Rẻ, nhanh, đầu ra ổn định |
| Mô hình viết tiếng Việt gượng, sai chính tả, lẫn thứ tiếng khác | Đổi mô hình gốc; tinh chỉnh ít giúp | Vốn tiếng là chuyện huấn luyện trước |
| Mô hình bịa thông tin về Việt Nam | Tìm kiếm tài liệu, yêu cầu dẫn nguồn, đổi mô hình | Tinh chỉnh không dạy được sự thật một cách tin cậy |
Dòng cuối là chỗ hiểu lầm phổ biến nhất. Tinh chỉnh vài trăm câu hỏi đáp về luật hay về sản phẩm không làm mô hình nhớ chính xác từng câu; nó dạy mô hình trả lời với giọng tự tin về chủ đề đó, kể cả khi sai. Kiến thức cần chính xác thì phải đưa vào câu lệnh lúc trả lời.
Dấu hiệu nên tinh chỉnh
Câu lệnh đã dài và vẫn không giữ được hành vi. Bạn đã viết câu lệnh hệ thống kỹ, thêm năm ví dụ mẫu, mà mô hình vẫn thỉnh thoảng trả về sai cấu trúc, quên trường bắt buộc, hoặc đổi giọng sau vài lượt hội thoại. Hành vi cần ổn định trên hàng nghìn lượt mỗi ngày là ứng viên tốt cho tinh chỉnh.
Chi phí câu lệnh dài trở thành gánh nặng. Câu lệnh nhiều nghìn mảnh lặp lại ở mỗi lần gọi, nhân với lưu lượng lớn, có thể chiếm phần lớn chi phí. Với tiếng Việt tốn mảnh hơn tiếng Anh, gánh này càng rõ. Tinh chỉnh để mô hình nhớ phần hướng dẫn cố định giúp rút gọn câu lệnh.
Cần chuyển từ mô hình lớn sang mô hình nhỏ. Một mô hình lớn làm tốt việc phân loại hay trích xuất, nhưng quá đắt hoặc quá chậm, hoặc dữ liệu không được phép rời khỏi máy chủ nội bộ. Dùng mô hình lớn sinh dữ liệu mẫu, người kiểm lại, rồi tinh chỉnh mô hình nhỏ là con đường được dùng nhiều.
Có quy ước ngôn ngữ riêng của ngành. Văn bản hành chính có thể thức riêng, biên bản y khoa có cách ghi tắt riêng, tổng đài có kịch bản chào hỏi riêng. Khi quy ước này phức tạp và nhất quán, mô hình học qua mẫu tốt hơn qua mô tả.
Có ít nhất vài trăm đến vài nghìn mẫu chất lượng. Không có con số tuyệt đối, nhưng tinh chỉnh với vài chục mẫu thường chỉ làm mô hình học vẹt bề mặt. Mẫu phải đại diện cho dữ liệu thật, gồm cả ca khó và ca biên.
Tinh chỉnh toàn phần và LoRA ở mức nguyên lý
Tinh chỉnh toàn phần cập nhật mọi trọng số của mô hình. Cách này cho mô hình nhiều tự do để thay đổi nhất, nhưng cần bộ nhớ GPU lớn, mỗi phiên bản tinh chỉnh là một bản sao đầy đủ của mô hình, và nguy cơ làm hỏng năng lực chung cao hơn. Với mô hình nhỏ cỡ PhoBERT, tinh chỉnh toàn phần vẫn là cách thông thường vì mô hình nhẹ.
Với mô hình ngôn ngữ lớn, cách phổ biến là LoRA, được Hu và cộng sự đề xuất năm 2021. Ý tưởng là giữ nguyên trọng số gốc và chỉ học thêm các ma trận nhỏ gắn vào một số tầng, biểu diễn phần thay đổi cần có. Số tham số phải học giảm hàng trăm đến hàng nghìn lần, bộ nhớ cần ít hơn nhiều, và mỗi bản tinh chỉnh chỉ là một tệp nhỏ có thể lắp vào hay tháo ra khỏi mô hình gốc. QLoRA, công bố năm 2023, kết hợp thêm việc nén mô hình gốc xuống 4 bit lúc huấn luyện để chạy được trên GPU phổ thông hơn.
Với tiếng Việt, có một điểm cần biết: LoRA điều chỉnh hành vi tốt nhưng không bù được vốn tiếng mà mô hình gốc thiếu. Nếu mô hình gốc cắt tiếng Việt quá vụn hoặc viết tiếng Việt kém, LoRA trên vài nghìn mẫu không biến nó thành người viết tiếng Việt giỏi. Chọn mô hình gốc đã nói tiếng Việt khá là điều kiện tiên quyết, còn tinh chỉnh là lớp hoàn thiện.
Chuẩn bị dữ liệu tinh chỉnh tiếng Việt
Phần lớn thời gian của một dự án tinh chỉnh dành cho dữ liệu. Với tiếng Việt, ngoài các nguyên tắc chung, có mấy điểm riêng cần làm đúng ngay từ đầu.
- Chuẩn hoá Unicode về một dạng duy nhất cho cả dữ liệu huấn luyện lẫn dữ liệu lúc chạy. Chữ "hoà" gõ bằng hai bộ gõ khác nhau có thể là hai chuỗi mã khác nhau, mô hình học lẫn lộn.
- Thống nhất quy ước chính tả như "hoà" hay "hòa", "thuỷ" hay "thủy", "i" hay "y" trong "lí/lý". Chọn một và giữ nhất quán, nếu không mô hình sẽ trả lời lúc kiểu này lúc kiểu kia.
- Viết rõ quy tắc xưng hô trong mẫu: ai là người hỏi, ai là người trả lời, xưng gì gọi gì. Mẫu trộn "bạn", "anh/chị", "quý khách" lung tung sẽ cho ra mô hình lung tung.
- Che thông tin cá nhân trước khi đưa dữ liệu thật vào: họ tên, số căn cước, số điện thoại, địa chỉ, số tài khoản, biển số xe. Mô hình có thể nhớ và nhả lại chuỗi đã học, nên đây không chỉ là chuyện tuân thủ quy định mà là chuyện rò rỉ thật.
- Cân bằng nguồn và vùng miền nếu mô hình phục vụ người dùng cả nước: mẫu chỉ lấy từ chi nhánh Hà Nội thì mô hình có thể hiểu kém cách viết của khách miền Tây.
- Đưa ca khó và ca từ chối vào: câu hỏi mơ hồ, câu hỏi ngoài phạm vi, câu hỏi đòi thông tin không được cung cấp. Thiếu những mẫu này, mô hình học rằng câu nào cũng phải trả lời.
- Cập nhật thông tin hành chính: mẫu nhắc địa danh phải dùng tên đơn vị hiện hành sau sáp nhập năm 2025, nếu không mô hình học lại tên cấp huyện đã bỏ.
Một mẹo thực tế: cho hai người đọc độc lập một trăm mẫu ngẫu nhiên trước khi huấn luyện, ghi lại mọi chỗ thấy không ổn. Chi phí vài giờ đọc rẻ hơn nhiều so với huấn luyện lại.
Đo trước và sau: đừng tin cảm giác
Trước khi tinh chỉnh, giữ riêng một tập thử khoảng một phần mười dữ liệu, không bao giờ đưa vào huấn luyện. Chạy mô hình gốc với câu lệnh tốt nhất bạn viết được trên tập này, ghi kết quả. Đó là mốc so sánh. Rất nhiều dự án bỏ bước này, tinh chỉnh xong thấy câu trả lời có vẻ tốt hơn, nhưng không chứng minh được.
Sau khi tinh chỉnh, đo trên cùng tập thử với cùng tiêu chí. Ngoài nhiệm vụ chính, hãy đo thêm một bộ nhỏ về năng lực chung: vài câu hỏi kiến thức phổ thông, vài yêu cầu viết, vài câu hỏi ngoài phạm vi. Nếu mô hình giỏi hơn ở việc chính mà mất khả năng từ chối câu ngoài phạm vi, hoặc bắt đầu chen kịch bản tổng đài vào mọi câu trả lời, đó là dấu hiệu học quá đà.
Với tiếng Việt, nên có một hạng mục chấm riêng cho chất lượng ngôn ngữ: chính tả, dấu, xưng hô, độ tự nhiên. Các chỉ số tự động không bắt được những lỗi này, cần người đọc. Phương pháp đánh giá chi tiết hơn được bàn trong danh mục Đánh giá chất lượng AI với tiếng Việt của trang.
Ví dụ giả định: trợ lý soạn trả lời cho tổng đài
Một doanh nghiệp điện nước có tổng đài nhận hàng nghìn tin nhắn mỗi ngày. Họ dùng một mô hình lớn để soạn nháp câu trả lời cho nhân viên duyệt. Kết quả đúng ý nhưng hai vấn đề lặp lại: mô hình xưng "mình" với khách lớn tuổi, và câu trả lời thiếu ba mục bắt buộc là mã yêu cầu, thời gian dự kiến, kênh liên hệ tiếp. Câu lệnh đã ghi rõ nhưng khoảng một phần mười trường hợp vẫn sai.
Phân tích cho thấy hai vấn đề này là hành vi, không phải kiến thức. Nhóm gom khoảng hai nghìn câu trả lời đã được nhân viên giỏi sửa, che toàn bộ thông tin khách, thống nhất xưng "quý khách" và "công ty", đảm bảo mỗi câu đủ ba mục. Họ tinh chỉnh LoRA trên một mô hình mở nói tiếng Việt khá, chạy trên máy chủ nội bộ. Thông tin về lịch cắt điện, biểu giá vẫn được lấy từ hệ thống tìm kiếm tài liệu và đưa vào câu lệnh, không nhét vào dữ liệu tinh chỉnh.
Trên tập thử giữ riêng, tỷ lệ thiếu mục giảm rõ và xưng hô ổn định; ở bộ năng lực chung, mô hình vẫn từ chối đúng các câu hỏi không liên quan. Bài học từ ví dụ này: tinh chỉnh giải đúng phần hành vi, còn phần sự thật vẫn để tìm kiếm tài liệu lo. Nếu nhóm cố nhét biểu giá vào dữ liệu tinh chỉnh, mỗi lần đổi giá sẽ phải huấn luyện lại và mô hình vẫn có thể nhớ nhầm.
Câu hỏi thường gặp
Tinh chỉnh có giúp mô hình nhớ tài liệu nội bộ không?
Không đáng tin. Tinh chỉnh dạy hành vi và văn phong tốt hơn dạy sự thật. Mô hình có thể nhớ lờ mờ và trả lời tự tin nhưng sai chi tiết. Tài liệu cần trích chính xác nên đưa vào câu lệnh qua tìm kiếm tài liệu, kèm yêu cầu dẫn nguồn.
Cần bao nhiêu mẫu để tinh chỉnh một mô hình tiếng Việt?
Không có con số cố định. Với việc hẹp như định dạng đầu ra hay phân loại, vài trăm đến vài nghìn mẫu tốt thường đủ để thấy khác biệt. Chất lượng và độ đại diện của mẫu quan trọng hơn số lượng; một nghìn mẫu nhất quán tốt hơn mười nghìn mẫu lộn xộn.
LoRA có làm mô hình kém đi ở việc khác không?
Ít hơn tinh chỉnh toàn phần nhưng vẫn có thể. Học quá lâu hoặc dữ liệu quá một màu có thể làm mô hình chen nội dung của nhiệm vụ vào mọi câu trả lời. Đo thêm năng lực chung trước và sau để phát hiện sớm.
Có thể dùng mô hình lớn để sinh dữ liệu tinh chỉnh tiếng Việt không?
Có, đây là cách phổ biến, nhưng cần người kiểm lại. Dữ liệu do mô hình sinh thường đều giọng, ít ca khó, có thể mang lỗi của mô hình sinh. Kiểm tra điều khoản sử dụng của dịch vụ sinh dữ liệu, vì một số nhà cung cấp hạn chế dùng đầu ra để huấn luyện mô hình khác.
Tinh chỉnh xong có cần cập nhật định kỳ không?
Có nếu dữ liệu thật thay đổi: sản phẩm mới, quy trình mới, cách khách viết thay đổi. Giữ lại các câu mô hình làm sai trong quá trình chạy, sau vài tháng gom thành bộ dữ liệu bổ sung. Mỗi lần cập nhật đều đo lại trên tập thử cũ để không lùi.
Dữ liệu chat của khách hàng có được dùng để tinh chỉnh không?
Cần xem chính sách quyền riêng tư đã công bố với khách và quy định bảo vệ dữ liệu cá nhân hiện hành. Ít nhất phải che thông tin định danh, giới hạn người tiếp cận, ghi rõ mục đích. Khi chưa chắc, hỏi bộ phận pháp chế trước khi dùng.