Chọn mô hình ngôn ngữ cho một ứng dụng tiếng Việt nên bắt đầu từ việc cụ thể mà ứng dụng phải làm, rồi xét bảy tiêu chí: chất lượng tiếng Việt trên chính việc đó, chi phí tính trên văn bản tiếng Việt thật, độ trễ, dữ liệu đi qua đâu, giấy phép, khả năng tuỳ chỉnh, và khả năng đổi sang mô hình khác về sau. Mô hình được nhắc nhiều nhất hay đứng đầu bảng xếp hạng chung không nhất thiết là mô hình hợp nhất với sản phẩm của bạn.
Bài này không xếp hạng hãng nào, không nêu giá gói dịch vụ, vì cả hai thay đổi theo tháng. Thay vào đó là một khung quyết định: từng tiêu chí có nghĩa gì riêng với tiếng Việt, câu hỏi nào cần trả lời, cách đo, và quy trình chọn từng bước để quyết định có căn cứ và đổi được khi thị trường thay đổi.
Bắt đầu từ việc, không từ tên mô hình
Câu hỏi "dùng mô hình nào cho tiếng Việt" không có câu trả lời nếu chưa biết việc gì. Phân loại phản ánh khách hàng, trả lời câu hỏi trên tài liệu nội bộ, soạn nháp thư, trích thông tin từ hoá đơn, trò chuyện với học sinh: mỗi việc đòi một tổ hợp năng lực khác nhau. Việc phân loại cần ổn định và rẻ; việc trò chuyện cần giọng văn tự nhiên và an toàn nội dung; việc trích xuất cần đầu ra đúng cấu trúc tuyệt đối.
Hãy viết ra một trang mô tả việc: đầu vào là gì, dài bao nhiêu, ai viết; đầu ra là gì, ai đọc, định dạng nào; khối lượng mỗi ngày; thời gian chờ chấp nhận được; sai một lần thì hậu quả là gì. Trang mô tả này quyết định trọng số của bảy tiêu chí bên dưới. Một ứng dụng soạn nháp thư cho nhân viên duyệt chấp nhận sai thỉnh thoảng; một ứng dụng trả lời tự động cho người dân về thủ tục thì không.
Cũng cần xác định ngay từ đầu việc này có thật cần mô hình ngôn ngữ lớn không. Nhiều việc tiếng Việt như phân loại hẹp, nhận dạng thực thể, tìm câu hỏi thường gặp tương tự làm tốt bằng mô hình mã hoá nhỏ, rẻ hơn hàng trăm lần mỗi lượt. Mô hình lớn hợp nhất khi việc cần hiểu mở, sinh chữ, hoặc thay đổi thường xuyên.
Tiêu chí 1 và 2: chất lượng tiếng Việt và chi phí thật
Chất lượng trên việc của bạn, không phải điểm chung. Bảng điểm chuẩn đo những việc cụ thể trên dữ liệu cụ thể, có thể đã lọt vào dữ liệu huấn luyện của mô hình. Một mô hình đứng cao về kiến thức tổng quát có thể vẫn xưng hô sai với khách hàng Việt hay viết văn bản hành chính sai thể thức. Cách duy nhất đáng tin là bộ thử nội bộ: vài chục đến vài trăm mẫu lấy từ việc thật, có tiêu chí chấm, chấm mù.
Các khía cạnh tiếng Việt cần chấm riêng. Chính tả và dấu, xưng hô hợp vai, độ tự nhiên của câu, kiến thức về Việt Nam liên quan đến việc, xử lý chữ không dấu và viết tắt ở đầu vào, xử lý văn bản trộn tiếng Anh. Mỗi khía cạnh một cột điểm, đừng gộp thành một con số.
Chi phí tính trên văn bản tiếng Việt thật. Dịch vụ tính tiền theo mảnh, và mỗi mô hình cắt tiếng Việt thành số mảnh khác nhau. Một mô hình có đơn giá mỗi mảnh thấp hơn có thể đắt hơn trên thực tế nếu cắt tiếng Việt vụn hơn. Hãy đếm số mảnh của đầu vào và đầu ra điển hình bằng công cụ của từng nhà cung cấp, nhân với khối lượng dự kiến.
Chi phí ẩn. Câu lệnh hệ thống dài lặp lại mỗi lượt, đoạn tài liệu đưa vào khi tìm kiếm tăng cường, số lần gọi lại khi đầu ra lỗi định dạng, chi phí người duyệt. Ví dụ giả định: câu lệnh hệ thống hai nghìn mảnh cộng năm đoạn tài liệu ba nghìn mảnh, câu hỏi của người dùng chỉ năm mươi mảnh; phần người dùng thật sự gõ chỉ chiếm chưa tới một phần trăm chi phí đầu vào.
Tiêu chí 3 và 4: độ trễ và nơi dữ liệu đi qua
Độ trễ gồm thời gian tới chữ đầu tiên và tốc độ sinh chữ tiếp theo. Với ứng dụng trò chuyện, chữ đầu tiên đến nhanh quan trọng hơn tổng thời gian, vì người dùng thấy máy đang trả lời. Với xử lý hàng loạt ban đêm, độ trễ gần như không quan trọng, chi phí mới quan trọng. Tiếng Việt tốn nhiều mảnh hơn nghĩa là câu trả lời tiếng Việt cùng độ dài nội dung mất nhiều thời gian sinh hơn tiếng Anh; hãy đo với câu trả lời tiếng Việt thật, vào giờ cao điểm, từ máy chủ đặt tại nơi ứng dụng chạy.
Nơi dữ liệu đi qua là tiêu chí nhiều nhóm xét muộn và phải làm lại. Dùng dịch vụ bên ngoài nghĩa là nội dung người dùng nhập và tài liệu đưa vào được gửi tới máy chủ của nhà cung cấp, có thể ở nước ngoài. Cần đọc hợp đồng dịch vụ về việc lưu trữ, thời gian giữ, có dùng dữ liệu để huấn luyện không, và đối chiếu với quy định bảo vệ dữ liệu cá nhân của Việt Nam cùng chính sách của chính tổ chức. Quy định trong lĩnh vực này đã thay đổi nhiều trong vài năm gần đây, nên tra văn bản hiện hành và hỏi bộ phận pháp chế thay vì dựa vào bài viết.
Nếu dữ liệu không được rời khỏi tổ chức, lựa chọn thu hẹp về mô hình mở tự chạy trên hạ tầng riêng hoặc dịch vụ có cam kết vùng dữ liệu phù hợp. Khi đó năng lực tiếng Việt của các mô hình mở cỡ chạy được trên phần cứng bạn có trở thành ràng buộc chính, và cần đo lại theo tiêu chí 1.
Tiêu chí 5 và 6: giấy phép và khả năng tuỳ chỉnh
Mô hình mở không có nghĩa là dùng thế nào cũng được. Giấy phép của các mô hình mở rất khác nhau: có loại cho phép gần như mọi mục đích, có loại cấm dùng thương mại, có loại giới hạn quy mô người dùng, yêu cầu ghi nguồn, hoặc ràng buộc tên gọi của sản phẩm phái sinh. Mô hình tiếng Việt huấn luyện tiếp từ một mô hình gốc thường phải tuân theo giấy phép của gốc. Đọc nguyên văn giấy phép, lưu bản tại thời điểm bạn quyết định dùng, và hỏi người có chuyên môn khi sản phẩm có doanh thu.
Với dịch vụ đóng, điều khoản sử dụng cũng có ràng buộc: có nhà cung cấp hạn chế dùng đầu ra để huấn luyện mô hình khác, hạn chế một số lĩnh vực ứng dụng, hoặc yêu cầu công bố cho người dùng biết họ đang trò chuyện với AI. Những điều khoản này thay đổi theo thời gian, cần người theo dõi.
Khả năng tuỳ chỉnh là câu hỏi: khi câu lệnh không đủ, bạn còn làm được gì? Mô hình mở cho phép tinh chỉnh toàn phần hoặc LoRA, chạy bản nén, kiểm soát phiên bản tuyệt đối. Dịch vụ đóng có thể cho tinh chỉnh qua giao diện riêng, có thể không. Với ứng dụng cần giọng văn tiếng Việt riêng hay định dạng đầu ra rất chặt, khả năng tinh chỉnh là điểm cộng lớn, nhưng chỉ khi đội có người làm được việc chuẩn bị dữ liệu và đánh giá.
Tiêu chí 7 và bảng tổng hợp câu hỏi kiểm
Tiêu chí thứ bảy là khả năng đổi mô hình. Thị trường mô hình thay đổi nhanh; mô hình bạn chọn hôm nay gần như chắc chắn có đối thủ tốt hơn hoặc rẻ hơn trong vòng một năm, và có thể bị ngừng hỗ trợ. Bảng dưới gom cả bảy tiêu chí thành câu hỏi để nhóm trả lời trước khi chốt.
| Tiêu chí | Câu hỏi kiểm | Cách có câu trả lời |
|---|---|---|
| 1. Chất lượng tiếng Việt | Trên bộ thử nội bộ, mô hình đạt yêu cầu ở từng khía cạnh tiếng Việt không? | Chấm mù bộ thử, tách cột chính tả, xưng hô, kiến thức |
| 2. Chi phí thật | Chi phí mỗi tháng với khối lượng dự kiến, tính cả câu lệnh hệ thống và tài liệu đưa vào? | Đếm mảnh trên văn bản thật, nhân khối lượng |
| 3. Độ trễ | Thời gian tới chữ đầu và tổng thời gian ở giờ cao điểm có chấp nhận được không? | Đo từ máy chủ thật, với câu trả lời tiếng Việt thật |
| 4. Dữ liệu | Dữ liệu đi đâu, lưu bao lâu, có được dùng huấn luyện không, có hợp quy định hiện hành không? | Đọc hợp đồng, hỏi pháp chế |
| 5. Giấy phép | Mục đích sử dụng của bạn có nằm trong phạm vi cho phép không? | Đọc nguyên văn, lưu bản, hỏi người có chuyên môn |
| 6. Tuỳ chỉnh | Khi câu lệnh không đủ, có tinh chỉnh được không, đội có làm được không? | Thử một vòng tinh chỉnh nhỏ |
| 7. Đổi mô hình | Nếu ngày mai phải đổi, mất bao lâu, phải sửa những gì? | Thử chạy bộ thử với một mô hình thứ hai qua cùng lớp trung gian |
Để giữ khả năng đổi, nên đặt một lớp trung gian giữa ứng dụng và mô hình: ứng dụng gọi vào lớp này, lớp này gọi tới mô hình cụ thể. Câu lệnh, bộ thử, nhật ký đánh giá được lưu độc lập với nhà cung cấp. Khi cần đổi, chỉ sửa ở một chỗ và chạy lại bộ thử để biết chất lượng thay đổi thế nào.
Quy trình chọn từng bước
Quy trình dưới đây áp dụng cho một nhóm sản phẩm nhỏ, mất khoảng một đến hai tuần làm việc. Nhóm lớn có thể làm kỹ hơn ở từng bước, nhưng thứ tự vẫn giữ nguyên.
- Viết trang mô tả việc và xếp trọng số bảy tiêu chí. Loại ngay những lựa chọn vi phạm ràng buộc cứng như dữ liệu không được ra nước ngoài hay giấy phép không cho thương mại.
- Xây bộ thử nội bộ từ dữ liệu thật đã che thông tin cá nhân, gồm cả ca khó: chữ không dấu, viết tắt, câu hỏi ngoài phạm vi, câu hỏi về địa danh sau sáp nhập năm 2025 nếu ứng dụng liên quan địa bàn.
- Chọn ba đến năm ứng viên từ các nhóm khác nhau: dịch vụ lớn, mô hình mở đa ngôn ngữ, mô hình mở có huấn luyện tiếp cho tiếng Việt, mô hình nhỏ nếu việc hẹp.
- Chạy bộ thử với cùng câu lệnh tốt nhất cho từng ứng viên. Chấm mù bởi ít nhất hai người, ghi điểm từng khía cạnh. Ghi chi phí và độ trễ đo được.
- Loại ứng viên không đạt ngưỡng chất lượng tối thiểu. Trong số còn lại, so chi phí, độ trễ, rủi ro dữ liệu và giấy phép theo trọng số đã định.
- Chạy thử nhỏ với người dùng thật, có người duyệt đầu ra. Ghi lại mọi lỗi, bổ sung vào bộ thử.
- Chốt mô hình, ghi lại lý do và kết quả đo. Đặt lịch chạy lại bộ thử định kỳ và mỗi khi nhà cung cấp cập nhật mô hình.
Tài liệu ghi lý do chọn là thứ quý nhất sau quy trình này. Sáu tháng sau, khi có người hỏi vì sao không dùng mô hình mới đang được nhắc nhiều, nhóm có sẵn bộ thử và có thể trả lời bằng số liệu thay vì bằng cảm giác.
Câu hỏi thường gặp
Có nên dùng nhiều mô hình cho cùng một ứng dụng không?
Thường là nên. Một mô hình nhỏ rẻ cho việc phân loại, định tuyến câu hỏi; một mô hình lớn cho câu hỏi khó; có khi một mô hình nhúng riêng cho tìm kiếm. Lớp trung gian giúp quản lý nhiều mô hình mà ứng dụng không phải biết chi tiết.
Mô hình rẻ hơn có đáng đánh đổi chất lượng tiếng Việt không?
Tuỳ việc. Với việc có người duyệt hoặc sai ít hậu quả, mô hình rẻ hơn đạt ngưỡng tối thiểu thường là lựa chọn hợp lý. Với việc trả lời trực tiếp cho khách hàng hay người dân, lỗi tiếng Việt làm mất uy tín nhanh, nên ưu tiên chất lượng.
Làm sao biết nhà cung cấp đã âm thầm cập nhật mô hình?
Một số nhà cung cấp cho chọn phiên bản cố định, nên dùng tính năng này cho sản phẩm. Ngoài ra, chạy bộ thử định kỳ và theo dõi các chỉ số như tỷ lệ lỗi định dạng, độ dài câu trả lời giúp phát hiện thay đổi bất thường.
Bộ thử nội bộ cần bao nhiêu mẫu là đủ?
Vài chục mẫu đủ để loại những ứng viên kém rõ ràng; vài trăm mẫu cần thiết khi phải phân biệt các ứng viên gần nhau. Mẫu phải đại diện cho dữ liệu thật và có ca khó. Bổ sung dần các lỗi gặp khi chạy thật.
Có cần hỏi ý kiến pháp lý khi chọn mô hình không?
Nên hỏi khi ứng dụng xử lý dữ liệu cá nhân, dữ liệu gửi ra nước ngoài, hoặc sản phẩm thương mại dùng mô hình mở có giấy phép phức tạp. Chi phí một buổi tư vấn nhỏ hơn nhiều so với việc phải thay mô hình sau khi đã ra mắt.
Mô hình mở có luôn rẻ hơn dịch vụ đóng không?
Không hẳn. Tự chạy cần phần cứng, người vận hành, giám sát, cập nhật; với khối lượng nhỏ, dịch vụ đóng thường rẻ hơn tổng thể. Mô hình mở có lợi rõ khi khối lượng lớn, yêu cầu dữ liệu nội bộ, hoặc cần tinh chỉnh sâu.