Dịch máy thống kê học cách dịch từng cụm từ bằng cách đếm xem cụm nào trong tiếng Anh hay đi với cụm nào trong tiếng Việt ở kho văn bản song ngữ; dịch máy nơ-ron đọc cả câu nguồn thành một chuỗi biểu diễn số rồi sinh câu đích từng mảnh một; còn mô hình ngôn ngữ lớn không được làm ra chỉ để dịch mà học rất nhiều ngôn ngữ cùng lúc, rồi dịch như một trong vô số việc nó làm theo chỉ dẫn. Ba cách này khác nhau ở thứ máy học được, nên khác nhau ở kiểu lỗi người dùng tiếng Việt gặp phải.
Hiểu ba thế hệ giúp bạn đọc đúng một bản dịch máy: biết lúc nào câu trơn tru mà sai nghĩa, lúc nào câu vụng mà đúng ý, lúc nào máy bịa thêm một ý không có trong bản gốc. Bài này đi từ dịch theo luật thời đầu tới cách các hệ thống hiện nay lai ghép nhiều kỹ thuật, kèm bảng so sánh và những kiểu lỗi đặc trưng để bạn tự nhận diện. Phần quy trình biên tập bản dịch cho người làm nghề dịch có ở AI Dịch Thuật; ở đây là góc công nghệ.
Trước khi máy biết học: dịch theo luật và từ điển
Thí nghiệm Georgetown–IBM năm 1954 thường được nhắc như buổi trình diễn dịch máy công khai đầu tiên: một máy tính dịch vài chục câu tiếng Nga sang tiếng Anh, dựa trên một bộ từ vựng nhỏ và vài luật ngữ pháp viết tay. Buổi trình diễn gây kỳ vọng rằng vài năm nữa dịch máy sẽ xong. Hơn mười năm sau, báo cáo ALPAC năm 1966 ở Mỹ kết luận dịch máy chậm hơn, đắt hơn và kém hơn người dịch, và tiền tài trợ bị cắt mạnh trong nhiều năm.
Cách làm của thế hệ này là để chuyên gia ngôn ngữ viết luật: phân tích câu nguồn thành cấu trúc ngữ pháp, tra từ điển song ngữ, áp các luật chuyển đổi trật tự, rồi sinh câu đích. Với cặp Anh–Việt, một luật đơn giản kiểu "tính từ đứng trước danh từ trong tiếng Anh thì chuyển ra sau trong tiếng Việt" xử lý được "red house" thành "ngôi nhà đỏ". Nhưng chỉ cần "the house painted red last year" là luật đơn giản không đủ, và mỗi ngoại lệ lại đòi thêm luật.
Điểm mạnh của dịch theo luật là dự đoán được: cùng câu vào luôn cho cùng câu ra, sai ở đâu thì lần ra luật nào gây lỗi. Vì vậy hệ luật vẫn còn chỗ dùng ở những miền rất hẹp và lặp lại, như bản tin thời tiết, mẫu thông báo cố định, nơi văn bản nguồn được viết theo khuôn. Điểm yếu là không mở rộng nổi: ngôn ngữ đời thường có quá nhiều ngoại lệ để người viết luật theo kịp, và mỗi cặp ngôn ngữ phải làm lại gần như từ đầu.
Dịch máy thống kê: đếm trong kho song ngữ
Cuối thập niên 1980 và đầu 1990, nhóm nghiên cứu của IBM đề xuất một hướng khác: đừng viết luật, để máy tự học từ một kho lớn các câu đã có bản dịch. Loạt mô hình IBM (thường gọi IBM Model 1 đến 5, công bố đầy đủ năm 1993) học xác suất một từ tiếng Pháp tương ứng với một từ tiếng Anh, chỉ bằng cách quan sát hàng triệu cặp câu. Từ đó, dịch máy trở thành bài toán thống kê: tìm câu đích có xác suất cao nhất cho câu nguồn đã biết.
Thế hệ thống kê thành công nhất là dịch theo cụm từ, phổ biến từ khoảng năm 2003 với công trình của Koehn, Och và Marcu, và bộ công cụ mã nguồn mở Moses ra đời năm 2007. Máy học một bảng cụm từ: "take care of" thường đi với "chăm sóc", "as soon as possible" đi với "càng sớm càng tốt". Một mô hình ngôn ngữ đếm chuỗi vài từ liền nhau trong tiếng Việt chấm xem câu ghép ra có giống tiếng Việt không, và một mô hình đảo trật tự đoán khi nào cần đổi chỗ các cụm.
Với tiếng Việt, dịch thống kê có ưu thế ở chỗ tiếng Việt là ngôn ngữ đơn lập: chữ không biến hình, nên một âm tiết hay một từ ghép xuất hiện y nguyên trong mọi ngữ cảnh, dễ đếm. Nhưng cửa sổ nhìn của nó hẹp, thường chỉ vài từ. Câu dài với mệnh đề phụ đặt xa nhau bị ghép thành từng mảnh, đọc lên rời rạc, trật tự lộn xộn. Người dùng Việt dùng công cụ dịch trực tuyến trước năm 2016 hẳn còn nhớ những câu đủ từ mà đọc không ra nghĩa.
Dịch máy nơ-ron: đọc cả câu rồi mới viết
Năm 2014, hai nhóm gần như cùng lúc công bố cách dịch bằng mạng nơ-ron theo kiểu mã hoá–giải mã: một mạng đọc câu nguồn, nén thành chuỗi vectơ số, mạng thứ hai sinh câu đích từng từ một. Bahdanau và cộng sự bổ sung cơ chế chú ý, cho phép mạng giải mã, ở mỗi bước, nhìn lại phần câu nguồn liên quan nhất thay vì dựa vào một vectơ nén duy nhất. Năm 2016, Google công bố chuyển dịch vụ dịch sang mạng nơ-ron, và chất lượng nhảy vọt với nhiều cặp ngôn ngữ, người dùng nhận ra ngay.
Năm 2017, kiến trúc Transformer (bài báo "Attention Is All You Need" của Vaswani và cộng sự) bỏ hẳn mạng hồi quy, chỉ dùng cơ chế chú ý, huấn luyện nhanh hơn nhiều trên phần cứng song song. Gần như mọi hệ thống dịch nơ-ron hiện đại và cả mô hình ngôn ngữ lớn đều xây trên nền này. Một kỹ thuật đi kèm quan trọng là tách từ thành mảnh con (subword, ví dụ theo thuật toán BPE do Sennrich và cộng sự đưa vào dịch máy năm 2016), giúp máy xử lý được từ hiếm và tên riêng mà không cần từ điển đóng.
Với tiếng Việt, dịch nơ-ron cho câu trơn tru hơn hẳn: trật tự tự nhiên, từ nối hợp lý, ít câu rời rạc. Nhưng chính sự trơn tru lại sinh ra một rủi ro mới. Máy thống kê sai thì câu vụng, ai đọc cũng thấy. Máy nơ-ron sai thì câu vẫn đọc trôi, chỉ có người so với bản gốc mới phát hiện: một chữ "không" bị bỏ làm đảo nghĩa, một con số bị đổi, một vế câu biến mất. Đây là lý do người làm nghề nói "bản dịch nơ-ron nguy hiểm vì nó nghe hay".
Mô hình ngôn ngữ lớn: dịch như một việc trong nhiều việc
Hệ dịch nơ-ron chuyên dụng được huấn luyện trên cặp câu song ngữ, mục tiêu duy nhất là dịch. Mô hình ngôn ngữ lớn như các chatbot phổ biến hiện nay thì học đoán chữ tiếp theo trên khối văn bản khổng lồ trộn nhiều ngôn ngữ, sau đó được tinh chỉnh để làm theo chỉ dẫn. Khả năng dịch đến từ chỗ mô hình đã thấy rất nhiều văn bản song song hoặc gần song song, và học được cách các ngôn ngữ diễn đạt cùng ý.
Lợi thế rõ nhất là ngữ cảnh và chỉ dẫn. Bạn có thể đưa cả một chương, dặn "xưng em với khách hàng, giữ thuật ngữ theo bảng sau, văn phong thân mật", và mô hình giữ được nhất quán qua nhiều trang, điều mà hệ dịch từng câu khó làm. Nó cũng giải thích được vì sao dịch như vậy, đưa ra vài phương án, chỉnh giọng theo yêu cầu. Các đợt đánh giá dịch máy quốc tế những năm gần đây ghi nhận hệ thống dựa trên mô hình ngôn ngữ lớn đứng trong nhóm đầu ở nhiều cặp ngôn ngữ nhiều dữ liệu.
Cái giá là những kiểu lỗi mới. Mô hình có thể "dịch" thêm một câu không có trong bản gốc, tóm lược thay vì dịch đủ, tự ý sửa nội dung nó cho là sai, hoặc trả lời câu hỏi trong văn bản thay vì dịch câu hỏi đó. Nó chậm hơn và tốn tài nguyên hơn một mô hình dịch chuyên dụng cỡ nhỏ. Và với văn bản nhạy cảm, đưa vào dịch vụ đám mây là câu hỏi về dữ liệu: cần che tên người, số giấy tờ, bí mật kinh doanh trước khi dán vào, hoặc dùng mô hình chạy trong máy nội bộ.
So sánh bốn cách dịch máy
Bảng dưới gom các điểm khác nhau chính. Đây là xu hướng chung, mỗi hệ thống cụ thể có thể lệch khỏi bảng tuỳ cách làm và dữ liệu.
| Tiêu chí | Theo luật | Thống kê theo cụm | Nơ-ron chuyên dụng | Mô hình ngôn ngữ lớn |
|---|---|---|---|---|
| Học từ đâu | luật và từ điển do người viết | kho câu song ngữ, đếm xác suất | kho câu song ngữ, học biểu diễn | văn bản đa ngôn ngữ khổng lồ, rồi tinh chỉnh theo chỉ dẫn |
| Đơn vị dịch | câu, theo cấu trúc phân tích | cụm vài từ | câu | câu, đoạn hoặc cả tài liệu |
| Độ trôi chảy tiếng Việt | cứng, máy móc | rời rạc ở câu dài | trôi chảy | trôi chảy, điều chỉnh được giọng |
| Lỗi đặc trưng | sai khi gặp cấu trúc chưa có luật | trật tự lộn, câu đứt đoạn | bỏ sót, đảo nghĩa mà câu vẫn trôi | thêm ý, tóm lược, tự sửa nội dung |
| Kiểm soát thuật ngữ | tốt, qua từ điển | khá, qua bảng cụm | cần kỹ thuật ràng buộc riêng | qua chỉ dẫn, không chắc chắn tuyệt đối |
| Chi phí chạy | thấp | thấp | vừa | cao hơn, phụ thuộc cỡ mô hình |
Đọc bảng sẽ thấy không có thế hệ nào "thắng mọi mặt". Hệ luật vẫn đáng tin trong miền hẹp; hệ nơ-ron chuyên dụng nhanh, rẻ, hợp cho khối lượng lớn văn bản đồng dạng; mô hình ngôn ngữ lớn hợp khi cần ngữ cảnh dài và chỉ dẫn phức tạp. Khi một đơn vị quảng cáo "có dùng AI để dịch", câu hỏi đáng hỏi là dùng loại nào cho khâu nào, và ai kiểm.
Nhận diện bản dịch qua kiểu lỗi
Câu đủ từ mà đọc không ra nghĩa. Dấu hiệu điển hình của dịch thống kê hoặc hệ thống cũ: mỗi cụm dịch đúng riêng lẻ nhưng ghép lại sai trật tự. Ví dụ giả định: "The report that the manager sent yesterday was wrong" thành "Báo cáo mà quản lý gửi hôm qua đã sai" là đúng, còn "Báo cáo rằng quản lý gửi hôm qua là sai" là kiểu lỗi đếm cụm.
Câu trôi chảy nhưng thiếu một vế. Kiểu lỗi hay gặp của dịch nơ-ron: một mệnh đề phụ, một chữ phủ định, một điều kiện "trừ khi" bị bỏ, câu vẫn tròn trịa. Cách bắt duy nhất là so từng câu với bản gốc, đếm các con số, tên riêng, từ phủ định.
Bản dịch hay hơn bản gốc. Nếu bản dịch tiếng Việt mượt hơn hẳn, có thêm câu chuyển ý, gọn đi những đoạn lặp, có thể mô hình ngôn ngữ lớn đã "biên tập" thay vì dịch. Với tài liệu pháp lý, kỹ thuật, y tế, đây là lỗi nghiêm trọng, dù người đọc thấy dễ chịu.
Xưng hô nhảy loạn giữa các câu. Hệ dịch từng câu không nhớ câu trước, nên cùng một nhân vật lúc "anh" lúc "ông" lúc "bạn". Mô hình ngôn ngữ lớn được đưa cả đoạn thường giữ tốt hơn, nhưng vẫn cần dặn rõ trong chỉ dẫn.
Hệ thống thật hiện nay thường lai ghép
Ít hệ thống dịch nghiêm túc nào hiện nay dựa vào một kỹ thuật duy nhất. Một quy trình hay gặp là: tầng chuẩn hoá văn bản nguồn (sửa lỗi gõ, tách câu, đánh dấu phần không được dịch như mã sản phẩm, đường dẫn), một mô hình dịch nơ-ron chuyên dụng chạy khối lượng lớn, một bảng thuật ngữ bắt buộc áp vào lúc dịch hoặc sau khi dịch, một mô hình ước lượng chất lượng chấm điểm từng câu để biết câu nào cần người xem, và người biên tập ở cuối cho những phần quan trọng.
Mô hình ngôn ngữ lớn thường được chen vào ở những khâu cần hiểu ngữ cảnh: chỉnh xưng hô cho nhất quán, viết lại câu đúng văn phong, giải thích lựa chọn cho người biên tập. Có nơi dùng ngược lại: mô hình lớn dịch nháp, mô hình chuyên dụng và bộ kiểm luật soát lại số, tên riêng, thuật ngữ. Không có công thức chung, tuỳ loại văn bản, khối lượng, yêu cầu bảo mật và ngân sách.
Với người dùng phổ thông, bài học thực tế là: đừng hỏi "công cụ nào dịch tốt nhất" một cách chung chung. Hãy hỏi công cụ đó dùng loại mô hình gì, có cho đưa thuật ngữ và ngữ cảnh vào không, có gửi văn bản của bạn ra máy chủ nước ngoài không, và bạn có cách nào kiểm câu nào đáng ngờ. Tính năng thay đổi nhanh theo từng phiên bản, nên kiểm thông tin hiện hành của chính công cụ trước khi giao việc quan trọng.
Câu hỏi thường gặp
Dịch máy nơ-ron và mô hình ngôn ngữ lớn có phải cùng một thứ không?
Cùng nền kiến trúc Transformer nhưng khác mục tiêu huấn luyện. Hệ dịch nơ-ron chuyên dụng học trên cặp câu song ngữ chỉ để dịch, thường nhỏ và nhanh. Mô hình ngôn ngữ lớn học trên văn bản đa ngôn ngữ để làm nhiều việc, dịch chỉ là một việc, nên linh hoạt hơn nhưng có kiểu lỗi riêng như thêm ý hoặc tóm lược.
Vì sao năm 2016 người dùng thấy công cụ dịch tiếng Việt tốt hẳn lên?
Quanh thời điểm đó các dịch vụ dịch lớn chuyển từ dịch thống kê theo cụm sang dịch nơ-ron. Dịch nơ-ron đọc cả câu trước khi sinh bản dịch nên trật tự tự nhiên hơn, ít câu rời rạc. Với tiếng Việt, khác biệt dễ thấy nhất là câu dài có mệnh đề phụ không còn bị ghép lộn xộn.
Dịch theo luật còn ai dùng không?
Còn, ở những miền hẹp và lặp lại như bản tin thời tiết, thông báo theo mẫu, nhãn hàng hoá có cấu trúc cố định, nơi cần kết quả dự đoán được và sửa được ngay. Luật cũng hay xuất hiện như một tầng phụ trong hệ thống hiện đại, ví dụ để giữ nguyên số, đơn vị, mã hàng.
Máy dịch tốt hơn thì có cần người kiểm nữa không?
Vẫn cần với văn bản có hậu quả, như hợp đồng, hướng dẫn dùng thuốc, tài liệu kỹ thuật an toàn. Bản dịch trôi chảy làm lỗi khó thấy hơn chứ không làm lỗi biến mất. Mức kiểm tuỳ rủi ro: thư nội bộ có thể đọc lướt, văn bản pháp lý cần người dịch có chuyên môn đối chiếu từng câu.
Có nên dán tài liệu công ty vào chatbot để dịch không?
Tuỳ chính sách dữ liệu của công cụ và của công ty bạn. Nhiều dịch vụ đám mây có thể lưu nội dung để cải thiện mô hình nếu không tắt. Trước khi dán, che tên người, số giấy tờ, số tài khoản, bí mật kinh doanh; với tài liệu mật, dùng giải pháp chạy nội bộ hoặc gói doanh nghiệp có cam kết không dùng dữ liệu.
Tiếng Việt là ngôn ngữ đơn lập thì dễ hay khó cho dịch máy?
Vừa dễ vừa khó. Dễ vì chữ không biến hình, một từ xuất hiện y nguyên trong mọi ngữ cảnh. Khó vì nhiều thông tin tiếng Anh ghi bằng hình thái từ, như thì, số nhiều, mạo từ, thì tiếng Việt lại bỏ trống hoặc diễn đạt bằng ngữ cảnh và hư từ, khiến máy phải đoán khi dịch chiều Việt–Anh.