VietASI.comVietASI
OCR chữ Việt và số hoá tài liệu

Nhận dạng chữ Hán Nôm bằng máy: vì sao khó, Unicode, phiên âm và bài toán bảo tồn

Máy đọc chữ Hán Nôm khó hơn chữ quốc ngữ nhiều: hàng chục nghìn chữ, dị thể, chữ chưa có mã Unicode, và đọc được chưa phải hiểu được. Bức tranh chung, chỗ cần chuyên gia.

Close-up of an aged carved wooden printing block resting on dark cloth in a museum workroom, carved characters softly blurred, raking side light, macro shot, deep brown and gold tones

Máy nhận dạng chữ Hán Nôm khó hơn nhận dạng chữ quốc ngữ rất nhiều, vì số chữ cần phân biệt lên tới hàng chục nghìn thay vì vài trăm ký tự, có nhiều dị thể cho cùng một chữ, văn bản viết dọc từ phải sang trái, thường là bản khắc gỗ hoặc chép tay, và không ít chữ Nôm chưa có mã Unicode hoặc chưa có phông hiển thị. Hơn nữa, nhận dạng ra mặt chữ mới là bước đầu: phiên âm sang quốc ngữ và dịch nghĩa là hai bước khác, cần ngữ cảnh và hiểu biết chuyên môn.

Công nghệ đã giúp được nhiều việc, như tìm nhanh mặt chữ trong kho ảnh lớn, gợi ý chữ cho người đọc, sắp xếp tư liệu. Nhưng với người đang cầm một cuốn gia phả hay một bức hoành phi muốn biết nội dung, câu trả lời trung thực là máy chỉ nên là trợ lý, còn kết luận cần người đọc được chữ Hán Nôm. Bài này giải thích vì sao, và cách góp phần bảo tồn đúng cách.

Chữ Hán, chữ Nôm và vì sao người Việt ngày nay cần máy giúp

Trong nhiều thế kỷ, văn bản hành chính, học thuật ở Việt Nam chủ yếu viết bằng chữ Hán. Song song, người Việt tạo ra chữ Nôm, dựa trên chất liệu chữ Hán, để ghi lại tiếng Việt: có chữ mượn nguyên chữ Hán để ghi âm, có chữ ghép một phần chỉ nghĩa với một phần chỉ âm. Nhiều tác phẩm văn học lớn được viết bằng chữ Nôm, tiêu biểu là Truyện Kiều của Nguyễn Du. Gộp hai hệ chữ này lại, người ta thường gọi chung là di sản Hán Nôm.

Từ khi chữ quốc ngữ trở thành chữ viết chính thức trong thế kỷ 20, số người đọc thông thạo chữ Hán Nôm giảm mạnh. Trong khi đó, lượng tư liệu còn lại rất lớn: sách in khắc gỗ, sách chép tay, văn bia, sắc phong, gia phả, địa bạ, câu đối, hoành phi. Mộc bản triều Nguyễn, những tấm ván khắc gỗ dùng để in sách của triều đình, đã được UNESCO ghi danh là Di sản tư liệu thế giới năm 2009, cho thấy tầm quan trọng quốc tế của khối tư liệu này.

Khoảng cách giữa khối lượng tư liệu và số người đọc được chính là lý do công nghệ nhận dạng được kỳ vọng nhiều. Các cơ quan nghiên cứu như Viện Nghiên cứu Hán Nôm, các thư viện và nhiều nhóm trong, ngoài nước đã và đang làm việc số hoá, lập cơ sở dữ liệu chữ và văn bản. Nhận dạng tự động là một mắt xích trong chuỗi đó, không phải toàn bộ.

Năm lý do chữ Hán Nôm khó với máy

Số lượng chữ rất lớn và phân bố lệch. Chữ quốc ngữ chỉ cần phân biệt vài trăm ký tự kể cả dấu. Với chữ Hán Nôm, bộ nhận dạng phải phân biệt hàng chục nghìn chữ, trong đó một nhóm nhỏ xuất hiện rất thường xuyên còn phần lớn hiếm khi gặp. Chữ hiếm có ít mẫu để máy học, nên chính những chữ cần tra nhất lại là chữ máy yếu nhất.

Dị thể và lối viết. Một chữ có thể có nhiều cách viết: dạng chính, dạng giản lược, dạng do thợ khắc hay người chép quen tay, dạng chữ thảo bay bổng. Chữ Nôm còn thêm biến thể theo vùng, theo thời kỳ, theo người viết. Máy phải học rằng những hình khác nhau đó là cùng một chữ.

Chất liệu và kỹ thuật. Bản in khắc gỗ có nét dày mỏng không đều, ván mòn làm mất nét; văn bia bị phong hoá; giấy dó cũ bị mối mọt, ố vàng, thấm mực. Ảnh chụp những tư liệu này thường kém đều về sáng tối và độ nét.

Bố cục. Văn bản viết dọc, đọc từ trên xuống, cột từ phải sang trái, có chú thích chữ nhỏ chen giữa hai cột, có con dấu đè lên chữ. Bước phân vùng và xác định thứ tự đọc khác hoàn toàn văn bản quốc ngữ ngang.

Mã hoá và phông chữ. Nhiều chữ Nôm đã được đưa vào Unicode trong các khối chữ mở rộng, nhờ công sức đề xuất của các chuyên gia Việt Nam và quốc tế, nhưng vẫn còn những chữ chưa có mã. Ngay cả chữ đã có mã, máy tính của người dùng nhiều khi thiếu phông để hiển thị. Máy có thể "nhận ra" một chữ nhưng không có cách nào ghi nó thành văn bản số chuẩn.

Nhận dạng, phiên âm, dịch nghĩa: ba bước khác nhau

Nhiều người kỳ vọng chụp ảnh là ra ngay bản tiếng Việt hiện đại. Thực tế có ba bước, mỗi bước có loại khó riêng và mức độ máy giúp được khác nhau.

BướcLàm gìKhó ở đâuMáy giúp được tới đâu
Nhận dạng mặt chữTừ ảnh ra mã chữ Hán hoặc NômDị thể, chữ hiếm, chữ chưa có mã, ảnh xấuKhá với chữ in rõ, phổ biến; yếu với chữ thảo, chữ hiếm
Phiên âmĐổi mặt chữ sang âm đọc quốc ngữMột chữ Nôm có thể có nhiều cách đọc; chọn âm cần ngữ cảnhGợi ý được, nhưng phải người đọc thẩm định
Dịch nghĩa, chú giảiHiểu và diễn đạt bằng tiếng Việt hiện đạiĐiển cố, từ cổ, văn phong, bối cảnh lịch sửChỉ nên coi là bản tham khảo thô

Với văn bản chữ Hán, phiên âm Hán Việt tương đối đều hơn, nhưng đọc âm Hán Việt chưa phải là hiểu: một câu văn Hán cổ đọc lên bằng âm Hán Việt vẫn cần dịch mới hiểu được. Với chữ Nôm, chính bước phiên âm đã là chỗ dễ sai, vì cùng một mặt chữ có thể ghi những âm khác nhau tuỳ văn cảnh. Chatbot đa năng có thể "dịch" trơn tru một đoạn Hán văn, nhưng bản dịch đó có thể sai nghĩa mà người không đọc được chữ gốc không phát hiện ra.

Mô hình hiện đại đã thay đổi được những gì

Các kỹ thuật học sâu đã cải thiện nhận dạng chữ Hán nói chung khá nhiều, nhờ kho dữ liệu lớn của các nước dùng chữ Hán. Chữ Nôm được hưởng lợi một phần, vì nhiều chữ Nôm có cấu tạo từ các bộ phận chữ Hán quen thuộc. Một số dự án nghiên cứu đã thử nhận dạng theo cột thay vì theo từng chữ, tương tự cách nhận dạng chữ viết tay theo dòng, giúp xử lý tốt hơn bản in khắc gỗ có chữ sát nhau.

Hướng hữu ích nhất trong thực tế là máy làm trợ lý cho người đọc: gợi ý vài chữ có khả năng nhất cho mỗi vị trí, để chuyên gia chọn; tìm tất cả chỗ một chữ xuất hiện trong kho ảnh; hoặc đối chiếu các bản khác nhau của cùng một tác phẩm. Cách làm này tận dụng tốc độ của máy và hiểu biết của người, thay vì đòi máy tự đọc trọn vẹn.

Cũng cần nói rõ giới hạn: những bản thảo chữ thảo, gia phả chép tay của từng dòng họ, văn bia mòn vẫn là thách thức lớn. Mọi kết quả máy đọc từ những loại tư liệu này nên được coi là bản nháp chờ chuyên gia xác nhận.

Với người làm công nghệ muốn đóng góp, điểm nghẽn lớn nhất thường không phải mô hình mà là dữ liệu: ảnh chữ đã được chuyên gia xác nhận mặt chữ, cắt đúng vị trí, gắn đúng mã. Mỗi trang dữ liệu như vậy tốn công của người đọc được chữ, nên sự hợp tác giữa nhóm công nghệ và giới nghiên cứu Hán Nôm là điều kiện tiên quyết.

Gia đình có tư liệu Hán Nôm: số hoá và nhờ đọc đúng cách

Rất nhiều gia đình còn giữ gia phả, sắc phong, văn tự đất đai, câu đối bằng chữ Hán Nôm. Những bước sau giúp bảo vệ tư liệu và có được bản đọc đáng tin.

  1. Đừng tự tháo, ép, dán. Giấy dó cũ rất giòn; không bóc trang dính, không dùng băng dính, không ép phẳng bằng bàn là. Nếu tư liệu hư hại nặng, hỏi ý kiến người làm bảo quản.
  2. Chụp toàn bộ, kể cả trang trắng và bìa. Chụp từng trang theo thứ tự, ánh sáng tán xạ, máy song song mặt giấy, kèm thước hoặc vật chuẩn kích thước ở mép ảnh.
  3. Ghi lại bối cảnh. Tư liệu của chi nào, ai giữ, cất ở đâu, từng được ai đọc chưa; những thông tin này giúp người đọc chọn cách phiên âm đúng tên người, tên đất.
  4. Dùng công cụ nhận dạng để có cái nhìn đầu tiên. Có thể biết tư liệu viết chữ Hán hay chữ Nôm, thuộc loại văn bản gì, nhưng không dựa vào đó để kết luận nội dung.
  5. Nhờ người đọc được chữ Hán Nôm thẩm định. Có thể liên hệ các cơ quan nghiên cứu, khoa Hán Nôm ở trường đại học, hoặc người có chuyên môn đáng tin trong vùng.
  6. Lưu ba lớp. Ảnh gốc, bản phiên âm và bản dịch, mỗi bản ghi rõ ai làm, ngày nào; nhiều bản sao ở nhiều nơi.
  7. Cân nhắc trước khi công khai. Gia phả có tên tuổi, quan hệ của người còn sống; văn tự đất đai có thể liên quan đến quyền lợi hiện tại. Thống nhất trong gia đình trước khi đưa lên mạng.

Nếu gia đình đồng ý, việc chia sẻ bản chụp chất lượng cao cho một kho lưu trữ hay dự án bảo tồn đáng tin cũng là đóng góp có ý nghĩa: mỗi tư liệu dân gian được số hoá là thêm dữ liệu cho nghiên cứu và cho chính các công cụ nhận dạng sau này.

Bảo tồn chữ Nôm trong thời AI: điều có thể làm và điều cần tỉnh táo

Bảo tồn di sản Hán Nôm không chỉ là chụp ảnh. Nó gồm bảo quản vật lý, lập danh mục, số hoá ảnh, chuẩn hoá mã chữ, xây dựng từ điển và cơ sở dữ liệu, đào tạo người đọc, và cuối cùng là đưa nội dung đến công chúng bằng bản phiên âm, dịch nghĩa có chú giải. AI có thể giúp ở nhiều khâu, nhất là khâu tìm kiếm và gợi ý, nhưng không thay thế được khâu đào tạo con người.

Một mối lo thực tế là sự tự tin giả. Khi chatbot đưa ra một bản dịch gia phả nghe rất hợp lý, người dùng dễ tin mà không biết rằng tên một vị tổ tiên có thể đã bị đọc sai, hay một câu đối bị hiểu ngược ý. Cách tự bảo vệ đơn giản: mọi bản dịch do máy làm phải ghi rõ là bản máy, chưa thẩm định, và không đem khắc lên bia, in thành sách khi chưa có người đọc được chữ gốc xác nhận.

Ở chiều tích cực, chính nhu cầu của các công cụ nhận dạng đã thúc đẩy việc gom dữ liệu chữ, mã hoá thêm chữ vào Unicode và chuẩn hoá phông. Người trẻ học công nghệ có thể đóng góp bằng cách tham gia dự án mở, gán nhãn dữ liệu dưới hướng dẫn chuyên gia, hoặc đơn giản là giúp gia đình mình số hoá tư liệu đúng cách.

Câu hỏi thường gặp

Có ứng dụng nào chụp ảnh là dịch được gia phả chữ Hán không?

Có những công cụ đọc ảnh chữ Hán và đưa ra bản dịch, và một số chatbot cũng làm được việc này ở mức tham khảo. Nhưng với gia phả, nơi tên người, tên đất, niên hiệu cần chính xác, bản máy chỉ nên dùng để biết sơ bộ nội dung. Bản dùng chính thức cần người đọc được chữ Hán Nôm thẩm định.

Vì sao máy đọc chữ Nôm kém hơn chữ Hán?

Chữ Hán có kho dữ liệu khổng lồ từ nhiều nước, còn chữ Nôm chỉ dùng ở Việt Nam, ít dữ liệu đã gán nhãn hơn nhiều, có nhiều dị thể theo vùng và người viết, và còn những chữ chưa có mã Unicode. Ngoài ra bước phiên âm chữ Nôm cần hiểu tiếng Việt cổ, việc mà công cụ chữ Hán nói chung không được thiết kế để làm.

Chữ Nôm đã có trong Unicode chưa?

Phần lớn chữ Nôm thường gặp đã được mã hoá trong các khối chữ mở rộng của Unicode, nhờ quá trình đề xuất kéo dài nhiều năm của chuyên gia trong và ngoài nước. Tuy vậy vẫn còn chữ chưa có mã, và máy tính thông thường nhiều khi thiếu phông để hiển thị các khối mở rộng, nên chữ hiện thành ô vuông.

Phiên âm và dịch nghĩa khác nhau thế nào?

Phiên âm là ghi lại âm đọc của từng chữ bằng chữ quốc ngữ, ví dụ đọc một câu Hán văn theo âm Hán Việt. Dịch nghĩa là diễn đạt nội dung bằng tiếng Việt hiện đại. Với văn bản chữ Hán, đọc được âm chưa có nghĩa là hiểu; với chữ Nôm, phiên âm đã là đọc ra tiếng Việt nhưng vẫn cần chú giải từ cổ.

Muốn góp sức bảo tồn chữ Hán Nôm thì có thể làm gì?

Có thể số hoá đúng cách tư liệu của gia đình và chia sẻ cho kho lưu trữ đáng tin nếu gia đình đồng ý, tham gia các dự án mở về dữ liệu chữ dưới hướng dẫn chuyên gia, học chữ Hán Nôm qua các lớp của trường đại học, cơ quan nghiên cứu, hoặc hỗ trợ việc gán nhãn, kiểm tra dữ liệu cho công cụ nhận dạng.

Có nên dùng bản dịch của chatbot để khắc bia hay in sách họ?

Không nên. Bản dịch máy có thể nghe rất hợp lý nhưng sai tên người, niên đại hoặc ý câu. Những thứ khắc lên đá hay in thành sách khó sửa và được con cháu tin theo nhiều đời. Hãy dùng bản máy làm nháp và chỉ dùng chính thức sau khi người đọc được chữ gốc xác nhận.

Cần tư vấn cụ thể cho trường hợp của bạn?

Chúng tôi sẽ liên hệ trong vòng 24 giờ.

Đăng ký tư vấn ngay

Bài viết liên quan

Bạn cần hỗ trợ thêm?

Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.

hoặc
Gọi ngay 0926 138 138