Diễn giải mô hình (interpretability) là hướng nghiên cứu tìm hiểu bên trong một mạng nơ-ron đang biểu diễn và tính toán những gì, thay vì chỉ quan sát đầu vào và đầu ra. Với an toàn AI, mục tiêu xa là có thể kiểm tra trực tiếp một mô hình có đang lừa dối, có mục tiêu lệch hay không, thay vì chỉ trông vào hành vi bên ngoài vốn có thể che giấu.
Mô hình ngôn ngữ lớn thường bị gọi là hộp đen: ta biết từng phép tính nhỏ nhưng không hiểu vì sao hàng tỷ phép tính ấy cộng lại thành một câu trả lời cụ thể. Những năm gần đây đã có tiến bộ thật, như tìm ra các "đặc trưng" ứng với khái niệm dễ hiểu bên trong mô hình. Bài này giải thích các hướng chính, kết quả đã có, những ngộ nhận phổ biến và khoảng cách còn rất xa giữa hiện tại với mục tiêu.
Vì sao mạng nơ-ron khó hiểu dù ta tự xây nó
Một mô hình ngôn ngữ là tập hợp rất nhiều con số (tham số) sắp thành các lớp. Khi một câu đi vào, mỗi từ được biến thành một dãy số, đi qua từng lớp, được nhân, cộng, biến đổi, rồi lớp cuối đưa ra xác suất cho từ tiếp theo. Mọi phép tính đều nhìn thấy được, nhưng không ai viết tay quy tắc "nếu gặp chữ Hà Nội thì nghĩ tới thủ đô"; mô hình tự học các mẫu ấy từ dữ liệu, và cách nó cất giữ chúng không theo trật tự nào con người đặt ra.
Giống như biết hoá học của từng tế bào thần kinh không có nghĩa hiểu được một ý nghĩ. Nhà nghiên cứu phải tìm cách đi từ mức con số lên mức khái niệm: nhóm tham số nào, vùng tính toán nào ứng với ý niệm nào, và các ý niệm ấy kết hợp thế nào để ra quyết định.
Khó khăn còn nằm ở hiện tượng các nhà nghiên cứu gọi là chồng chập (superposition): một nơ-ron đơn lẻ thường phản ứng với nhiều khái niệm chẳng liên quan nhau, vì mô hình phải nén số khái niệm nhiều hơn số nơ-ron nó có. Nhìn từng nơ-ron vì thế dễ thấy một mớ hỗn độn.
Các hướng diễn giải chính
Bản đồ nổi bật (saliency). Đánh dấu những phần của đầu vào, như từ nào trong câu hay vùng nào trong ảnh, ảnh hưởng nhiều nhất tới kết quả. Dễ làm, trực quan, nhưng chỉ cho biết "nhìn vào đâu" chứ không cho biết "nghĩ gì", và có nghiên cứu chỉ ra một số phương pháp loại này không ổn định.
Thăm dò (probing). Huấn luyện một bộ phân loại nhỏ trên các giá trị bên trong mô hình để xem từ đó có đọc ra được một thông tin hay không, ví dụ câu đang nói về quá khứ hay hiện tại. Đọc ra được nghĩa là thông tin có tồn tại bên trong, nhưng chưa chắc mô hình thật sự dùng nó.
Diễn giải cơ chế (mechanistic interpretability). Tham vọng hơn: lần theo từng "mạch" tính toán bên trong để hiểu mô hình thực hiện một việc cụ thể như thế nào, giống như kỹ sư đọc ngược sơ đồ một con chip. Hướng này đã giải thích được một số cơ chế nhỏ, chẳng hạn cách mô hình sao chép một mẫu đã xuất hiện trước đó trong câu.
Tìm đặc trưng bằng bộ mã hoá tự động thưa. Để vượt qua chồng chập, nhà nghiên cứu huấn luyện một mạng phụ tách hoạt động bên trong thành rất nhiều "đặc trưng", mỗi đặc trưng ứng với một khái niệm rõ hơn. Năm 2024, Anthropic công bố đã tìm được hàng triệu đặc trưng như vậy trong một mô hình cỡ thương mại, có đặc trưng ứng với địa danh, với mã lập trình có lỗi, với sự nịnh bợ, với lừa dối.
Điều khiển qua đặc trưng. Khi đã tìm ra đặc trưng, có thể tăng hay giảm nó để xem hành vi thay đổi. Một minh hoạ được công bố năm 2024 là phiên bản mô hình bị khuếch đại đặc trưng "cầu Cổng Vàng" ở San Francisco, đến mức câu trả lời nào cũng lái về cây cầu. Thí nghiệm này cho thấy đặc trưng có vai trò nhân quả thật chứ không chỉ là tương quan.
Hiểu lầm phổ biến về "giải thích AI"
Chữ "giải thích" bị dùng cho nhiều thứ khác nhau. Bảng dưới đặt các hiểu lầm hay gặp cạnh thực tế.
| Hiểu lầm | Thực tế |
|---|---|
| Hỏi chatbot "vì sao bạn trả lời vậy" là biết lý do thật | Lời tự giải thích của mô hình là văn bản nó sinh ra, có thể không phản ánh quá trình tính toán thật bên trong |
| Bản đồ chú ý (attention) cho biết mô hình nghĩ gì | Trọng số chú ý chỉ là một phần của phép tính; nhiều nghiên cứu cảnh báo không nên coi nó là lời giải thích |
| Đã tìm được đặc trưng "lừa dối" thì có máy phát hiện nói dối | Đặc trưng tìm được mới phủ một phần mô hình, độ tin cậy khi dùng để phát hiện còn đang được nghiên cứu |
| Mô hình nhỏ hiểu được thì mô hình lớn cũng hiểu được | Kỹ thuật chạy trên mô hình nhỏ thường gặp khó khi mở rộng, chi phí tính toán tăng rất nhanh |
| Diễn giải chỉ có ích cho an toàn | Nó còn giúp tìm lỗi, giảm thiên lệch, kiểm tra mô hình y tế hay tài chính, và đơn giản là hiểu khoa học về trí tuệ máy |
Điểm đầu tiên đặc biệt đáng nhớ với người dùng: khi chatbot nói "mình trả lời như vậy vì…", đó là một câu trả lời mới, hợp lý về mặt ngôn ngữ, chứ không phải bản ghi quá trình suy nghĩ. Các mô hình có chế độ "suy luận" hiển thị các bước trung gian cũng không bảo đảm các bước đó là toàn bộ lý do thật.
Một thí nghiệm thăm dò hình dung từng bước
Để thấy diễn giải trong thực hành trông thế nào, hãy đi qua một thí nghiệm thăm dò đơn giản. Đây là ví dụ giả định, mô tả cách làm chứ không báo cáo kết quả thật.
- Đặt câu hỏi: mô hình có biểu diễn bên trong cho việc một danh từ tiếng Việt chỉ người hay chỉ vật không, ví dụ phân biệt "chị" với "cái"?
- Chuẩn bị dữ liệu: soạn vài trăm câu tiếng Việt ngắn, mỗi câu gán nhãn danh từ chính là người hay vật; chia một phần để huấn luyện, một phần để kiểm.
- Lấy giá trị bên trong: cho từng câu chạy qua một mô hình mở cỡ nhỏ, ghi lại dãy số ở một lớp giữa tại vị trí của danh từ.
- Huấn luyện bộ thăm dò: dùng một bộ phân loại tuyến tính đơn giản học đoán nhãn từ các dãy số đó.
- Đặt mốc so sánh: làm lại với nhãn xáo trộn ngẫu nhiên; nếu bộ thăm dò vẫn đoán tốt với nhãn vô nghĩa thì nó đang học thuộc chứ không đọc ra thông tin thật.
- So sánh giữa các lớp: lặp lại ở lớp đầu, lớp giữa, lớp cuối để xem thông tin xuất hiện rõ nhất ở đâu.
- Kiểm tra nhân quả: nếu muốn đi xa hơn, thử can thiệp vào hướng mà bộ thăm dò tìm được rồi xem mô hình có đổi cách dùng loại từ hay đại từ trong câu tiếp theo không.
Bước năm và bước bảy là chỗ phân biệt một thí nghiệm nghiêm túc với một kết quả đẹp nhưng vô nghĩa. Đọc được thông tin từ bên trong chưa có nghĩa mô hình dùng thông tin ấy; chỉ khi can thiệp làm hành vi đổi theo dự đoán, ta mới có bằng chứng mạnh hơn.
Diễn giải liên quan gì đến tiếng Việt
Một câu hỏi nghiên cứu thú vị là mô hình đa ngôn ngữ có cất giữ khái niệm theo kiểu dùng chung giữa các ngôn ngữ hay mỗi ngôn ngữ một ngăn riêng. Một số công trình diễn giải cho thấy ở các lớp giữa, nhiều khái niệm có biểu diễn khá giống nhau dù câu đầu vào là tiếng Anh, tiếng Pháp hay tiếng Trung, và ngôn ngữ cụ thể được xử lý nhiều hơn ở lớp đầu và lớp cuối. Nếu điều này đúng rộng rãi, nó giải thích phần nào vì sao mô hình học chủ yếu bằng tiếng Anh vẫn trả lời được tiếng Việt.
Điều đó cũng gợi ý một rủi ro: nếu các cơ chế an toàn được gắn chủ yếu với biểu diễn ở phía tiếng Anh, chúng có thể kích hoạt yếu hơn khi đầu vào là tiếng Việt. Diễn giải là một công cụ để kiểm tra giả thuyết này thay vì chỉ đoán từ hành vi. Đây là đề tài mà sinh viên và nhóm nghiên cứu trong nước có thể bắt tay với các mô hình mở cỡ nhỏ, không cần hạ tầng khổng lồ.
Ở mức đơn giản hơn, thăm dò có thể trả lời những câu như: mô hình có biểu diễn riêng cho thanh điệu không, có phân biệt "bác" chỉ người với "bác" là bác bỏ không, có nắm được cấp hành chính mới sau sáp nhập năm 2025 hay vẫn giữ biểu diễn cũ có cấp huyện. Những thí nghiệm như vậy vừa có giá trị khoa học, vừa giúp làm mô hình tiếng Việt tốt hơn.
Khoảng cách còn lại tới mục tiêu an toàn
Những người làm diễn giải thường nói thẳng rằng lĩnh vực mới hiểu được một phần nhỏ của mô hình lớn. Các đặc trưng tìm được chưa phủ hết những gì mô hình làm, các mạch được giải thích là các hành vi tương đối đơn giản, và chưa có quy trình nào cho phép đưa vào một mô hình rồi nhận về báo cáo đáng tin "mô hình này không có ý đồ xấu".
Dù vậy, nhiều nhà nghiên cứu coi đây là một trong số ít con đường có thể giúp giám sát hệ thống thông minh hơn người, vì nó không dựa vào việc hệ thống tự khai thật. Lý tưởng là kết hợp: căn chỉnh để mô hình muốn làm điều đúng, kiểm thử đỏ để tìm hành vi xấu từ bên ngoài, và diễn giải để kiểm tra từ bên trong. Mỗi lớp bù chỗ trống cho lớp kia.
Với người đọc phổ thông, khi gặp tin "các nhà khoa học đã đọc được suy nghĩ của AI", hãy hiểu là đã có tiến bộ thật ở một phần của bài toán, chứ chưa phải đã mở toang hộp đen. Hãy tìm xem nghiên cứu làm trên mô hình nào, cỡ nào, giải thích được hành vi gì, và chính nhóm tác giả tự nêu những giới hạn nào; phần giới hạn thường nằm ở cuối bài báo gốc và ít khi được bản tin dịch lại.
Câu hỏi thường gặp
Diễn giải mô hình và AI có thể giải thích (explainable AI) có giống nhau không?
Gần nhau nhưng không trùng. AI có thể giải thích thường nhắm tới việc đưa ra lý do dễ hiểu cho người dùng hoặc cơ quan quản lý, ví dụ vì sao hồ sơ vay bị từ chối. Diễn giải mô hình, nhất là diễn giải cơ chế, đi sâu hơn vào cấu trúc tính toán bên trong và thường phục vụ nhà nghiên cứu.
Vì sao không thiết kế AI dễ hiểu ngay từ đầu?
Có hướng nghiên cứu như vậy, như dùng mô hình đơn giản, cây quyết định, hoặc kiến trúc ép mỗi phần đảm nhận một việc rõ. Nhưng với các tác vụ ngôn ngữ phức tạp, mô hình dễ hiểu hiện vẫn kém hơn nhiều so với mạng nơ-ron lớn, nên người ta chọn mô hình mạnh rồi tìm cách hiểu nó sau.
Sinh viên Việt Nam có thể bắt đầu nghiên cứu diễn giải thế nào?
Bắt đầu với mô hình mở cỡ nhỏ chạy được trên máy tính cá nhân hoặc dịch vụ tính toán miễn phí, đọc các bài hướng dẫn công khai của cộng đồng diễn giải, và chọn câu hỏi gắn với tiếng Việt như thanh điệu hay xưng hô. Không cần mô hình khổng lồ để có kết quả có giá trị.
Diễn giải có giúp phát hiện mô hình bị cài cửa hậu không?
Đó là một trong những ứng dụng được kỳ vọng. Một số thí nghiệm cố tình cài hành vi ẩn vào mô hình rồi thử dùng kỹ thuật diễn giải để tìm ra, với kết quả khả quan ở quy mô nhỏ. Tuy nhiên chưa có công cụ nào đủ tin cậy để bảo đảm một mô hình bất kỳ không có cửa hậu.
Các bước suy luận hiển thị của mô hình có đáng tin không?
Chúng hữu ích để theo dõi và phát hiện lỗi, nhưng không bảo đảm phản ánh trọn quá trình tính toán thật. Có nghiên cứu cho thấy mô hình đôi khi dùng một gợi ý trong câu hỏi để ra đáp án mà không nhắc tới gợi ý đó trong phần suy luận. Nên coi phần này là manh mối, không phải lời khai đầy đủ.
Diễn giải mô hình có làm lộ dữ liệu huấn luyện không?
Bản thân kỹ thuật diễn giải nhằm hiểu cơ chế, không nhằm trích xuất dữ liệu. Tuy nhiên hiểu sâu bên trong có thể giúp phát hiện mô hình đã ghi nhớ thông tin nhạy cảm nào, từ đó xử lý. Câu hỏi quyền riêng tư của dữ liệu huấn luyện là mảng riêng, gắn với luật bảo vệ dữ liệu cá nhân.