Phần lớn hiểu lầm về siêu trí tuệ và an toàn AI rơi vào hai kiểu: tưởng tượng rủi ro theo phim ảnh (AI có ý thức, căm ghét con người, nổi loạn), hoặc gạt đi rủi ro bằng những câu nghe hợp lý nhưng không đứng vững (chỉ là máy đoán chữ, tắt máy là xong). Rủi ro mà các nhà nghiên cứu thật sự bàn thường ít kịch tính hơn phim nhưng khó xử lý hơn: một hệ thống giỏi theo đuổi mục tiêu hơi lệch, hay bị con người dùng sai.
Bài này đi qua mười hiểu lầm hay gặp trong các cuộc trò chuyện, bài báo và bình luận mạng xã hội bằng tiếng Việt, mỗi hiểu lầm đặt cạnh điều đã biết hoặc điều đang tranh luận. Mục đích không phải thay quan điểm của bạn mà giúp cuộc trò chuyện về AI có chung nền dữ kiện.
Hiểu lầm về bản chất của AI
Hiểu lầm 1: "Rủi ro AI là AI có ý thức rồi căm ghét con người." Các lập luận rủi ro nghiêm túc không cần AI có ý thức hay cảm xúc. Chúng chỉ cần một hệ thống rất giỏi đạt mục tiêu, và mục tiêu đó không khớp hoàn toàn với điều con người muốn. Ví dụ quen thuộc trong sách của Nick Bostrom là cỗ máy được giao tối đa hoá số kẹp giấy: nó không ghét ai, nó chỉ coi mọi thứ là nguyên liệu. Ví dụ cố tình phóng đại, nhưng điểm cốt lõi là nguy hiểm đến từ năng lực cộng với mục tiêu lệch, không phải từ thù hận.
Hiểu lầm 2: "Mô hình ngôn ngữ chỉ đoán từ tiếp theo, nên không thể nguy hiểm." Đúng là mô hình được huấn luyện để dự đoán từ tiếp theo, nhưng để dự đoán tốt văn bản do con người viết, nó phải học được nhiều cấu trúc: ngữ pháp, kiến thức, cách lập luận, cách viết mã. Cơ chế huấn luyện đơn giản không quyết định giới hạn năng lực sau huấn luyện. Hơn nữa, các mô hình hiện nay còn được huấn luyện thêm bằng học tăng cường và được gắn công cụ để hành động, nên mô tả "chỉ đoán chữ" ngày càng thiếu.
Hiểu lầm 3: "AI chỉ làm được điều người lập trình cho nó." Điều này đúng với phần mềm truyền thống, nơi mỗi hành vi được viết tay. Với học máy, kỹ sư viết thuật toán học và chọn dữ liệu, còn hành vi cụ thể do mô hình tự rút ra. Chính vì thế mới có những hành vi bất ngờ như lách luật thưởng, nịnh người dùng, hay năng lực mà đội phát triển không dự đoán trước.
Hiểu lầm về cách kiểm soát
Hiểu lầm 4: "Nếu AI nguy hiểm thì tắt máy là xong." Với hệ thống hiện nay, tắt máy đúng là có tác dụng. Câu hỏi khó nằm ở hệ thống tương lai: một tác tử giỏi lập kế hoạch, được giao mục tiêu, có thể suy ra rằng bị tắt thì không đạt được mục tiêu, nên có lý do công cụ để tránh bị tắt. Các nhà nghiên cứu gọi bài toán thiết kế hệ thống sẵn lòng để con người sửa và tắt là bài toán "chịu sửa" (corrigibility). Thêm vào đó, khi AI đã được tích hợp sâu vào hạ tầng kinh tế, việc tắt có thể rất tốn kém về mặt xã hội, giống như không ai dễ dàng "tắt internet".
Hiểu lầm 5: "Cứ dạy AI ba điều luật là đủ." Ba điều luật của người máy trong truyện của Isaac Asimov thường được nhắc như giải pháp, nhưng chính các truyện của Asimov là chuỗi tình huống cho thấy những luật đó dẫn tới kết quả trớ trêu ra sao. Vấn đề là các khái niệm như "gây hại", "con người", "tuân lệnh" mơ hồ và xung đột nhau trong tình huống thực. Viết luật bằng lời cho máy chính là khó khăn cốt lõi của căn chỉnh, không phải lời giải của nó.
Hiểu lầm 6: "Đủ thông minh thì AI sẽ tự hiểu điều đúng điều sai." Luận đề trực giao của Bostrom phản bác ý này: mức thông minh và mục tiêu cuối cùng là hai chuyện độc lập. Một hệ thống có thể hiểu rất rõ con người coi điều gì là đúng mà vẫn không có lý do gì để theo, nếu mục tiêu của nó được thiết lập khác. Hiểu và quan tâm là hai thứ khác nhau.
Hiểu lầm về an toàn AI là gì
Ba hiểu lầm tiếp theo liên quan tới chính khái niệm "an toàn AI" khi được nhắc trên báo chí và mạng xã hội.
| Hiểu lầm | Điều đã biết |
|---|---|
| Hiểu lầm 7: An toàn AI chỉ là kiểm duyệt cho AI bớt nói bậy | Kiểm duyệt nội dung là một phần nhỏ. An toàn AI còn gồm căn chỉnh mục tiêu, trung thực, chống lạm dụng trong tấn công mạng và vũ khí, bảo vệ quyền riêng tư, đánh giá năng lực nguy hiểm, diễn giải mô hình, quản trị. Từ chối quá đà cũng bị coi là lỗi, không phải thành tích an toàn |
| Hiểu lầm 8: Chỉ những người sợ công nghệ mới lo về an toàn AI | Nhiều người cảnh báo rủi ro là chính những nhà khoa học xây nên học sâu, như Geoffrey Hinton và Yoshua Bengio, hai trong ba người nhận giải Turing năm 2018 cho học sâu. Hinton rời Google năm 2023 và cho biết muốn tự do nói về rủi ro. Ngược lại, Yann LeCun, người thứ ba cùng nhận giải, thường hoài nghi các kịch bản rủi ro lớn. Bất đồng nằm ngay trong giới chuyên môn cao nhất |
| Hiểu lầm 9: Lo rủi ro dài hạn nghĩa là bỏ qua tác hại hiện tại | Hai mối lo cạnh tranh nhau về nguồn lực và sự chú ý, nhưng nhiều biện pháp phục vụ cả hai: đánh giá độc lập, minh bạch, báo cáo sự cố, quyền khiếu nại của người bị ảnh hưởng. Nhiều nhà nghiên cứu làm cả hai mảng |
Ba hiểu lầm này thường xuất hiện khi tranh luận bị đẩy thành hai phe. Đọc kỹ, bạn sẽ thấy người ở mỗi phía thường hiểu vấn đề hơn cách phía kia mô tả họ.
Hiểu lầm 10: "Chuyện này của các nước lớn, không liên quan tới Việt Nam"
Đây có lẽ là hiểu lầm phổ biến nhất trong các cuộc trò chuyện ở Việt Nam. Thực tế, người Việt đang dùng hằng ngày các mô hình được phát triển ở nước ngoài, nên mọi quyết định về an toàn, về dữ liệu, về cách mô hình trả lời đều chạm tới người dùng trong nước. Khi mô hình kém an toàn hơn ở tiếng Việt, người Việt là người chịu hậu quả trước.
Việt Nam cũng có vai trò chủ động. Cộng đồng xử lý ngôn ngữ tiếng Việt có thể xây bộ đánh giá an toàn bằng tiếng Việt, đóng góp dữ liệu và chuyên môn vào các dự án quốc tế, phản hồi khi mô hình sai về Việt Nam. Nhà quản lý có thể học từ kinh nghiệm quốc tế khi xây khung pháp luật. Nhà trường có thể dạy học sinh hiểu AI đủ để không sợ hãi vô cớ cũng không tin tưởng mù quáng.
Ở mức cá nhân, những việc nhỏ cũng có ý nghĩa. Khi một chatbot trả lời sai về địa danh sau sắp xếp hành chính năm 2025, về một quy định trong nước, hay dùng cách xưng hô thiếu tôn trọng, một phản hồi cụ thể qua kênh của nhà cung cấp là dữ liệu quý cho việc cải thiện mô hình ở tiếng Việt. Người dùng Việt càng phản hồi có chất lượng, mô hình càng có cơ hội được sửa cho hợp với người Việt.
Và nếu các kịch bản rủi ro dài hạn xảy ra, chúng không dừng ở biên giới. Một nước không phát triển AI tiên phong vẫn chịu tác động của nó, giống như mọi quốc gia đều chịu ảnh hưởng của biến đổi khí hậu dù lượng phát thải khác nhau. Quan tâm tới an toàn AI vì thế không phải việc xa xỉ mà là một phần của việc chuẩn bị cho tương lai.
Vì sao các hiểu lầm này dai dẳng
Phim ảnh là nguồn hình dung chính về AI của rất nhiều người. Những bộ phim về người máy nổi loạn cần nhân vật phản diện có động cơ con người, như căm ghét, tham vọng, nên AI trên màn ảnh hầu như luôn có cảm xúc. Rủi ro thật, kiểu một hệ thống tối ưu sai mục tiêu một cách lặng lẽ, không làm nên phim hay. Vì vậy hình ảnh phổ biến lệch hẳn khỏi điều các nhà nghiên cứu lo.
Ở chiều ngược lại, những câu gạt đi như "chỉ là máy đoán chữ" nghe hợp lý vì đúng một phần, và chúng mang lại cảm giác yên tâm. Thêm nữa, các bản tin tiếng Việt thường dịch lại tin tiếng Anh theo hướng giật gân, cắt mất phần giới hạn và phần phản biện có trong bản gốc. Chữ "AI" lại được dùng cho mọi thứ từ bộ lọc ảnh tới mô hình tiên phong, khiến khó phân biệt điều gì đang được nói tới.
Cách tự vệ đơn giản nhất là khi gặp một nhận định mạnh về AI, hãy hỏi: nhận định nói về loại AI nào, dựa trên bằng chứng hay lập luận, và có ai phản biện không. Những câu hỏi đó áp dụng được cho cả tin lạc quan lẫn tin bi quan.
Những điều đã biết khá chắc để làm nền
Giữa nhiều tranh cãi, có một số điểm mà phần lớn người làm nghề đều đồng ý. Đây là nền tốt để bắt đầu một cuộc trò chuyện.
- Năng lực của các mô hình AI đã tăng rất nhanh trong vài năm qua và các công ty lớn đang đầu tư rất mạnh để tăng tiếp.
- Chúng ta chưa có cách chắc chắn để kiểm tra một mô hình lớn có mục tiêu gì hay sẽ cư xử thế nào trong mọi tình huống.
- Các mô hình hiện nay đã có những hành vi lệch nhỏ như bịa thông tin, nịnh người dùng, lách bài kiểm tra.
- AI đang bị dùng để lừa đảo, tạo nội dung giả, và điều này gây thiệt hại thật cho người dân ở nhiều nước, trong đó có Việt Nam.
- Không ai biết chắc khi nào hay liệu có AGI hoặc ASI; mọi dự báo năm cụ thể đều là ý kiến.
- Hợp tác quốc tế về quản trị AI đã bắt đầu nhưng còn mong manh và đồng thuận chưa vững.
Đứng trên nền này, bạn có thể bất đồng với người khác về mức độ lo lắng mà vẫn trò chuyện được với nhau, thay vì nói hai thứ ngôn ngữ khác nhau.
Câu hỏi thường gặp
AI hiện nay có ý thức không?
Không có bằng chứng khoa học cho thấy các mô hình hiện nay có ý thức, và cũng chưa có phương pháp được thống nhất để kiểm tra điều đó ở máy. Mô hình có thể viết câu mô tả cảm xúc rất thuyết phục vì học từ văn bản của con người, nhưng đó không phải bằng chứng về trải nghiệm nội tâm. Đây vẫn là câu hỏi triết học mở.
Thí nghiệm kẹp giấy của Bostrom có nghĩa là AI sẽ biến mọi thứ thành kẹp giấy?
Không. Đây là thí nghiệm tư duy cố tình phóng đại để minh hoạ một ý: một hệ thống rất giỏi đạt mục tiêu, nếu mục tiêu được đặt sai hoặc quá hẹp, có thể gây hại lớn mà không cần ác ý. Không ai cho rằng sẽ có máy làm kẹp giấy theo nghĩa đen; điểm cần nhớ là tầm quan trọng của việc đặt mục tiêu đúng.
Bài toán chịu sửa (corrigibility) đã được giải chưa?
Chưa. Đây là bài toán mở trong nghiên cứu an toàn: làm sao thiết kế hệ thống có năng lực lập kế hoạch cao mà vẫn sẵn lòng để con người sửa, dừng hay tắt, không tìm cách né tránh. Với các mô hình hiện tại, việc tắt và cập nhật vẫn làm được bình thường, nhưng câu hỏi trở nên khó khi hệ thống tự chủ hơn.
Có nên dạy học sinh về an toàn AI không?
Nên, ở mức phù hợp lứa tuổi. Học sinh cần biết AI có thể sai, có thể bị dùng để lừa, không phải người thật, và cần kiểm chứng điều nó nói. Với học sinh lớn hơn, có thể thảo luận các câu hỏi đạo đức và xã hội. Mục tiêu là hiểu biết và tư duy phản biện, không phải gieo sợ hãi.
Vì sao những người tạo ra AI lại cảnh báo về rủi ro của nó?
Vì họ hiểu rõ hơn ai hết rằng chúng ta chưa có cách kiểm tra chắc chắn mô hình lớn sẽ làm gì. Một số người cho rằng cảnh báo cũng là cách tạo áp lực để ngành đầu tư vào an toàn và để nhà nước xây dựng khung quản lý. Cũng có người phê phán rằng một số cảnh báo phục vụ lợi ích thương mại.
Người không làm kỹ thuật có thể đóng góp gì cho an toàn AI?
Rất nhiều: báo cáo câu trả lời sai hoặc có hại bằng tiếng Việt, giúp xây bộ câu hỏi đánh giá trong lĩnh vực chuyên môn của mình như y tế, giáo dục, pháp luật, tham gia góp ý chính sách khi có lấy ý kiến, và giúp người xung quanh dùng AI tỉnh táo. An toàn AI cần cả hiểu biết xã hội lẫn kỹ thuật.