Siêu trí tuệ nhân tạo (ASI, viết tắt của artificial superintelligence) là một hệ thống AI giả định có năng lực nhận thức vượt xa con người giỏi nhất ở gần như mọi lĩnh vực đáng kể: khoa học, chiến lược, sáng tạo, thuyết phục, lập kế hoạch dài hạn. Nó khác AI hẹp (giỏi một việc, như chơi cờ hay nhận dạng giọng nói) và khác AGI (trí tuệ tổng quát ngang tầm con người). Đến nay chưa có hệ thống nào đạt mức ASI; đây là một khái niệm dùng để suy nghĩ về tương lai và về rủi ro, không phải mô tả một sản phẩm.
Người Việt gặp chữ "siêu trí tuệ" nhiều nhất qua phim ảnh và các bản tin giật tít. Bài này tách phần đã biết khỏi phần suy đoán: ASI được định nghĩa thế nào trong các tài liệu gốc, nó khác các mức AI hiện nay ra sao, những con đường người ta tưởng tượng có thể dẫn tới nó, vì sao giới nghiên cứu không thống nhất, và vì sao chuyện an toàn được bàn ngay từ bây giờ dù ASI chưa có.
Ba mức hay được nhắc: AI hẹp, AGI và ASI
Cách chia ba mức là quy ước phổ biến trong sách phổ thông, không phải thang đo khoa học chính thức. Ranh giới giữa các mức còn mờ và còn bị tranh luận, nhưng bảng dưới giúp bạn đọc tin mà không lẫn khái niệm.
| Mức | Ý nghĩa | Ví dụ hoặc tình trạng | Điểm cần nhớ |
|---|---|---|---|
| AI hẹp | Giỏi một nhóm việc được xác định rõ, không tự chuyển sang việc khác | Máy chơi cờ, nhận dạng giọng nói tiếng Việt, OCR, dịch máy, chấm phổ ảnh y khoa | Có thể vượt người ở đúng việc đó mà vẫn vô dụng ở việc bên cạnh |
| AGI | Trí tuệ tổng quát, học và làm được phần lớn việc trí óc mà người làm được | Chưa có định nghĩa đo được được mọi người chấp nhận; các mô hình ngôn ngữ lớn hiện nay bị tranh cãi là đã gần hay còn xa | Tranh cãi nằm ở cả định nghĩa lẫn cách đo |
| ASI | Vượt xa người giỏi nhất ở gần như mọi lĩnh vực đáng kể | Chưa tồn tại; là giả thuyết và đối tượng của nghiên cứu an toàn | Không chỉ "nhanh hơn" mà là hiểu và làm được những thứ con người không theo kịp |
Một điểm hay bị bỏ qua: "vượt người" ở một việc không làm hệ thống thành siêu trí tuệ. Máy chơi cờ đã thắng nhà vô địch thế giới từ cuối thập niên 1990, chương trình chơi cờ vây thắng kỳ thủ hàng đầu năm 2016, nhưng chẳng ai gọi chúng là ASI vì chúng không biết làm gì khác. Chữ "tổng quát" và "gần như mọi lĩnh vực" mới là phần quyết định.
Khái niệm siêu trí tuệ đến từ đâu
Ý tưởng một cỗ máy thông minh hơn người được bàn nghiêm túc từ giữa thế kỷ 20. Năm 1965, nhà thống kê I. J. Good, người từng làm việc cùng Alan Turing trong Thế chiến II, viết bài luận về "cỗ máy siêu thông minh" đầu tiên. Lập luận nổi tiếng của ông: nếu một cỗ máy giỏi thiết kế máy hơn con người, nó có thể thiết kế ra máy giỏi hơn nữa, tạo nên một chuỗi tự cải thiện mà ông gọi là "vụ nổ trí tuệ". Theo Good, cỗ máy như thế sẽ là phát minh cuối cùng con người cần làm, với điều kiện nó đủ ngoan để con người kiểm soát được.
Chữ "superintelligence" trở nên phổ biến nhờ cuốn sách cùng tên của triết gia Nick Bostrom (Đại học Oxford) xuất bản năm 2014. Bostrom định nghĩa siêu trí tuệ, đại ý, là bất kỳ trí tuệ nào vượt xa năng lực nhận thức của con người ở hầu như mọi lĩnh vực đáng quan tâm. Ông phân biệt ba dạng: siêu trí tuệ tốc độ (làm được việc người làm nhưng nhanh hơn rất nhiều lần), siêu trí tuệ tập thể (nhiều trí tuệ nhỏ phối hợp tốt đến mức vượt mọi tổ chức người) và siêu trí tuệ chất lượng (nghĩ ra những thứ người không nghĩ ra được, dù cho bao nhiêu thời gian).
Cách chia này có ích khi đọc tin. Khi ai đó nói "AI đã siêu việt con người" vì nó viết nhanh hơn, đó mới chỉ là chuyện tốc độ ở một việc. Câu hỏi khó nằm ở dạng thứ ba: liệu có tồn tại những vấn đề mà một hệ thống hiểu được còn con người, dù hợp sức, không bao giờ hiểu nổi hay không, và nếu có, ta kiểm tra một hệ thống như thế bằng cách nào.
Những con đường giả định dẫn tới ASI
Mở rộng quy mô. Giả thuyết cho rằng tiếp tục tăng dữ liệu, sức tính toán và kích thước mô hình, cộng với cải tiến thuật toán, sẽ đưa mô hình từ mức hiện tại lên AGI rồi vượt qua. Ủng hộ giả thuyết này là quan sát thực nghiệm rằng nhiều năng lực tăng khá đều đặn khi quy mô tăng. Phản biện: dữ liệu văn bản chất lượng có giới hạn, chi phí năng lượng tăng nhanh, và không có gì bảo đảm đường cong cứ tiếp tục đi lên.
Tự cải thiện đệ quy. Đây là con đường của Good: một hệ thống đủ giỏi nghiên cứu AI sẽ tự làm nghiên cứu AI, rút ngắn mỗi vòng cải tiến. Hiện nay các mô hình đã hỗ trợ viết mã và đọc tài liệu cho chính các nhà nghiên cứu, nên câu hỏi "AI tăng tốc nghiên cứu AI tới đâu" được theo dõi sát. Chưa có bằng chứng về một vòng tự cải thiện khép kín không cần con người.
Kết hợp nhiều hệ thống. Một số người cho rằng siêu trí tuệ không cần là một mô hình đơn lẻ mà là mạng lưới nhiều tác tử AI, công cụ và cơ sở dữ liệu phối hợp. Dạng này gần với "siêu trí tuệ tập thể" của Bostrom và khó quan sát hơn vì không có một điểm nào để chỉ vào và nói "đây là ASI".
Mô phỏng não. Một hướng được bàn trong sách vở là quét và mô phỏng toàn bộ não người trên máy tính rồi tăng tốc. Hướng này hiện còn rất xa về kỹ thuật: ngay việc mô phỏng đầy đủ hệ thần kinh của những sinh vật nhỏ đơn giản cũng còn là bài toán nghiên cứu.
Không con đường nào cả. Cũng có quan điểm cho rằng trí tuệ không phải một đại lượng có thể tăng mãi như nhiệt độ, và "vượt người ở mọi lĩnh vực" có thể là một khái niệm không mạch lạc. Quan điểm này không phủ nhận AI sẽ mạnh lên, chỉ nghi ngờ hình ảnh một bước nhảy lên trí tuệ vô hạn.
Vì sao giới nghiên cứu không thống nhất về thời điểm và khả năng
Các cuộc khảo sát ý kiến nhà nghiên cứu AI trong những năm gần đây đều cho thấy một điểm chung: độ phân tán rất lớn. Có người nghĩ AGI có thể đến trong vài năm, có người nghĩ phải hàng chục năm, có người cho rằng không bao giờ theo nghĩa đang bàn. Khi câu hỏi chuyển sang ASI, độ phân tán còn lớn hơn. Điều này không có nghĩa ai đó đang nói dối; nó phản ánh việc chúng ta chưa có lý thuyết đủ tốt về trí tuệ để dự báo.
Có ba nguồn bất đồng chính. Thứ nhất là định nghĩa: nếu không thống nhất thế nào là AGI thì không thể thống nhất khi nào nó đến. Thứ hai là cách đọc bằng chứng: cùng một kết quả, như mô hình làm tốt bài thi chuyên ngành, người này coi là dấu hiệu năng lực tổng quát, người kia coi là kết quả của việc học thuộc mẫu từ dữ liệu khổng lồ. Thứ ba là động cơ: công ty cần gọi vốn có lý do để nói sớm, người phê bình có lý do để nói muộn, và người đọc cần biết điều đó khi đánh giá phát ngôn.
Với người đọc phổ thông, cách đứng vững nhất là không neo vào bất kỳ con số năm nào. VietASI không đưa ra dự báo ngày tháng. Điều nói được chắc chắn là năng lực của các mô hình đang tăng nhanh, các phòng thí nghiệm lớn công khai đặt mục tiêu AGI, và vì thế việc chuẩn bị cho các kịch bản năng lực cao là hợp lý, giống như xây đê theo kịch bản lũ lớn dù không biết năm nào lũ về.
Vì sao bàn an toàn từ khi ASI còn chưa có
Lập luận chính của những người coi trọng an toàn AI là lập luận về thời gian chuẩn bị. Nếu một hệ thống thông minh hơn ta xuất hiện mà ta chưa biết cách kiểm tra mục tiêu của nó, chưa biết cách hiểu bên trong nó, và chưa có thể chế để quyết định ai được triển khai nó, thì lúc đó mới bắt đầu nghiên cứu là quá muộn. Việc học cách căn chỉnh và kiểm tra các mô hình hiện tại được coi là tập dượt trên những hệ thống còn hiểu được.
Nhà khoa học máy tính Stuart Russell, đồng tác giả một giáo trình AI được dùng rộng rãi ở các trường đại học, diễn đạt vấn đề bằng một câu hỏi: làm sao giữ quyền kiểm soát với những thực thể mạnh hơn mình mãi mãi? Ông cho rằng cách thiết kế AI quen thuộc, tức là đưa cho máy một mục tiêu cố định rồi để nó tối ưu, trở nên nguy hiểm khi máy đủ giỏi, vì mục tiêu ta viết ra gần như không bao giờ diễn đạt trọn điều ta thật sự muốn.
Mặt khác, an toàn không chỉ là chuyện của ASI. Phần lớn công việc an toàn AI hằng ngày nhằm vào các vấn đề đang có thật: mô hình bịa thông tin, thiên lệch, bị lợi dụng để lừa đảo hay viết mã độc. Những bài khác trong chuyên mục này đi vào từng mảng: căn chỉnh, kiểm thử đỏ, diễn giải mô hình, đánh giá năng lực nguy hiểm và quản trị.
Đọc tin về siêu trí tuệ thế nào cho tỉnh táo
Tin về ASI thường rơi vào hai cực: hoặc tận thế, hoặc thiên đường. Vài câu hỏi giúp bạn đặt một bài báo vào đúng chỗ của nó.
- Bài nói về AI hẹp, AGI hay ASI? Nhiều bài trộn ba thứ, lấy thành tích của AI hẹp để kết luận về siêu trí tuệ.
- Người phát biểu là ai, làm ở đâu, có lợi ích gì gắn với phát biểu đó? Một nhà nghiên cứu độc lập, một lãnh đạo công ty và một nhà phê bình sẽ có góc nhìn khác nhau.
- Có bằng chứng thực nghiệm hay chỉ là lập luận? Cả hai đều có giá trị, nhưng cần biết mình đang đọc loại nào.
- Bài có phân biệt "có thể xảy ra" với "sẽ xảy ra" không? Ngôn ngữ chắc nịch về tương lai xa là dấu hiệu nên dè chừng.
- Bản tiếng Việt có dịch sát không? Chữ "superintelligence", "general", "frontier" hay bị dịch lẫn lộn; khi cần, tìm bản gốc để đối chiếu.
- Có ai được trích dẫn với quan điểm ngược lại không? Một bài chỉ có một phía thường là bài quan điểm, không phải bài tổng quan.
Giữ thói quen này, bạn sẽ thấy phần lớn tranh luận về ASI không phải giữa người hiểu và người không hiểu, mà giữa những người hiểu nhưng đặt cược khác nhau vào một tương lai chưa ai biết.
Câu hỏi thường gặp
ASI và AGI có phải là một không?
Không. AGI thường chỉ trí tuệ tổng quát ngang tầm con người, làm được phần lớn việc trí óc mà người làm được. ASI là mức vượt xa con người giỏi nhất ở gần như mọi lĩnh vực. Nhiều người cho rằng nếu đạt AGI thì khoảng cách tới ASI có thể ngắn vì máy dễ nhân bản và tăng tốc, nhưng đó vẫn là giả thuyết.
Các chatbot hiện nay có phải siêu trí tuệ không?
Không. Chatbot dựa trên mô hình ngôn ngữ lớn giỏi nhiều việc với văn bản và có thể trả lời nhanh hơn người ở nhiều chủ đề, nhưng vẫn mắc lỗi cơ bản, bịa thông tin, kém ở lập kế hoạch dài và phụ thuộc dữ liệu huấn luyện. Chúng bị tranh luận là gần AGI tới đâu, còn ASI thì không ai nghiêm túc gán cho chúng.
Siêu trí tuệ có cần có ý thức không?
Không nhất thiết. Định nghĩa của ASI nói về năng lực giải quyết vấn đề, không nói về cảm nhận chủ quan. Một hệ thống có thể cực kỳ giỏi mà không có trải nghiệm nội tâm nào, hoặc ta không có cách nào biết nó có hay không. Câu hỏi ý thức của máy là một đề tài triết học riêng và còn bỏ ngỏ.
Có nên lo lắng về ASI ngay bây giờ không?
Lo lắng không giúp gì, nhưng quan tâm có cơ sở thì có ích. Rủi ro dài hạn đang được giới khoa học tranh luận nghiêm túc, và các quyết định về đầu tư an toàn, luật lệ, hợp tác quốc tế đang được đưa ra ngay lúc này. Người đọc phổ thông có thể theo dõi bằng nguồn tin đáng tin và dùng AI hiện tại một cách cẩn trọng.
Việt Nam có liên quan gì đến chuyện siêu trí tuệ?
Có, theo hai cách. Một là mọi quốc gia đều chịu tác động nếu các hệ thống rất mạnh ra đời, kể cả nước không tự phát triển chúng. Hai là các mô hình hiện nay thường yếu hơn ở tiếng Việt và ở bối cảnh Việt Nam, nên việc kiểm tra an toàn bằng tiếng Việt là phần việc mà cộng đồng trong nước có thể và nên đóng góp.
Đọc gì để hiểu thêm về siêu trí tuệ một cách nghiêm túc?
Hai cuốn hay được nhắc là Superintelligence của Nick Bostrom (2014), thiên về lập luận rủi ro, và Human Compatible của Stuart Russell (2019), thiên về cách thiết kế AI an toàn hơn. Nên đọc kèm các tác giả hoài nghi để cân bằng, và kiểm tra bản dịch tiếng Việt nếu có trước khi trích dẫn.