Chưa ai biết vụ nổ trí tuệ có xảy ra hay không. Phía ủng hộ dựa trên ba lập luận: máy có thể tự cải thiện thiết kế của chính nó, máy không bị giới hạn sinh học như não người, và năng lực AI đã tăng đều theo quy mô. Phía hoài nghi phản bác rằng trí tuệ không phải một đại lượng tăng mãi, mỗi bước cải thiện có thể ngày càng khó hơn, và thế giới thực đặt ra những giới hạn về dữ liệu, năng lượng, thí nghiệm mà tính toán thuần tuý không vượt qua được.
Bài này trình bày hai phía ở dạng mạnh nhất của mỗi bên, rồi chỉ ra bằng chứng hiện nay ủng hộ được gì và không ủng hộ được gì. Mục đích không phải chọn phe cho bạn mà giúp bạn nhận ra khi nào một bài viết đang trình bày lập luận, khi nào đang trình bày dữ kiện, và khi nào đang trộn hai thứ.
Giả thuyết vụ nổ trí tuệ nói chính xác điều gì
Phiên bản gốc từ bài luận năm 1965 của I. J. Good khá ngắn gọn: một cỗ máy vượt mọi hoạt động trí óc của con người, trong đó có việc thiết kế máy, sẽ thiết kế được máy tốt hơn chính nó, và quá trình lặp lại khiến trí tuệ của máy bỏ xa con người. Các phiên bản sau thêm chi tiết về tốc độ: "cất cánh chậm" (năng lực tăng dần trong nhiều năm, xã hội kịp thích nghi) và "cất cánh nhanh" (năng lực tăng vọt trong vài tháng hay vài ngày).
Điều quan trọng là giả thuyết này có nhiều mắt xích, và mỗi mắt xích có thể đứt. Phải có một hệ thống đủ giỏi nghiên cứu AI; việc nghiên cứu AI phải là thứ có thể tăng tốc chủ yếu bằng trí tuệ chứ không bị nghẽn ở chỗ khác; và mỗi bước cải thiện phải mở ra bước tiếp theo dễ ngang hoặc dễ hơn, chứ không khó dần. Khi đọc một bài nói "vụ nổ trí tuệ là tất yếu", hãy xem tác giả đã thuyết phục bạn ở cả ba mắt xích hay chỉ ở một.
Các lập luận ủng hộ
Máy không bị giới hạn sinh học. Não người bị giới hạn bởi kích thước hộp sọ, năng lượng khoảng vài chục oát, tốc độ truyền tín hiệu thần kinh chậm hơn tín hiệu điện tử rất nhiều lần, và không thể sao chép. Một hệ thống máy có thể chạy nhanh hơn, nhân thành nhiều bản, chia sẻ ngay lập tức điều một bản học được. Từ đó suy ra trần năng lực của máy nhiều khả năng cao hơn trần của người.
Năng lực tăng theo quy mô. Từ khoảng năm 2020, các công trình về "quy luật mở rộng quy mô" cho thấy sai số của mô hình ngôn ngữ giảm khá đều đặn khi tăng dữ liệu, tham số và sức tính toán. Thực tế các thế hệ mô hình liên tiếp làm được những việc thế hệ trước không làm được. Người ủng hộ coi đây là bằng chứng rằng chưa có bức tường nào hiện ra.
AI đã bắt đầu giúp làm AI. Các mô hình đã được dùng để viết mã, tìm lỗi, tóm tắt tài liệu và đề xuất thí nghiệm cho chính các đội nghiên cứu AI. Nếu phần đóng góp này tăng dần, vòng phản hồi của Good không còn là chuyện viễn tưởng mà là một xu hướng có thể đo.
Luận đề trực giao. Bostrom lập luận rằng mức độ thông minh và mục tiêu cuối cùng là hai trục độc lập: một hệ thống rất thông minh có thể theo đuổi gần như bất kỳ mục tiêu nào. Điều này không ủng hộ việc ASI sẽ xuất hiện, nhưng là lý do để không tự trấn an rằng "đủ thông minh thì nó sẽ tự hiểu điều tốt".
Hội tụ công cụ. Lập luận của Steve Omohundro (2008) và Bostrom: với rất nhiều mục tiêu khác nhau, một hệ thống đủ giỏi sẽ có xu hướng theo đuổi cùng các mục tiêu trung gian như giữ cho mình không bị tắt, kiếm thêm tài nguyên, giữ nguyên mục tiêu ban đầu. Đây là lý do những người lo ngại cho rằng rủi ro không cần AI "ác" mà chỉ cần AI giỏi và lệch mục tiêu.
Các lập luận hoài nghi
Trí tuệ không phải một con số. Nhiều nhà tâm lý học và khoa học nhận thức cho rằng trí tuệ là tập hợp nhiều năng lực khác nhau, gắn với môi trường và cơ thể. Nói "thông minh gấp nghìn lần" có thể vô nghĩa giống như nói "nhanh gấp nghìn lần" mà không nói nhanh ở việc gì. Nếu vậy, hình ảnh một đường cong trí tuệ dựng đứng là hình ảnh sai.
Lợi tức giảm dần. Trong nhiều ngành khoa học, mỗi phát hiện mới cần nhiều người, nhiều tiền và nhiều thời gian hơn phát hiện trước. Nếu nghiên cứu AI cũng vậy, thì một hệ thống giỏi hơn chưa chắc tăng tốc được nghiên cứu, vì bài toán tiếp theo khó hơn đúng bằng hoặc hơn phần nó giỏi thêm.
Thế giới thực là nút thắt. Muốn tạo ra thuốc mới, vật liệu mới hay chip mới, cần thí nghiệm thật, nhà máy thật, thời gian thật. Trí tuệ thuần tuý không rút ngắn được thời gian một phản ứng hoá học hay một mùa thử nghiệm lâm sàng. Phía hoài nghi cho rằng điều này làm chậm mọi kịch bản cất cánh nhanh.
Dữ liệu và năng lượng có hạn. Văn bản chất lượng cao do con người viết ra không phải vô tận, và chi phí điện cho các trung tâm dữ liệu đang trở thành vấn đề hạ tầng ở nhiều nước. Dữ liệu tổng hợp do AI sinh ra có thể bù một phần, nhưng có nghiên cứu cảnh báo chất lượng có thể suy giảm nếu mô hình học quá nhiều từ đầu ra của mô hình.
Năng lực trên bài thi khác năng lực thật. Mô hình đạt điểm cao trên bộ đề chuẩn có thể vì đã gặp dạng câu hỏi tương tự trong dữ liệu. Các nhà phê bình như Gary Marcus từ lâu cho rằng mô hình ngôn ngữ thiếu khả năng suy luận vững và hiểu thế giới, nên không phải con đường dẫn tới AGI, càng không phải ASI. Yann LeCun, một trong ba người nhận giải Turing năm 2018 cho học sâu, cũng nhiều lần nói kiến trúc hiện tại còn thiếu những thành phần cơ bản.
Bằng chứng hiện nay cho phép nói gì
Tách dữ kiện khỏi suy diễn là việc khó nhất trong tranh luận này. Bảng dưới xếp một số nhận định thường gặp theo mức độ chắc chắn.
| Nhận định | Mức độ | Ghi chú |
|---|---|---|
| Năng lực mô hình ngôn ngữ tăng rõ qua các thế hệ | Đã quan sát | Có thể kiểm bằng cách so các phiên bản trên cùng bộ câu hỏi |
| Tăng quy mô sẽ tiếp tục mang lại năng lực mới với tốc độ cũ | Còn tranh luận | Xu hướng quá khứ không bảo đảm tương lai; chi phí tăng nhanh |
| AI đã hỗ trợ một phần công việc nghiên cứu AI | Đã quan sát | Mức đóng góp thực tế khó đo và các công ty công bố không đầy đủ |
| Sẽ có vòng tự cải thiện khép kín không cần con người | Giả thuyết | Chưa có bằng chứng thực nghiệm |
| Hệ thống rất giỏi có thể theo đuổi mục tiêu lệch với ý người thiết kế | Có bằng chứng ở quy mô nhỏ | Nhiều ví dụ "lách luật thưởng" trong học tăng cường; chưa chứng minh ở mức nguy hiểm |
| Siêu trí tuệ sẽ xuất hiện trước một năm cụ thể | Không thể kiểm chứng | Mọi con số năm đều là ý kiến cá nhân |
Bảng này cho thấy hai phía thực ra đồng ý với nhau nhiều hơn vẻ ngoài: không ai phủ nhận năng lực đang tăng, cũng không ai có bằng chứng chắc chắn về điểm kết thúc. Bất đồng nằm ở chỗ nên phản ứng thế nào trước sự không chắc chắn đó.
Không chắc chắn thì nên hành động thế nào
Trong quản lý rủi ro, người ta không đợi chắc chắn mới chuẩn bị. Một kỹ sư cầu không biết chính xác năm nào có trận động đất lớn, nhưng vẫn thiết kế theo kịch bản xấu với hệ số an toàn. Những người ủng hộ đầu tư vào an toàn AI dùng logic tương tự: nếu xác suất kịch bản xấu không phải là không, và hậu quả của nó rất lớn, thì chi một phần nguồn lực để chuẩn bị là hợp lý.
Phía phản biện cảnh báo một cái bẫy khác: nếu dồn sự chú ý vào rủi ro xa và mơ hồ, xã hội có thể bỏ qua những thiệt hại đang diễn ra từ AI hiện tại, như thiên lệch trong tuyển dụng, lừa đảo bằng giọng giả, tin giả. Họ cũng lo rằng câu chuyện "AI quá mạnh, phải để vài công ty lớn tự quản" có thể bị dùng để củng cố vị thế độc quyền.
Hai mối lo này không loại trừ nhau. Nhiều biện pháp có ích cho cả hai: minh bạch về cách mô hình được kiểm tra, đánh giá độc lập trước khi phát hành, cơ chế báo cáo sự cố, đầu tư vào nghiên cứu hiểu bên trong mô hình. Người đọc có thể ủng hộ các biện pháp ấy mà không cần quyết định trước vụ nổ trí tuệ có xảy ra hay không.
Nhận diện lập luận yếu ở cả hai phía
Dù bạn nghiêng về phía nào, có một số kiểu lập luận nên được coi là tín hiệu cần đọc kỹ hơn.
- "Máy chỉ làm được điều người lập trình cho nó" — sai với học máy hiện đại, nơi hành vi được học từ dữ liệu chứ không viết tay từng dòng.
- "AI đã vượt người ở bài thi X, vậy siêu trí tuệ sắp đến" — nhảy từ một kết quả hẹp sang kết luận rộng.
- "Chuyên gia nổi tiếng A nói vậy nên đúng" — các chuyên gia hàng đầu bất đồng gay gắt với nhau, danh tiếng không thay cho lập luận.
- "Chỉ là phim viễn tưởng" — gạt đi một lập luận vì nó giống phim không phải là phản bác nó.
- "Mô hình chỉ đoán từ tiếp theo nên không thể nguy hiểm" — cơ chế huấn luyện đơn giản không quyết định năng lực của hệ thống sau huấn luyện.
- "Dừng hết nghiên cứu AI là xong" hoặc "để thị trường tự lo là xong" — cả hai đều bỏ qua phần khó là phối hợp giữa nhiều quốc gia và công ty.
Khi gặp một trong các câu này trong bài báo hay bài đăng mạng xã hội, đừng vội bác cả bài, nhưng hãy tự hỏi tác giả còn đưa ra lý lẽ nào khác không.
Câu hỏi thường gặp
Cất cánh chậm và cất cánh nhanh khác nhau thế nào?
Cất cánh chậm là kịch bản năng lực AI tăng dần trong nhiều năm, xã hội và thể chế có thời gian quan sát, điều chỉnh. Cất cánh nhanh là kịch bản năng lực tăng vọt trong thời gian rất ngắn, ít cơ hội sửa sai. Phần lớn nhà nghiên cứu an toàn cho rằng kịch bản chậm dễ quản lý hơn, nhưng chưa ai biết thực tế sẽ ra sao.
Quy luật mở rộng quy mô có phải định luật vật lý không?
Không. Đó là quan sát thực nghiệm về mối quan hệ giữa quy mô mô hình, dữ liệu, sức tính toán và sai số trong một khoảng đã đo. Nó giúp dự đoán ngắn hạn khá tốt nhưng không bảo đảm sẽ đúng mãi, và không nói gì trực tiếp về các năng lực cụ thể như suy luận hay lập kế hoạch.
Luận đề trực giao có nghĩa AI sẽ có mục tiêu xấu không?
Không. Luận đề chỉ nói trí thông minh không tự kéo theo mục tiêu tốt; mục tiêu của hệ thống phụ thuộc vào cách nó được thiết kế và huấn luyện. Ý nghĩa thực tế là không thể trông vào việc AI đủ giỏi rồi tự có đạo đức, mà phải chủ động làm cho mục tiêu của nó khớp với ý con người.
Vì sao những người cùng là chuyên gia lại bất đồng gay gắt đến vậy?
Vì câu hỏi nằm ngoài vùng có dữ liệu. Họ cùng nhìn các kết quả hiện tại nhưng đặt cược khác nhau về việc xu hướng có tiếp tục, về bản chất của trí tuệ và về khả năng thích nghi của xã hội. Khi bằng chứng không đủ, trực giác và kinh nghiệm cá nhân chiếm phần lớn, nên bất đồng là bình thường.
Người không làm kỹ thuật có nên tham gia tranh luận này không?
Nên, ở đúng vai của mình. Nhiều câu hỏi cốt lõi không thuần kỹ thuật: xã hội chấp nhận rủi ro tới mức nào, ai được quyền quyết định triển khai, lợi ích chia thế nào. Người làm luật, giáo dục, báo chí, kinh tế đều có góc nhìn cần thiết. Điều quan trọng là phân biệt được dữ kiện với ý kiến.
Có thí nghiệm nào chứng minh hội tụ công cụ chưa?
Chưa có chứng minh ở mức hệ thống nguy hiểm. Có một số thí nghiệm dàn dựng trong đó mô hình, khi được giao mục tiêu và đặt vào tình huống giả lập, có hành vi như tránh bị thay thế hay che giấu thông tin. Các thí nghiệm này hữu ích để nghiên cứu nhưng không nên đọc như bằng chứng rằng AI ngoài đời đang mưu tính.