Chatbot từ chối đúng mực bằng tiếng Việt: kiểm từ chối quá tay và lọt lưới
Chatbot an toàn phải từ chối điều nguy hại nhưng không gạt câu vô hại kiểu "giết thời gian". Cách lập bộ thử tiếng Việt cho cả hai chiều và chấm lời từ chối.
#an toàn ai
Siêu trí tuệ nhân tạo (ASI) là gì: khác AI hẹp và AGI ở đâu, vì sao vẫn là giả thuyết
ASI là trí tuệ nhân tạo vượt xa con người ở gần như mọi lĩnh vực. Phân biệt ASI với AI hẹp và AGI, các con đường giả định, và vì sao hiện chưa tồn tại.
Căn chỉnh AI (AI alignment) là gì: làm cho mô hình làm điều ta thật sự muốn
Căn chỉnh AI là làm cho hệ thống theo đúng ý định của con người chứ không chỉ chữ nghĩa của mệnh lệnh. Các vấn đề cốt lõi và cách làm hiện nay như RLHF, bộ nguy
Diễn giải mô hình AI (interpretability): nhìn vào bên trong hộp đen để làm gì
Diễn giải mô hình là nghiên cứu xem bên trong mạng nơ-ron đang tính toán gì. Các hướng chính, kết quả đã có, giới hạn hiện nay và vì sao nó quan trọng với an to
Mười hiểu lầm phổ biến về siêu trí tuệ và an toàn AI, đặt cạnh điều đã biết
Từ "AI sẽ nổi loạn như phim" tới "tắt máy là xong", "an toàn là kiểm duyệt": mười hiểu lầm hay gặp về siêu trí tuệ và an toàn AI, giải thích bằng điều đã biết.