#định luật goodhart

Căn chỉnh AI (AI alignment) là gì: làm cho mô hình làm điều ta thật sự muốn

Căn chỉnh AI là làm cho hệ thống theo đúng ý định của con người chứ không chỉ chữ nghĩa của mệnh lệnh. Các vấn đề cốt lõi và cách làm hiện nay như RLHF, bộ nguy