Xác suất token và log-likelihood trong phát hiện AI
Perplexity thu hút sự chú ý, nhưng phép tính bên dưới nó là xác suất token: phân phối của mô hình đối với từ tiếp theo thực sự chứa gì, vì sao toán phát hiện chạy trong không gian log thay vì xác suất thô, và cách một chuỗi điểm theo từng token trở thành một số.