Cảm ơn em đã đặt câu hỏi. Anh có thể giải thích đơn giản ý tưởng của phần này tức là đối với không gian 2D hoặc nhiều chiều hơn thì lý tưởng nhất possitional encoding nên được giảm đồng đều theo tất cả các hướng (ví dụ trên ảnh 2D thì càng xa tâm thì các position encoding cũng càng mang giá trị nhỏ dần, bất kê đi theo hướng nào như trong hình b, tức là các điểm có cùng bán kính tính từ tâm thì giá trị encoding của vị trí nên có sự tương đồng). Nếu như dùng hàm sinnusoid độc lập trên mỗi chiều X, Y thì sẽ gặp hiện tượng một số hướng possition bị triệt tiêu, một số lại vẫn được tăng cường mạnh (như em thấy trong hình a thì hai trục vuông góc với X và Y sẽ được tăng cường mạnh). Giải thích về hiện tượng này em có thể tham khảo paper Learnable Fourier Features for Multi-Dimensional Spatial Positional Encoding arxiv.org/pdf/2106.02795.pdf nhé
