SYS::RANKER
Attention Mask 視覺化
理解為什麼 X 的推薦模型在排序階段不讓推文「互相看見」。隔離機制確保了評分的公平性與系統效能。
候選隔離 (Candidate Isolation)
活動模組::PHOENIX
在 Phoenix 排名階段,Transformer 使用了一種特殊的 Attention Mask。
這確保了每篇推文的分數只取決於它與使用者脈絡的關係,而不受當前 Batch 中其他推文的影響。
| 查詢 \ 鍵值 (Query \ Key) | 用戶 | 歷史 | 推文 A | 推文 B | 推文 C |
|---|---|---|---|---|---|
| 用戶 | ✓ | ✓ | ✗ | ✗ | ✗ |
| 歷史 | ✓ | ✓ | ✗ | ✗ | ✗ |
| 推文 A | ✓ | ✓ | ✓ | ✗ | ✗ |
| 推文 B | ✓ | ✓ | ✗ | ✓ | ✗ |
| 推文 C | ✓ | ✓ | ✗ | ✗ | ✓ |
允許 (Allowed)
模型可以學習並計算這些實體之間的權重關係。
屏蔽 (Blocked)
模型被禁止關注這些實體,以防止相互干擾。
工程邏輯
如果推文 A 的分數會隨著推文 B 的出現而改變,排名將變得不可預測且難以高效緩存(Cache)。隔離機制確保了內容的價值被獨立評判,不受同批次競爭者的影響。