軟件所提出處理器緩存數據預取新方法
軍工資源網 2022年11月24日近日,中國科學院軟件研究所總體部研究團隊在處理器緩存性能優化與結構設計方面取得進展。該研究提出一種基于合并相似訪存模式的數據緩存預取方法,可有效提升處理器整體性能。
硬件數據預取是通過提前加載處理器核心所需數據到緩存,來降低處理器核心對內存的平均訪問延遲,從而提升處理器整體性能。硬件數據預取方法研究是計算機體系結構領域長期的研究熱點之一。
研究團隊通過分析不同程序負載下的訪存行為模式,發現具有相同觸發地址偏移的訪存模式之間存在較高的相似性。基于這一發現,研究提出了基于合并相似訪存模式的硬件預取新方法——PMP。PMP是根據觸發偏移和程序計數(PC)特征對訪存模式進行聚類,然后通過量化統計方法進行相似模式合并,最后在預取階段基于訪問頻率對預取目標進行提取。
在相同的實驗環境下,PMP性能超過國際先進預取方法Bingo約2.9%,且所需存儲開銷僅為其1/30。這解決了當前先進硬件預取方法實現復雜、硬件存儲開銷大、在商業產品的應用上受到限制等問題。
相關研究成果以Merging Similar Patterns for Hardware Prefetching為題,被計算機體系結構領域頂級學術會議MICRO 2022錄用。
基于合并相似訪存模式的預取器設計概覽
對比實驗結果