深度解读DynamIQ架构cache的替换策略
快速鏈接:
.
👉👉👉 個(gè)人博客筆記導(dǎo)讀目錄(全部) 👈👈👈
思考:
在經(jīng)典的 DynamIQ架構(gòu) 中,數(shù)據(jù)是什么時(shí)候存在L1 cache,什么時(shí)候存進(jìn)L2 cache,什么時(shí)候又存進(jìn)L3 cache,以及他們的替換策略是怎樣的? 比如什么時(shí)候數(shù)據(jù)只在L1? 什么時(shí)候數(shù)據(jù)只在L2? 什么時(shí)候數(shù)據(jù)只在L3? 還有一些組合,比如什么時(shí)候數(shù)組同時(shí)在L1和L3,而L2沒有? 這一切的規(guī)則是怎樣定義的?
說明:
本文討論經(jīng)典的DynamIQ的cache架構(gòu),忽略 big.LITTLE的cache架構(gòu)
1、L1 / L2 cache直接的替換策略
我們先看一下DynamIQ架構(gòu)中的cache中新增的幾個(gè)概念:
- (1) Strictly inclusive: 所有存在L1 cache中的數(shù)據(jù),必然也存在L2 cache中
- (2) Weakly inclusive: 當(dāng)miss的時(shí)候,數(shù)據(jù)會(huì)被同時(shí)緩存到L1和L2,但在之后,L2中的數(shù)據(jù)可能會(huì)被替換
- (3) Fully exclusive: 當(dāng)miss的時(shí)候,數(shù)據(jù)只會(huì)緩存到L1
綜上總結(jié):inclusive/exclusive 描述的僅僅是 L1和L2之間的替換策略
我們?cè)偃ゲ殚?ARMV9 cortex-A710 trm手冊(cè),查看該core的cache類型,得知:
- L1 I-cache和L2之間是 weakly inclusive的
- L1 D-cache和L2之間是 strictly inclusive的
也就是說:
- 當(dāng)發(fā)生D-cache發(fā)生miss時(shí),數(shù)據(jù)緩存到L1 D-cache的時(shí)候,也會(huì)被緩存到L2 Cache中,當(dāng)L2 Cache被替換時(shí),L1 D-cache也會(huì)跟著被替換
- 當(dāng)發(fā)生I-cache發(fā)生miss時(shí),數(shù)據(jù)緩存到L1 I-cache的時(shí)候,也會(huì)被緩存到L2 Cache中,當(dāng)L2 Cache被替換時(shí),L1 I- cache不會(huì)被替換
再次總結(jié) : L1 和 L2之間的cache的替換策略,I-cache和D-cache可以是不同的策略,每一個(gè)core都有每一個(gè)core的做法,請(qǐng)查閱你使用core的手冊(cè)。
2、core cache / DSU cache / memory 之間的替換策略
說實(shí)話,core cache / DSU cache / 這個(gè)名字可能不好,感覺叫private cache 和 share cache更好,我也不知道官方一般使用哪個(gè),反正我們能理解其意思即可吧。
那么他們之間的替換策略是怎樣的呢?
我們知道MMU的頁表中的表項(xiàng)中,管理者每一塊內(nèi)存的屬性,其實(shí)就是cache屬性,也就是緩存策略。
其中就有cacheable和shareable、Inner和Outer的概念。如下是針對(duì) DynamIQ 架構(gòu)做出的總結(jié),注意哦,僅僅是針對(duì) DynamIQ 架構(gòu)的cache。
-
如果將block的內(nèi)存屬性配置成Non-cacheable,那么數(shù)據(jù)就不會(huì)被緩存到cache,那么所有observer看到的內(nèi)存是一致的,也就說此時(shí)也相當(dāng)于Outer Shareable。
其實(shí)官方文檔,也有這一句的描述:
在B2.7.2章節(jié) “Data accesses to memory locations are coherent for all observers in the system, and correspondingly are treated as being Outer Shareable” -
如果將block的內(nèi)存屬性配置成write-through cacheable 或 write-back cacheable,那么數(shù)據(jù)會(huì)被緩存cache中。write-through和write-back是緩存策略。
-
如果將block的內(nèi)存屬性配置成 non-shareable, 那么core0訪問該內(nèi)存時(shí),數(shù)據(jù)緩存的到Core0的L1 D-cache / L2 cache (將L1/L2看做一個(gè)整體,直接說數(shù)據(jù)會(huì)緩存到core0的private cache更好),不會(huì)緩存到其它c(diǎn)ache中。
-
如果將block的內(nèi)存屬性配置成 inner-shareable, 那么core0訪問該內(nèi)存時(shí),數(shù)據(jù)只會(huì)緩存到core 0的L1 D-cache / L2 cache和 DSU L3 cache,不會(huì)緩存到System Cache中(當(dāng)然如果有system cache的話 ) , (注意這里MESI協(xié)議其作用了)此時(shí)core0的cache TAG中的MESI狀態(tài)是E, 接著如果這個(gè)時(shí)候core1也去讀該數(shù)據(jù),那么數(shù)據(jù)也會(huì)被緩存core1的L1 D-cache / L2 cache 和DSU0的L3 cache(白字黑字,絕不瞎說,請(qǐng)參見文末的[1] DSU TRM判斷), 此時(shí)core0和core1的MESI狀態(tài)都是S
-
如果將block的內(nèi)存屬性配置成 outer-shareable, 那么core0訪問該內(nèi)存時(shí),數(shù)據(jù)會(huì)緩存到core 0的L1 D-cache / L2 cache 、cluster0的DSU L3 cache 、 System Cache中, core0的MESI狀態(tài)為E。如果core1再去讀的話,則也會(huì)緩存到core1的L1 D-cache / L2 cache,此時(shí)core0和core1的MESI都是S。這個(gè)時(shí)候,如果core7也去讀的話,數(shù)據(jù)還會(huì)被緩存到cluster1的DSU L3 cache. 至于DSU0和DSU1之間的一致性,非MESI維護(hù),具體怎么維護(hù)的請(qǐng)看DSU手冊(cè),本文不展開討論。
| non-shareable | 數(shù)據(jù)不會(huì)緩存到cache (對(duì)于觀察則而言,又相當(dāng)于outer-shareable) | core0訪問該內(nèi)存時(shí),數(shù)據(jù)緩存的到Core0的L1 D-cache / L2 cache (將L1/L2看做一個(gè)整體,直接說數(shù)據(jù)會(huì)緩存到core0的private cache更好),不會(huì)緩存到其它c(diǎn)ache中 | 同左側(cè) |
| inner-shareable | 數(shù)據(jù)不會(huì)緩存到cache (對(duì)于觀察則而言,又相當(dāng)于outer-shareable) | core0訪問該內(nèi)存時(shí),數(shù)據(jù)只會(huì)緩存到core 0的L1 D-cache / L2 cache和 DSU L3 cache,不會(huì)緩存到System Cache中(當(dāng)然如果有system cache的話 ) , (注意這里MESI協(xié)議其作用了)此時(shí)core0的cache TAG中的MESI狀態(tài)是E, 接著如果這個(gè)時(shí)候core1也去讀該數(shù)據(jù),那么數(shù)據(jù)也會(huì)被緩存core1的L1 D-cache / L2 cache 和DSU0的L3 cache, 此時(shí)core0和core1的MESI狀態(tài)都是S | 同左側(cè) |
| outer-shareable | 數(shù)據(jù)不會(huì)緩存到cache (對(duì)于觀察則而言,又相當(dāng)于outer-shareable) | core0訪問該內(nèi)存時(shí),數(shù)據(jù)會(huì)緩存到core 0的L1 D-cache / L2 cache 、cluster0的DSU L3 cache 、 System Cache中, core0的MESI狀態(tài)為E。如果core1再去讀的話,則也會(huì)緩存到core1的L1 D-cache / L2 cache,此時(shí)core0和core1的MESI都是S 思考:那么此時(shí)core7去讀取會(huì)怎樣? | 同左側(cè) |
[1] DSU TRM判斷
總結(jié)
以上是生活随笔為你收集整理的深度解读DynamIQ架构cache的替换策略的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Cache多核之间的一致性MESI
- 下一篇: ARMV8/ARMV9的执行状态的切换