简述cache的基本概念和使用场景

1、为什么要用cache?

ARM 架构刚开始开发时，处理器的时钟速度和内存的访问速度大致相似。今天的处理器内核要复杂得多，并且时钟频率可以快几个数量级。然而，外部总线和存储设备的频率并没有达到同样的程度。可以实现可以与内核以相同速度运行的小片上 SRAM块，但与标准 DRAM 块相比，这种 RAM 非常昂贵，标准 DRAM 块的容量可能高出数千倍。在许多基于 ARM 处理器的系统中，访问外部存储器需要数十甚至数百个内核周期。

高速缓存是位于核心和主内存之间的小而快速的内存块。它在主内存中保存项目的副本。对高速缓冲存储器的访问比对主存储器的访问快得多。每当内核读取或写入特定地址时，它首先会在缓存中查找。如果它在高速缓存中找到地址，它就使用高速缓存中的数据，而不是执行对主存储器的访问。通过减少缓慢的外部存储器访问时间的影响，这显着提高了系统的潜在性能。通过避免驱动外部信号的需要，它还降低了系统的功耗

2、为什么要学习cache呢？

cache和我们软件工程师有啥关系？其实在很多时候，硬件都会自动去维护cache和内存直接的一致性，这和我们软件工程师都没有太大的关系，所以很多时候我们也无需去理解cache的原理。但是实就是事实，不管你有没有理解，你都是一直在使用的。做为一名底层的软件开发者，有些时候，你也不得不去主动刷新cache，即软件中维护内存一致性。

那么一般什么时候需要主动刷cache呢(软件中维护内存一致性) ? 以下便举了几个最常见的示例。

2.1、不同的Master硬件共享数据时

例如一个core和一个crypto engine硬件，在共享数据的时候。需要软件主动去invalid或flush cache的操作。

2.1.1、软件中维护内存一致性 – flush cache

2.1.2、软件中维护内存一致性 – invalid cache

2.2、不同的缓存策略的系统共享数据时

例如在一个TEE + linux的系统中，且两个系统有着不同的缓存策略。如linux kernel中是outer cacheable，TEE中是non-cacheable

2.2.1、软件中维护内存一致性 – flush cache

2.2.2、软件中维护内存一致性 – invalid cache

3、怎么去刷cache呢？(软件维护cache的一致性)

ARM提供了操作cache的指令，软件维护操作cache的指令有三类:

Invalidation：其实就是修改valid bit，让cache无效
Cleaning：清除cache中的data和TAG，这其实就是我们所说的flush cache，这里会将cache数据回写到内存，并清除dirty标志
Zero：将cache中的数据清0

那么一般什么时候需要软件维护cache一致性呢？：

(1)、当有其它的Master改变的external memory，如DMA操作
(2)、MMU的enable或disable的整个区间的内存访问
(3)、当不同缓存策略的系统使用同一块内存通信时，如REE enable了mmu，TEE disable了mmu

针对第(2)点，cache怎么和mmu扯上关系了呢？那是因为: mmu的开启和关闭，影响了内存的permissions, cache policies

3.1、cache一致性指令介绍

查阅armv8/armv9的aarch64体系中，定义了如下的缓存一致性操作指令

指令太多，不太好记，然后我们总结如下：

按照指令，分为:

IC : 操作instruction cache
DC : 操作data cache

按照操作，分为以下三类:

Invalidation：其实就是修改valid bit，让cache无效。
Cleaning：清除cache中的data和TAG，这其实就是我们所说的flush cache，这里会将cache数据回写到内存，并清除dirty标志
Zero：将cache中的数据清0

Points的定义：

其描述的是操作cache的范围

Point of Unification (PoU) ：instruction、data、TLB访问一致性的点
Point of Coherency (PoC)：agents访问内存一致性的点
Point of Persistence (PoP) ：和FEAT_DPB、FEAT_DPB2 feature相关
Point of Deep Persistence (PoDP)：访问memory一致性的点!!!

image.png

3.2、cache一致性指令的使用示例

3.3、操作系统中软件维护cache一致性的API

在操作系统中，我们只需要调用相关的API即可，也无需牢记以上的维护cache一致性的命令。

比如在Linux Kernel 操作Cache的API如下所示：

linux/arch/arm64/mm/cache.Slinux/arch/arm64/include/asm/cacheflush.hvoid __flush_icache_range(unsigned long start, unsigned long end);int  invalidate_icache_range(unsigned long start, unsigned long end);void __flush_dcache_area(void *addr, size_t len);void __inval_dcache_area(void *addr, size_t len);void __clean_dcache_area_poc(void *addr, size_t len);void __clean_dcache_area_pop(void *addr, size_t len);void __clean_dcache_area_pou(void *addr, size_t len);long __flush_cache_user_range(unsigned long start, unsigned long end);void sync_icache_aliases(void *kaddr, unsigned long len);void flush_icache_range(unsigned long start, unsigned long end)void __flush_icache_all(void)