参考资料：
1.
https://www.makeuseof.com/tag/what-is-cpu-cache/
2.
https://zhuanlan.zhihu.com/p/80672073
3.CPU Cache 机制以及 Cache miss
4.性能优化方法和技巧

在日常的嵌入式开发中，查看一些SOC的datasheet总会看到 “32KB I/D cache”“L1 cache”“L2 cache”等字样，但是不知道是什么意思，查询了一些资料，记录一下。

1 简介

CPU的运算是需要数据的，因此就需要从内存中读写一些数据来进行运算。但是CPU的运算速度很快，而内存的读写速率相比较于CPU的运行速率就比较慢，因此CPU就需要花费时间等待内存的数据到来或者把数据写入内存，这种操作就无法发挥CPU的全部功力。

因此，一种新的读写速度更快的内存—“缓存”被设计出来，用来存储一些需要频繁被访问的数据，这样CPU会先从速度更快的缓存中来读写数据，加快CPU的运算。

缓存本质上还是内存，只不过读写速度会比内存快很多。

缓存又分为一级缓存L1、二级缓存L2、三级缓存L3：
L1容量最小，但是速度最快，L1又针对指令和数据分为数据缓存和指令缓存；
L2容量比L1大，但是速度会比L1慢些；
L3容量比L2大，速度也相应比L2慢。
每一个核单独有自己的L1和L2，L3属于所有核共享的。

关于访问速度，查询资料，大致如下：

CPU访问一次L1，大约需要4个时钟周期；
CPU访问一次L2，大约需要11个时钟周期；
CPU访问一次L3，大约需要39个时钟周期；
CPU访问一次内存，大约需要107个时钟周期；

从上可以看出，加入了缓存机制，大大提高了CPU的工作效率，防止CPU摸鱼。

在linux下可通过如下指令查看缓存的大小：

# getconf -a | grep CACHE
LEVEL1_ICACHE_SIZE                 32768
LEVEL1_ICACHE_ASSOC                8
LEVEL1_ICACHE_LINESIZE             64
LEVEL1_DCACHE_SIZE                 32768
LEVEL1_DCACHE_ASSOC                8
LEVEL1_DCACHE_LINESIZE             64
LEVEL2_CACHE_SIZE                  262144
LEVEL2_CACHE_ASSOC                 4
LEVEL2_CACHE_LINESIZE              64
LEVEL3_CACHE_SIZE                  12582912
LEVEL3_CACHE_ASSOC                 16
LEVEL3_CACHE_LINESIZE              64
LEVEL4_CACHE_SIZE                  0
LEVEL4_CACHE_ASSOC                 0
LEVEL4_CACHE_LINESIZE              0

2 工作机制

缓存的工作机制是比较复杂的，在这里简单的描述下。

当程序执行时，会将内存中的数据载入到L3中，然后再载入L2，最后再载入L1。如果CPU需要数据，则先会在L1中寻找，然后依次是L2、L3、内存中寻找。

如果在L1中找到需要的数据，就叫做“缓存命中”。

当在L1/L2/L3中没有找到数据后，会从内存中读取数据到CPU，并会将这些数据写入到缓存中，防止后续CPU会再次使用，而不需要从内存中读取。

因为缓存的大小是有限的，而CPU会不断执行不同任务，或者CPU需要不同的数据，因此缓存中的数据会按照算法进行替换，将一些不再需要的数据淘汰出缓存，将一些频繁需要的数据放进缓存。

3 Cache Line

CPU将数据加载进缓存中，不会按照一个字节一个字节的方式进行加载，一般按照固定大小的块的进行加载，叫做缓存行即“Cache Line”。
在我的电脑中的Cache Line的大小为64Bytes。

# cat /sys/devices/system/cpu/cpu0/cache/index1/coherency_line_size 
64	

也可通过指令

# getconf -a | grep CACHE_LINESIZE
LEVEL1_ICACHE_LINESIZE             64
LEVEL1_DCACHE_LINESIZE             64
LEVEL2_CACHE_LINESIZE              64
LEVEL3_CACHE_LINESIZE              64
LEVEL4_CACHE_LINESIZE              0

关于缓存的加载策略，可参考上面链接2，本文只是简单介绍下缓存相关的内容，使对缓存有大致的了解。