CPU缓存显著影响C++程序性能，核心是优化数据局部性。1. 理解缓存层级与缓存行机制，减少未命中；2. 提升空间局部性：紧凑结构体、数组替代链表；3. 提升时间局部性：循环融合、分块处理；4. 避免伪共享：对齐填充隔离线程数据；5. 利用预取指令与合适STL容器，最大化缓存效率。
在C++程序中，CPU缓存对性能的影响非常显著。即使算法复杂度相同，不同的内存访问模式可能导致数倍甚至数十倍的性能差异。关键在于理解并利用**数据局部性**——包括时间局部性和空间局部性，从而让程序更高效地使用CPU缓存。
理解CPU缓存与内存层级结构
CPU访问内存的速度远慢于其运算速度，因此现代处理器采用多级缓存（L1、L2、L3）来缓解这一瓶颈。这些缓存容量小但速度快，通常只有几十KB到几MB。当CPU读取某个内存地址时，会将该地址所在的整个缓存行（Cache Line，通常64字节）加载进缓存。
如果后续访问的数据也在同一缓存行中，就能快速命中缓存，避免昂贵的主存访问。因此，优化目标是：
- 减少缓存未命中（Cache Miss）
- 提高缓存命中率
- 充分利用预取机制
提升空间局部性：合理组织数据结构
空间局部性指的是程序倾向于访问邻近的内存地址。为提高这一点，应尽量让相关数据在内存中连续存放。
技巧1：使用紧凑结构体避免结构体内成员顺序导致填充浪费。例如：
struct Bad {
char c; // 1字节
double d; // 8字节 → 前面有7字节填充
int i; // 4字节 → 后面有4字节填充
}; // 总共可能占用24字节struct Good {
double d;
int i;
char c;
}; // 更紧凑，可能仅16字节成员按大小降序排列可减少填充，提升单位缓存行内存储的有效数据量。
技巧2：用数组代替指针链式结构
链表因节点分散在堆上，每次跳转都可能引发缓存未命中。而数组或std::vector内存连续，遍历时缓存友好。
考虑用“索引代替指针”实现对象池或自由列表，保持逻辑上的链接关系，同时物理内存集中。
提升时间局部性：复用已加载的数据
时间局部性指最近访问过的数据很可能再次被访问。应尽量在数据还在缓存中时完成所有操作。
技巧3：循环融合（Loop Fusion）避免多次遍历同一数据集：
// 不推荐 for (int i = 0; i < n; ++i) a[i] *= 2; for (int i = 0; i < n; ++i) sum += a[i];// 推荐：一次遍历完成 for (int i = 0; i < n; ++i) { a[i] *= 2; sum += a[i]; }
这样a[i]加载后立即被复用，减少总内存流量。
技巧4：分块处理大数据（Blocking / Tiling）
处理大数组或矩阵时，将其划分为适合缓存的小块。例如矩阵乘法：
for (int ii = 0; ii < N; ii += BLOCK_SIZE)
for (int jj = 0; jj < N; jj += BLOCK_SIZE)
for (int kk = 0; kk < N; kk += BLOCK_SIZE)
for (int i = ii; i < ii + BLOCK_SIZE; ++i)
for (int j = jj; j < jj + BLOCK_SIZE; ++j)
for (int k = kk; k < kk + BLOCK_SIZE; ++k)
C[i][j] += A[i][k] * B[k][j];
BLOCK_SIZE选择应使每个子矩阵能放入L1缓存，显著减少重复加载。
避免伪共享（False Sharing）
多个线程修改不同变量，但如果这些变量位于同一缓存行，仍会相互干扰。因为缓存一致性协议会强制同步整个缓存行。
技巧5：对齐与填充隔离线程私有数据struct alignas(64) ThreadData {
int count;
char pad[64 - sizeof(int)]; // 确保独占一个缓存行
};
使用alignas(64)或填充字段，使高并发写入的变量不共享缓存行。
利用编译器和硬件特性
技巧6：提示数据预取对可预测的大规模遍历，手动预取可隐藏内存延迟：
for (int i = 0; i < n; ++i) {
if (i + 32 < n) __builtin_
prefetch(&a[i+32], 0, 3);
process(a[i]);
}
prefetch(&a[i+32], 0, 3);
process(a[i]);
}
__builtin_prefetch（GCC/Clang）提示硬件提前加载指定地址。参数含义：地址、读写（0=读）、局部性等级（3=高）。
技巧7：使用合适的STL容器
std::vector优于std::list或std::deque（非连续），std::array用于固定大小且频繁访问的场景。迭代器顺序访问vector天然具备良好局部性。
基本上就这些。关键是意识到：再快的算法也抵不过频繁的缓存未命中。通过合理布局数据、控制访问模式、避免冲突，能让C++程序真正跑出“贴近硬件”的性能。
