一、定义

1. cuda 缓存示意图
2. gpu 架构示意图
3. gpu 内存访问示意图

二、实现

1. cuda 缓存示意图
   
   DRAM: 通常指的是GPU的显存，位于GPU芯片外部，通过某种接口（如PCIE）与GPU芯片相连。它是GPU访问的主要数据存储区域，用于存储大量的数据。
   L1: 缓存位于GPU芯片内部，靠近计算核心。L1缓存通常直接集成在每个计算单元（如流多处理器SM）内部。
   L2: 缓存位于GPU芯片内部，靠近计算核心。L2缓存则可能被多个计算单元共享。
   速度： L1>L2>DRAM
   容量： L1<<L2<DRAM

2. gpu 架构示意图
   

3. gpu 内存访问示意图