cache 设计

1. cache  概念扫描

        简介:

        cache 是一种小容量的缓存空间,类似于较小的sram 。 它的存在着重解决逻辑访问外部存储(ddr )的时延。 通过一种预测算法(cache 的换入和换出),将逻辑大概率访问的热点流/数据  存储在cache 中,减小访问外设的延时,也可以减少访问外设带宽。 

       常用术语:

        换入: cache ptr申请命中后,将新数据写入chche 。  若存在冲突,老数据需要等待所有读返回后回写ddr;

        换出: cache  ptr 申请命中,但是存在冲突,需要将老的数据换出; 有老化机制,符合老化标准,也将数据换出,cache ptr 释放;

        老化: 一种将cache ptr 回收程序, 可以按照特定算法实现。 下文有描述。

        保序:硬件上设计cache ,必然使用并行思想。存在多个读写 outstanding 情况,需要按申请顺序,保序输出读写请求。

        哈希:根据实际使用场景,将需要存入chche的热流/数据,通过hash 算法映射成 唯一 一个cache ptr。 为了减少冲突,可以增加cache ptr的dpth ,也就是扩大hash结果的位宽,降低多个热流hash 到一个ptr 的概率。

        换出算法:

隨機算法:  固定时间间隔随机 换出一个 cache ptr;
先进先出算法:类似fifo, 第一个申请的ptr ,优先被换出。 
                可能造成抖动现象: 先申请ptr1 - ptr5 ,然后来了ptr6 占用ptr1 ,此时逻辑会顺序访问ptr 1- ptr5,则ptr1 会重新占用ptr2 ,ptr2 会占重新用ptr3 ......,影响cache 性能。
近期最少使用:对每一个ptr 使用一个cnt 记录其多久未被访问的次数。 例如顺序申请ptr1 ~ ptr5, 当申请完后 其对应cnt 为4,3,2,1,0 。  所以下一次被换出的是ptr1 ,然后将cnt 变为 0,4,3,2,1。 这种实现方式不会出现不同ptr的cnt 相同情况。
最近不经常使用: 使用cnt 记录当前ptr被访问次数,需要换出时,看cnt的最小值对应的ptr。

cache 映射分类:

        全相联映射:一个chunk可以映射到缓存的任何一个块,优点是非常的灵活,但缺点是因为存储的随机性所以在缓存中查询某一个块的时间开销会增加,而且会给每个Cache块分配一个比较器所以硬件成本增加。

直接映射:是最不灵活的策略,一个内存块只能存储到cache的一个特定的位置,这由内存块在内存的物理地址和映射函数决定。这种策略容易造成cache还有空余空间,但却发生冲突的情况。

组相联映射:全相联映射和直接映射的结合将cache块进行分组,一个内存块可以映射到特定组的某个缓存块中。实质是组外采取直接映射,组内采取全相联映射。  

类似于一个hash 值可以映射到一组存储空间(逃生桶),但是具体使用哪个需要根据key 做一次 mux ;

TODO: 设计框图

参考 :

https://zhuanlan.zhihu.com/p/667534349

3.9.3Cache替换算法-CSDN博客

https://zhuanlan.zhihu.com/p/629237349

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/792678.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Milvus核心设计(2)-----TSO机制详解

目录 背景 动机 Timestamp种类及使用场景 Guarantee timestamp Service timestamp Graceful time Timestamp同步机制 主流程 时间戳同步流程 背景 Milvus 在设计上突出了分布式的设计,虽然Chroma 也支持分布式的store 与 query。但是相对Milvus来说,不算非常突出。…

【LangChain系列】【基于Langchain的Pandascsv Agent】

目录 前言一、LangChain1-1、介绍1-2、特点 二、Pandas&csv Agent2-1、安装2-2、Pandas&csv Agent介绍2-3、Pandas&csv Agent使用2-3-1、相关库的导入:2-3-2、设置要调用的模型(我这里使用阿里的模型)2-3-3、数据读取&展示2-…

华为USG6000V防火墙v1

目录 一、实验拓扑图 二、要求 三、IP地址规划 四、实验配置 1🤣防火墙FW1web服务配置 2.网络配置 要求1:DMZ区内的服务器,办公区仅能在办公时间内(9:00-18:00)可以访问,生产区的设备全天可以访问 要求2:生产区不…

记一次酣畅淋漓的UDF提权(Linux)

外网打点就不放了,翻了一下具备suid权限的命令,没啥结果。 可疑的命令是/usr/lib/dbus-1.0/dbus-daemon-launch-helper但是没有找到用这个命令提权的资料。 弹shell后翻找一下源码,/app/api.py文件中链接了mysql,事出反常必有妖&…

Qt:18.状态栏(状态栏介绍、代码方式创建状态栏、在状态栏显示临时信息、在状态栏创建控件)

目录 1.状态栏介绍: 2.代码方式创建状态栏: 3. 在状态栏显示临时信息: 4.在状态栏创建控件: 1.状态栏介绍: Qt 状态栏是 QMainWindow 窗口的一部分,通常用于显示临时信息,如应用程序的状态、…

hbase学习

hbase学习 hbase概述: HBase 是一个高可靠性、高性能、面向列、可伸缩的分布式存储系统,用于存储海量的结构化或者半结构化,非结构化的数据(底层是字节数组做存储的) HBase是Hadoop的生态系统之一,是建立在…

系统化学习 H264视频编码(03)数据压缩流程及相关概念

说明:我们参考黄金圈学习法(什么是黄金圈法则?->模型 黄金圈法则,本文使用:why-what)来学习音H264视频编码。本系列文章侧重于理解视频编码的知识体系和实践方法,理论方面会更多地讲清楚 音视频中概念的…

国产化趋势下源代码数据防泄密的信创沙盒的方案分享

随着国产化的大力推进,越来越多的企事业单位在逐步替换Windows、Linux等操作系统的使用。那么什是国产化了?国产化是指在产品或服务中采用国内自主研发的技术和标注,替代过去依赖的他国的产品和服务,国产化又被称之为“信创”&…

pytorch实现水果2分类(蓝莓,苹果)

1.数据集的路径,结构 dataset.py 目的: 输入:没有输入,路径是写死了的。 输出:返回的是一个对象,里面有self.data。self.data是一个列表,里面是(图片路径.jpg,标签&…

错误处理在网络爬虫开发中的重要性:Perl示例_引言

错误处理的必要性 在网络爬虫的开发过程中,可能会遇到多种错误,包括但不限于: 网络连接问题服务器错误(如404或500错误)目标网站结构变化超时问题权限问题 错误处理机制可以确保在遇到这些问题时,爬虫能…

防火墙之安全策略

目录 前言: 一、实验需求 二、需求分析 三、具体操作 1,在安全区域中新建拓扑图中所显示的区域 2,在对象模块中的时间段中添加一个9:00-18:00 3,写两条安全策略,一个是生产区&#xff0c…

记录文字视差背景学习

效果图 文字背景会随鼠标上下移动变成红色或透明 html <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><titl…

前端使用pinia中存入的值

导入pinia,创建pinia实例 使用pinia中的值

【Spring Boot】关系映射开发(二):一对多映射

《JPA 从入门到精通》系列包含以下文章&#xff1a; Java 持久层 API&#xff1a;JPA认识 JPA 的接口JPA 的查询方式基于 JPA 开发的文章管理系统&#xff08;CRUD&#xff09;关系映射开发&#xff08;一&#xff09;&#xff1a;一对一映射关系映射开发&#xff08;二&#…

设计已死?AIGC时代创意设计师的“智能设计”和“人智协作”

在当今这个AIGC&#xff08;AI Generated Content&#xff09;时代&#xff0c;有人宣称“设计已死”&#xff0c;认为人工智能将会完全取代设计师的工作。然而&#xff0c;事实真的如此吗&#xff1f;本文将深入探讨AIGC时代下创意设计师的“智能设计”与“人智协作”。 AIGC是…

Elasticsearch:Node.js ECS 日志记录 - Pino

在我的上一篇文章 “Beats&#xff1a;使用 Filebeat 从 Python 应用程序中提取日志” 里&#xff0c;我详述了如何使用 Python 来生成日志&#xff0c;并使用 Filebeat 来收集日志到 Elasticsearch 中。在今天的文章中&#xff0c;我来详细描述如何使用 Node.js 来生成 ECS 相…

什么是数据标准?企业进行数据标准管理有这么多好处?

随着大数据、云计算和人工智能等技术的兴起&#xff0c;企业对数据的依赖程度日益增加。然而&#xff0c;数据的快速增长带来了一系列挑战&#xff0c;其中之一就是如何确保数据的一致性和准确性。这正是数据标准管理发挥作用的地方。 数据标准管理构成了数据管理的核心部分&a…

C语言学习网站推荐

1.C语言中文网&#xff1a; http://c.biancheng.net/view/510.html 此网站会提供很多关于C语言的入门算法&#xff0c;教程等等。分享的C语言知识结构是比较完整的。此网站还提供了很多关于C语言的资料&#xff0c;代码。有些资料是免费的&#xff0c;有些是需要付费的。 2.5…

常用知识碎片 Vue3 ref和reactive (内含其他常用知识)

目录 ref和reactive ref reactive 总结&#xff1a; setup语法糖 语法糖是啥&#xff1f; Vue3 setup语法糖 Vue3 不使用setup语法糖示例&#xff1a; Vue3 使用setup语法糖示例&#xff1a; ref和eative主要区别 ref和reactive 在 Vue 3 中&#xff0c;ref 和 reac…

git仓库使用

一、没有仓库 首先要有gitee账号 创建仓库 有了仓库就按已有仓库进行操作 二、已有仓库 先让仓库负责人把自己拉进仓库 成为开发者或者管理员 git clone 仓库地址 开始工作 git add . git commit -m “ 提交说明” git pull 更新一下也叫同步 将线上代码更新到本地 git pu…