PVFS: A Parallel File System for Linux Clusters——论文泛读

ALS 2000 Paper 分布式元数据论文阅读笔记整理

问题

Linux集群作为低成本、高性能并行计算平台,但缺乏并行文件系统的支持,它对于此类集群上的高性能I/O至关重要。

本文方法

本文为Linux集群开发了一个并行文件系统,称为并行虚拟文件系统(PVFS),构建在本地文件系统之上,描述了PVFS的设计和实现。并满足以下需求:为从多个进程或线程到公共文件的并发读/写操作提供高带宽;支持多个API:本机PVFS API、UNIX/POSIX I/O API[15]、MPI-IO[13,18]等;支持常见的UNIX shell命令,如ls、cp和rm;使用UNIX I/O API开发的应用程序必须能够访问PVFS文件,而无需重新编译;具有健壮性和可扩展性;便于其他人安装和使用。

PVFS提供了一个集群范围的一致名称空间,允许用户控制不同I/O节点上磁盘之间的数据分条,并允许现有二进制文件在PVFS文件上操作,而无需重新编译。设计为具有多个服务器的客户端-服务器系统,称为I/O守护进程。I/O守护程序通常在群集中的独立节点上运行,这些节点称为I/O节点,并连接有磁盘。每个PVFS文件都跨I/O节点上的磁盘进行条带化。应用程序进程通过客户端库与PVFS交互。PVFS还有一个管理器守护进程,处理元数据操作,如文件创建、打开、关闭和删除操作的权限检查。管理员不参与读/写操作;客户端库和I/O守护进程在没有管理器干预的情况下处理所有文件I/O。

给出了在Argonne Chiba City cluster上的性能结果,包括不同数量的计算节点、I/O节点、I/O请求大小的并发读写工作负载性能结果。MPI-IO的性能结果,包括并发读/写工作负载和BTIO基准测试。比较了在PVFS中使用Myrinet网络和快速以太网进行I/O相关通信时的I/O性能,使用Myrinet获得了高达700兆字节/秒的读写带宽,使用快速以太网获得了225兆字节/秒钟的读写宽带。

总结

对PVFS的介绍,构建在Linux集群上的并行文件系统。应用程序进程通过客户端库与PVFS交互。PVFS在本地文件系统之上构建,通过管理器守护进程,处理元数据操作。管理器守护进程将数据条带化,映射到I/O守护进程,即本地客户端-服务器系统,运行在集群中的独立节点,并连接有磁盘。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/620110.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

云原生技术发展概述:投身云计算,从拥抱云原生开始

一、云原生的起源 云计算领域正在进行着一场革命,主机虚拟化实现了主机资源的池化,可以看作是云计算的上半场。以容器为基础的云原生真正实现了应用层的弹性,可以看作是云计算的下半场。 图来源:CNCF公开资料 有人说&#xff0c…

AI+文旅|当智慧遇见风景,感受文旅新体验

今年的五一假期,公众出游热度持续升温,全国多地景区再现“人山人海”,在这样的背景下,促使文旅行业不断通过数字化手段,提升旅游体验质量、探索新的服务方式,AI技术的加入为旅游业带来了革命性的变化。智能导游、智能推…

nuxt3.0+scrollreveal动画插件实现页面滚动加载动画效果

项目安装 npm install scrollreveal --save 在src下创建plugins文件夹,写入名为scrollreveal.client.ts的文件。 import { defineNuxtPlugin } from "#app"; import scrollReveal from scrollrevealexport default defineNuxtPlugin((nuxtApp) > {l…

最新微信智能电子名片源码 全开源可二开 智能名片系统开发

在数字化日益深入人心的今天,名片已不再是简单的纸质交换工具,而是成为了一个展示个人或企业形象、促进商务交流的重要窗口。分享一款全新的微信智能电子名片系统,源码开源、可二次开发的灵活性,更在功能上进行了全面升级和优化&a…

docker搭建mysql集群实现主从复制

前言 随着业务的增长,一台数据服务器已经满足不了需求了,负载过重。这个时候就需要减压了,实现负载均衡和读写分离,一主一丛或一主多从。 主服务器只负责写,而从服务器只负责读,从而提高了效率减轻压力。 …

微服务核心01-Maven【项目管理工具】基础

一、Maven 简介 1.1 传统项目管理: 1.2 Maven 的作用 项目构建:提供标准的、跨平台的自动化项目构建方式。依赖管理:管理项目依赖的资源(jar 包),避免资源间的版本冲突问题统一开发结构:提供标…

夜莺监控(Nightingale)上线内置指标功能

Prometheus 生态里如果要查询数据,需要编写 promql,对于普通用户来说,门槛有点高。通常有两种解法,一个是通过 AI 的手段做翻译,你用大白话跟 AI 提出你的诉求,让 AI 帮你写 promql,另一种是平台…

智慧油田三维电子沙盘系统

深圳易图讯科技(www.3dgis.top)智慧油田三维电子沙盘系统采用三维GIS、大数据、云计算、虚拟现实、物联网、AI等前沿技术,支持无人机航拍、高清卫星影像、DEM高程数据、矢量数据、无人机倾斜摄像、BIM模型、点云、城市白模、等高线、标高点等数据融合和切换&#xf…

如何查看MySQL binlog日志

1、查看MySQL是否开启binlog日志 SQL:show variables like ‘%log_bin%’; log_bin:on 是开启状态 若是OFF,则需要开启binlog日志。 开启方式:打开mysql配置文件my.cnf,在[mysqlId]下面增加 log-binmysql-bin 查看binlog日志 …

每日OJ题_贪心算法四⑥_力扣1262. 可被三整除的最大和

目录 力扣1262. 可被三整除的最大和 解析代码 力扣1262. 可被三整除的最大和 1262. 可被三整除的最大和 难度 中等 给你一个整数数组 nums,请你找出并返回能被三整除的元素最大和。 示例 1: 输入:nums [3,6,5,1,8] 输出:1…

Section I:Introduction

想学习的私信,免费学习路线 原文 Section I:Introduction 1.1 Your First Java Program The classic first program when introducing any new language is Hello World, or a program that prints to the console. In Java, Hello World can be writ…

AI地名故事:笔岗村

笔岗村,实际上是由笔村和宏岗村两个古老的村落合并而成的。南宋度宗元年,也就是公元1265年,笔村开始建立。随着时间的推移,到了宋代后期,宏岗村也相继建立。这两个村落各自承载着丰富的历史和文化,最终在历…

浅析安全用电监控系统在工厂的研究与应用论述

摘 要:随着社会时代的发展,人们的安全意识越来越强烈,在人们生活和工作中离不开各种用电设备,用电设备的安全使用是保障人们生命安全的重要内容。工厂因自身厂内工作环境的特殊性,用电设备的种类多且复杂,如…

云仓酒庄携手中视中州国际传媒 开启央视广告战略合作新征程

近日,云仓酒庄与中视中州(央视代理机构)隆重举行2024-2025年度央视广告战略签约仪式,云仓酒庄副总裁周玄代表云仓酒庄签约。此次合作标志着云仓酒庄在品牌传播和市场营销方面迈出了坚实的一步,将借助央视及多家卫视的强…

星戈瑞SH-PEG3-OH一种多功能生物相容性PEG小分子

SH-PEG3-OH是一种含有硫基(-SH)、三个乙二醇单元和羟基(-OH)的小分子化合物。其分子结构中的硫基赋予了其独特的化学反应性,能够与其他含有不饱和键的化合物发生点击化学反应,如迈克尔加成反应等。同时&…

iOS 面试题总结(可能是最全的!!!)

如有错误 请及时在评论中指出 文章将不定期更新 1. objc_msgForward是干什么的,如果直接调用会发生什么? 作用:这个函数是IMP类型(方法实现的内存地址也就是函数指针),用于消息转发,当向一个对…

iframe的替代方案有吗?做页面嵌套界面套娃

UIOTOS可以了解下,uiotos.net,通过连线来代替脚本逻辑开发,复杂的交互界面,通过页面嵌套轻松解决,是个很新颖的思路,前端零代码! 蓝图连线尤其是独创的页面嵌套和属性继承技术,好家…

【Pychart】jupyter中pyecharts无法显示问题无法使用/No module named pyecharts

无法显示或No module,一般就是更换python版本后,没有在新的python里安装jupyter;另外原因就是引用方式问题,就是import方式不对;都解决后,有报错没有add,或者str问题。 最后的解决方案竟然是bin…

LVDS 源同步接口

传统数据传输通常采用系统同步传输方式,多个器件基于同一时钟源进行系统同步,器件之间的数据传输时序关系以系统时钟为参考,如图1所示。系统同步传输方式使各器件处于同步工作模式,但器件之间传输数据的传输时延难以确定&#xff…

【代码实践】starRocks 窗口函数(udf)实践

背景说明 实现天粒度的同比计算重点说明 要求数据是连续的因为天粒度的同比,需要365天,但为了方便测试,当前的判断逻辑是计算5天的前,而不是365天前的 参考文档 https://docs.starrocks.io/zh/docs/sql-reference/sql-functio…