XSKY对象存储深度结合Alluxio分布式缓存系统,GPU利用率提高至90%以上

在这里插入图片描述
近日,Alluxio分布式缓存系统完成了与XSKY星辰天合的 XEOS V6.4 对象存储的兼容性测试,旨在解决数据管理和加速方面的挑战。双方进行了深度的产品对接和联合开发,将 Alluxio 分布式缓存系统与 XEOS 对象存储的众多应用特性进行结合,推出一体化存储联合方案,以更好地支持 AI 场景下的数据管理和加速需求。在这里插入图片描述
近年来,随着 AI、大数据的逐渐推广和完善,特别是 AI 大模型(LLM、多模态、文生视频等)的广泛推广,超大数据量的存储以及访问已经成为了企业面临的一个重大的技术以及成本挑战。

对象存储具有扩展性好、安全性高、成本可控等特点,成为了目前最热门的海量数据存储技术选型。但是对象存储在数据访问性能方面也面临一系列挑战,特别在 AI 模型训练场景下,数据访问性能的增强,成为了提升 GPU 利用率的关键因素,市场亟需一个能够和对象存储有效结合,兼具对象存储优势且性能卓越的一体化解决方案。

Alluxio 数据平台与 XEOS 的这一合作将为用户提供更高性能、更低成本、更灵活的数据管理和加速方案,有望推动 AI 技术在各个领域的应用和发展。

Alluxio Enterprise AI 与XEOS强强联合

针对 AI 场景的数据平台 - Alluxio Enterprise AI

Alluxio Enterprise AI 是针对 AI 相关场景的数据平台,可在本地、云、混合或多云环境中,支持无缝访问、管理和运行您的数据和人工智能工作负载。

在这里插入图片描述

  1. 智能缓存能力:Alluxio 推出的 Alluxio Enterprise AI 平台可以提供高性能分布式缓存系统,因此 AI 引擎等计算应用可以通过访问高性能 Alluxio 缓存提高数据 I/O, 而非相对缓慢对象存储来读写数据。其智能缓存策略针对 AI 等工作负载的 I/O 模式量身定制,可为整个 AI 等计算工作流提供高吞吐量和低延迟。Alluxio 可将 GPU 利用率提高至90%以上,使得数据与 GPU 周期同步,并加速模型训练和模型服务。
  2. 无需数据拷贝:Alluxio 可快速按需加载数据,而非将数据复制到本地存储。这消除了数据加载对计算性能造成的瓶颈。通过高性能的按需数据访问,可消除数据副本并提高性能。
  3. 节约成本:Alluxio 可以结合实际计算需要进行灵活的贴近计算侧的部署,充分利用闲置资源提供透明的数据访问加速能力,以提升计算侧的 GPU/CPU 利用率,用较少的成本达到更好的效果。
  4. 无需重写应用程序:Alluxio 通过统一的命名空间对数据技术栈进行标准化,跨各类存储系统提供统一的访问模式,可以提供 S3/HDFS/POSIX/RESTful 等各种 API 能力。应用开发人员无需再考虑数据存储的位置,可以解耦计算和存储,而无需重写应用程序。

为海量非结构化数据而生的XEOS 对象存储

XEOS 是 XSKY 推出的企业级对象存储产品。它支持无缝扩展、跨异构存储系统的统一管理、高性能访问、智能数据管理等功能,帮助企业轻松构建安全可靠、高性能、低成本的对象存储平台,满足日益增长的海量数据管理需求。
在这里插入图片描述
XEOS 作为全面的对象存储解决方案,是数据湖的理想底座,特别适用于 AI 场景的数据存储和管理。作为数据湖的底层存储,XEOS 具备以下优势:

  1. 无限扩展能力:XEOS 支持分布式元数据和存储节点,可以轻松扩展到千亿级别的对象存储容量,满足海量数据积累的需求;
  2. 高性能访问:统一的元数据服务、智能多级缓存等技术确保了快速的数据访问性能,满足数据湖中各类应用的需求;
  3. 强大的数据管理功能:XEOS 提供了丰富的数据生命周期管理、存储分级、压缩等功能,有效提高了存储效率和性价比;
  4. 卓越的数据安全:XEOS 采用 EC、副本、故障域等机制,以及加密、快照、回收站等技术,确保数据的持续高可用和安全性;
  5. 智能生态支持:XEOS 与大数据、机器学习等应用高度融合,提供了图形化工具、自定义元数据、数据流动等功能,有助于构建端到端的数据智能应用。

XEOS 与 Alluxio 深度结合 充分利用二者优势的联合方案

XEOS 与 Alluxio 的融合充分利用了 XEOS 和 Alluxio 的能力,实现了更高性能、更低成本、更灵活的数据管理和加速方案。在完成两款产品的基础融合后,双方不仅仅完成了基本功能的验证,还基于 AI 场景探索 Alluxio 与 XEOS 进行深度结合开发。

1.高并发、高性能元数据操作

Alluxio 和 XEOS 进行了元数据接口的深度集成和调试,实现了百亿到千亿级对象基础上的高性能数据请求,支持数百万级高性能低时延 IOPS。

XEOS 提供了分布式元数据服务能力,Alluxio 提供了无状态可扩展的元数据存储和服务能力,都保证了良好的扩展性,同时 Alluxio 和 XEOS 在元数据相关接口集成上有效降低了非必要的接口调用以及非必要的数据传输,大大提升了元数据接口之间的交互性能。

通过 Alluxio 的无状态扩展性,每个 Alluxio 节点独立支撑相当数量的元数据的请求以及缓存,利用 XEOS 自身的高性能元数据访问接口能力,在不损耗元数据请求性能的基础上扩展元数据服务支撑能力,特别是在海量小文件的高并发数据请求下,既可以降低高并发元数据请求对 XEOS 的压力,又能大大提升元数据请求的服务性能。

2. 缓存精准实时更新

Alluxio 和 XEOS 之间可以充分利用 XEOS 提供的数据集消息通知能力。当 XEOS 感知到数据发生变更时,会实时推送通知给 Alluxio。Alluxio 可以利用消息通知机制,精准快速地决定哪些数据需要被预热到缓存中。

在这里插入图片描述

这种基于消息通知的缓存预热机制,能够确保 Alluxio 缓存的实时性和准确性。应用程序无需人工干预,Alluxio 就能自动感知数据变化,快速完成缓存的更新和预取,大幅提升缓存的时效性,保障了数据访问性能,大大降低预热对计算的影响。

这种深度融合不仅提高了缓存的命中率,还最大限度地减少了不必要的数据移动,大大优化了整体的 I/O 性能和资源利用效率。通过 Alluxio 与 XEOS 的协同,AI 应用可以获得卓越的数据访问体验。

3.更高效的数据写入能力

XEOS 提供的追加写和随机写能力,与 Alluxio 缓存层的数据写入能力可以实现高度融合,提供更高效的数据写入能力。

XEOS 作为 Alluxio 的持久化存储层,不仅提供了海量的存储容量,还支持丰富的写入模式,如追加写、随机写等。Alluxio 可以充分利用 XEOS 的这些写入功能来优化缓存写入功能和性能。对于需要频繁更新的热点数据,Alluxio 可以直接以追加写或随机写的方式将数据写入 XEOS,避免了传统对象存储仅支持覆盖写所带来的性能瓶颈。这大幅提升了 Alluxio 缓存层的写入效率。

通过 Alluxio 和 XEOS 的深度融合,可以最大限度地减少数据在两者之间的不必要移动。这提供了更高效的数据写入能力,提升了整体的写入性能,大幅降低了 Alluxio 自身的写入开销,优化了系统的资源利用效率。

4.开放数据流动,提高数据流转效率

XEOS 凭借其出色的数据生命周期管理和流动能力,为 Alluxio 提供了强大的支撑。在最新的 6.4 版本中,XEOS 通过开放数据流动 API 进一步增强了这些核心优势:

通过 XEOS 全面的数据流动 API,应用程序可以轻松实现跨云厂商、NAS、蓝光/磁带等不同存储介质的数据流动。Alluxio 只需下发数据流动规则,XEOS 就可以负责执行具体的数据复制、分层、归档等操作。这种深度集成大大减少了 Alluxio 在读取数据后再次写入到统一文件系统(UFS)的开销,降低了整体的数据写入开销。

同时,XEOS 还提供了复制、分层、校验、QoS 等丰富的数据管理功能。通过与 Alluxio 的紧密结合,双方可以根据实际需求,优化数据的存储和访问策略,不仅提升了数据访问性能,也大幅提高了整个数据生命周期的管理效率。

XEOS 6.4 版本在数据流动和生命周期管理方面的创新能力,为 Alluxio 构建高性能、高效、智能的 AI 数据管理平台提供了坚实的基础。

针对 AI 的优势场景:以对象为底座且需要高性能文件访问

Alluxio 和 XEOS 的联合方案,针对尤其是在 AI 场景下,以对象存储作为底座,并且需要高性能文件协议访问的客户具备非常大的价值,包括如下四点:

  • 高性能数据访问:Alluxio 和 XEOS 结合,可以有效综合 XEOS 的高性能对象存储接口能力以及 Alluxio 贴近计算侧的高性能共享缓存层的能力,为计算应用提供高性能数据访问能力。
  • 海量数据存储:XEOS 提供了海量数据存储能力,Alluxio 提供了无状态可扩展的共享缓存能力,都可以随着数据存储以及数据访问规模的增大而扩展,既能支撑海量存储又能提供高性能的大规模数据访问能力。
  • 成本效益:XEOS 作为成熟的对象存储产品,利用一系列技术实现了更加经济的海量数据存储方案,有效降低了企业的海量数据存储成本;Alluxio 则可以通过灵活的部署策略,有效利用企业计算侧的高性能存储空间提供贴近计算侧的共享缓存能力,在不增加额外硬件成本的基础上实现高性能数据访问能力的构建。
  • 架构先进性:XEOS 构建了安全可靠、高性能、低成本的对象存储平台,Alluxio 基于 XEOS 提供了高效数据缓存以及数据访问平台,Alluxio 某种意义上是 XEOS 的扩展客户端,实现 1+1>2 的架构。

√ 可以利用 Alluxio 的统一命名空间实现多个 XEOS 以及 XEOS 和其他文件/对象存储系统的统一访问。

√ 可以利用 Alluxio+XEOS 提供更加高效的 POSIX 和 S3 协议的接口能力。

√ 可以利用 Alluxio+XEOS 提供更完善的安全能力,包括和 Kerberos、Ranger 等集成。

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/681038.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

弘君资本今日投资参考:新能源消纳政策加码 智能网联汽车再加速

昨日,沪指午后在金融、酿酒等板块的带动下发力拉升,深证成指、创业板指走势微弱。截至收盘,沪指涨0.41%报3091.2点,深证成指涨1.05%报9469.32点,创业板指涨1.33%报1843.59点,上证50指数涨0.58%,…

私域流量课程企业培训小程序网站的作用是什么

中高型企业在发展方面,各个环节都需俱到,内部培训或是外部相关课程需求度都比较高,比如近些年火热的私域流量运营,存在着不少干货输出机构或个人,线上线下课程培训,做企业培训和私域流量运营课程输出的机构…

【数据结构】查找(顺序查找、二分查找、索引顺序查找、二叉排序树、平衡排序树、B树、B+树、哈希表)

目录 数据结构——查找何为查找1. 查找表2. 关键字3. 查找方法效果评价指标——平均查找长度ASL(Average Search Length) 静态查找表1.顺序查找2.二分查找二分查找判定树 3.静态查找表—索引顺序表的查找索引顺序查找表的算法原理: 动态查找树表1. 二叉排序树2. 二叉…

fastjson反序列化漏洞复现

靶机IP:192.168.253.134 攻击机IP:192.168.142.44 1、靶机环境搭建 靶机:http://caiyun.feixin.10086.cn/dl/095CteuquNKVq 提取密码:NNPD RCE:http://caiyun.feixin.10086.cn/dl/095CuIsJQOw14 提取密码:J2vd 靶机账号密码&…

重生奇迹mu魔剑士

1、魔剑士低端装备-SF10(升级)亚特传说等S-S(PK)亚特奔雷魔神等。评价:优越的极品双属卓越,极其高的性价比,造福穷人玩家的装。 2、中端装备(只适合力魔剑士)-SF10S-S天魔斗神评价:与低级亚特等一样不过由于成本,装备PVP属性等原因,价钱稍贵点。 3、中端套装(只适合…

【成品论文】2024年数学建模国赛B题成品论文分享(点个关注,后续会更新)

您的点赞收藏是我继续更新的最大动力! 一定要点击如下的蓝色字体链接,那是获取资料的入口! 点击链接加入群聊【2024国赛资料合集】:http://qm.qq.com/cgi-bin/qm/qr?_wv1027&kCe9u9pqQeBrMHgupi-R078l9TuU0RwSl&authKeyRjsYS3Piiw…

Java文件操作①——XML文件的读取

系列文章目录 文章目录 系列文章目录前言一、邂逅XML二、应用 DOM 方式解析 XML三、应用 SAX 方式解析 XML四、应用 DOM4J 及 JDOM 方式解析 XMLJDOM 方式解析 XMLDOM4J 方式解析 XML前言 前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。…

淘宝在线扭蛋机开发过程中技术难点探讨

淘宝在线扭蛋机开发过程中涉及多个技术难点,这些难点可以从前端技术、后端架构、数据库设计、安全性保障、性能优化以及用户体验提升等方面进行详细阐述。以下是对这些技术难点的清晰归纳和分点表示: 1. 前端技术实现 技术栈选择:淘宝在线扭…

AD域渗透链和工具推荐

xmind下载地址: 链接: https://pan.baidu.com/s/1_BsmqLvN6aBnan0AIk5iBA 提取码: j97j

窗口重叠之鼠标事件透传

目的 Qt webview在下层展示url,上层覆盖最小化等按钮,支持大小拖拽,窗口移动。 如下图,除红框部分,其余异形部分作为url展示区 构想 想要实现该效果,需要在webview窗口上方动态创建两个窗口,…

大型零售企业总部到分公司数据发放,有没有更优化的方案?

大型零售企业在市场经济中扮演重要角色,是保证基础商品生产、流通和供给的重要一环。随着企业发展,很多大型零售企业都会在全国、乃至全球各地开设分公司,用以降低生产和运营成本,更好地提供本地化服务。 为了保证总部与分公司间信…

探索魁北克:IT专业人士的移民新天地

在这个数字化飞速发展的时代,IT专业人士无疑是推动社会进步的关键力量。魁北克省,作为加拿大的科技与文化中心,正以其开放的姿态和优越的移民政策,吸引着全球IT精英的目光。今天,让我们一起探索魁北克省为IT专业人士量…

25地信考研必看:含择校、备考、夏令营攻略资料分享

25考研学子们,考研准备要赶早,这里小编给大家整合准备了25考研需要关注的几个重要内容,需要的宝子收藏起来。 一、25地信考研的时间线: 大三: 择校、开始复习 大三暑假: 参加高校组织的夏令营&#xf…

Docker基础篇之Docker常规软件安装

文章目录 1. 总体步骤2. 安装tomcat3. 安装Mysql4. 安装Redis 1. 总体步骤 安装软件的总体步骤如下所示: 搜索镜像拉取镜像查看镜像启动镜像停止容器移除容器 2. 安装tomcat docker hub上查找tomcat镜像 或者使用一下命令查找: docker search tomca…

映射网络驱动器自动断开的解决方法

如果将驱动器映射到网络共享,映射的驱动器可能会在定期处于非活动状态后断开连接,并且 Windows 资源管理器可能会在映射驱动器的图标上显示红色 X。,出现此行为的原因是,系统可以在指定的超时期限后断开空闲连接, (默认…

echarts 交错柱状图, 对向柱状图, 双柱状图横向

设计图样式 上代码 父组件 <bar-chart :option"energyOption"></bar-chart>initChart() {//上周能耗排行榜this.black_label ["漫张农污处理设施","邓庄农污处理设施","王桥农污处理设施","甲庄农污处理设施"…

做抖音小店卖什么最赚钱?精准锁定爆款的技巧!新手商家必看

哈喽~我是电商月月 做抖音小店的核心就是选品&#xff0c;商品好&#xff0c;出单的几率就多&#xff0c;那么怎么选中一个好的商品&#xff0c;就是每个商家必须细琢的一个技巧&#xff01; 为了解答这个疑惑&#xff0c;今天月月就给大家介绍几个赚钱的类别&#xff0c;并教…

目标检测数据集 - 打架检测数据集下载「包含VOC、COCO、YOLO三种格式」

数据集介绍&#xff1a;打架检测数据集&#xff0c;真实监控场景高质量打架图片数据&#xff0c;涉及场景丰富&#xff0c;比如街道场景打架数据、酒吧场景打架数据、商店场景打架数据、公交车场景打架数据、监狱场景打架数据、空旷地打架数据、两人打架数据、多人群殴数据等。…

用cocos2d-python绘制游戏开发的新篇章

用cocos2d-python绘制游戏开发的新篇章 第一部分&#xff1a;背景 在游戏开发的世界中&#xff0c;寻找一个强大而灵活的框架至关重要。cocos2d-python是一个Python游戏开发框架&#xff0c;它提供了一套丰富的功能&#xff0c;用于创建2D游戏、图形和交互式应用。基于流行的c…