利用鸿鹄优化共享储能的SCADA 系统功能,赋能用户数据自助分析

摘要

本文主要介绍了共享储能的 SCADA 系统大数据架构,以及如何利用鸿鹄来更好的优化 SCADA 系统功能,如何为用户进行数据自助分析赋能。

1、共享储能介绍

说到共享储能,可能不少朋友比较陌生,下面我们简单介绍一下共享储能的价值及其未来的技术发展方向。

1.1 共享储能的价值

储能技术有着巨大的价值,储能的四个基本作用:一是削峰填谷,二是虚拟同步,三是准确控制性,四是响应电网的指令和控制负荷。储能的商业模式原来电源侧是自己用的,它是装在电源侧,但2019年6月份移到了电网侧由电网统一调度,叫共享储能,共享储能就由电网调度。

“共享储能”商业模式充分考虑到了各方需求。

从国际来看,2021年特斯拉部署的储能项目共4 GWh,2030年1500GWh 的目标,对比之下翻了375倍。由于市场需求仍持续高于产能,特斯拉储能业务增长依然受到供应链挑战的限制。

2020年,特斯拉美国官网正式上线Megapack 工业级电池储能系统,定价100万美元起,而且只面向企业销售,但依旧卖得火爆。在当年第二季度财报电话会议上,马斯克透露,Megapack 在2022年底的产能已全部售罄。

从国内来看,2021年4月21日,国家发展改革委、国家能源局发布《关于加快推动新型储能发展的指导意见(征求意见稿)》(以下简称《征求意见稿》)。《征求意见稿》提出,目标到2025年,实现新型储能从商业化初期向规模化发展转变,新型储能装机规模达3000万千瓦以上。

到2030年,实现新型储能全面市场化发展。

下图是彭博社关于未来共享储能市场各国装机容量的预测,我们可以看到,无论是中国还是美国,未来的储能市场都是一个至少万亿级的市场,天花板足够高。在这个新能源风起云涌的时代,共享储能已经跻身成为新型电力系统的基本要素。

(来源:彭博社)

1.2 电池储能是技术发展的未来

一般来说,目前共享储能包括机械储能、电磁储能和电池(也叫电化学)储能。通过下表我们可以看出,基于锂电池的储能技术优点明显,也是目前和未来共享储能的主流。

其他还有压缩空气储能、高能电容储能、液流电池储能、钠硫电池储能、铅酸电池储能等,由于地理条件限制、比能量太低等各种不同原因,并不是业界的主流技术。我们的共享储能 SCADA 系统也主要基于锂电池共享储能进行建设。

2、传统SCADA系统

所谓 SCADA ( Supervisor Control And Data Acquisition ) 数据采集系统,是一种集测量技术、计算机技术、通讯技术于一体的综合性集成控制系统,可实现共享储能系统的实时中央监控和管理调度。

典型的 SCADA 如下图,分为场站端和管理端。场站端:主要是三部分:下位机、通信网络、上位机。管理端:一般包括前置采集、SCADA应用。

由于早期的 SCADA 系统面对的数据量相对较小,因此大部分采用单机或者 C/S 架构,一般采用关系型数据库,比如:MySQL、SQL Server 等进行存储。随着采集数据的增多,这样的系统不能保存过长时间的数据,都会设置几个月的定期数据清理策略,如果要进行长周期的数据对比分析,则很难满足需求。

以下是一个我们客户之前用的传统 SCADA 系统:

3、基于大数据平台的共享储能 SCADA 系统

随着各种新能源(风能、太阳能)电厂的建设,电厂的数据采集层具有数据采集量大、采集频率高的特点,历史库必将形成复杂、异构的储能大数据,传统的SCADA系统开始面临计算机 CPU 升级、内存不足、计算机硬件扩充、成本增加等一系列的问题。传统的数据处理方式,难以快速处理海量的共享储能大数据。

因此,我们的共享储能客户提出要基于大数据平台进行共享储能 SCADA 系统的建设。

3.1 总体架构

一般来说,共享储能电站主要由变配电设备、储能电池组、能源管理系统( EMS )、电池管理系统( BMS )、能量转换控制系统( PCS )及 SCADA 系统组成。

在建设中,我们考虑到现有共享储能系统复杂、采集点比较多的特点,采用了时序数据库进行主要数据存储。另外,共享储能系统一般要求是在一个封闭的环境下,无法连接互联网,因此我们会通过一台基于 GPS(北斗)的时间服务器进行时间同步。

下图是我们共享储能 SCADA 系统的示意图:

为了能更方便的集成一些第三方标准采集盒子,我们采用了 MQTT 协议作为数据传输的主要协议,这样对于第三方标准的采集盒子仅仅需要进行简单的配置,就能把数据采集上来。

为了更加灵活的进行采集程序编写,我们采用的是 Python 语言进行开发,对于数据展示、分析端,我们进行了前后端分离,后端使用主流的 Java 框架 Spring Boot 进行开发,前端采用 Vue 进行开发。

3.2 数据存储

采集的数据主要存储在 InfluxDB 中,对于一些特殊的报表需求,我们会定时ETL数据到 MySQL 关系型数据库中。

对于 InfluxDB 的存储结构,有一些查询的效率会比较低,因此,会提前进行预计算以满足快速的数据分析需求。当然对于大数据系统,这也是一个非常常用的要求,好在 InfluxDB 提供 Rollup 的功能,能很方便的通过编写 SQL 语句根据采样的精度和数据聚合方式进行预计算。

3.3 实景拍摄

这是第一个应用我们 SCADA 系统的共享储能电站实景拍摄图,该共享储能电站基本上具备了一般共享储能电站的主要功能:削峰填谷、响应电网的指令和控制负荷。

3.4 系统界面

下图是我们一个共享储能电站的主系统图,图中所有的数据都是实时进行采集显示。此外,根据客户的需求,也能直接在系统图上进行一些简单的系统交互控制。

一般在共享储能电站的 SCADA 系统首页,用户希望能看到储能系统响应电网计算机 AGC 指令的实时情况,从而快速分析出当前储能系统的工作功率。下图是我们建设的一个典型的 SCADA 系统首页:

4、利用鸿鹄优化共享储能 SCADA 系统

在了解到国内推出了一款新的大数据产品,我们就希望能尝鲜体验,当然之前我们也考虑过一些其他产品,但是从价格、易用性方面比我们现有架构并没有明显提升。

4.1 我们的痛点

虽然我们之前基于大数据平台建立的产品比原有传统的 SCADA 系统已经有了很大进步,但是仍然还是有一些不太令人满意的地方。

4.1.1 缺乏灵活性

对于共享储能SCADA系统来说,除了和一般SCADA系统一样具有监控的功能外,更重要的是共享储能SCADA系统必须响应电网的指令精准控制储能系统出力(也就是我们前面提到储能的四个基本作用的后面两个)提供数据分析服务和辅助决策。

共享储能系统建成后大约3-6个月的时间都处于电网指令响应算法的调试期,为了针对算法模型进行调参优化,电力工程师和算法工程师就会不断的有很多临时的想法,在看到算法调整后的数据变化,用户会进一步希望有一些新的指标或者统计图表呈现。

由于所有的统计分析功能都需要用Java代码进行实现,一旦用户提出更多的数据分析需求,就要重新对需求进行排期。如果能有一款所见即所得的辅助数据分析工具,显然能更好的满足一些临时性、探索性的分析需求。加快共享储能系统的算法模型调试进度。

4.1.2 ETL依赖

虽然我们核心的采集数据都保存到了 InfluxDB,目前一个储能电站的每日采集数据量大约是8-12GB,目前我们建设第一个共享储能电站SCADA系统运行一年后,大约有3TB的累计数据。有一些报表通过 SQL 直接查询 InfluxDB 效率就会比较低下,因此我们就会把一部分统计报表的数据从 InfluxDB 通过 ETL 脚本抽取到 MySQL 中,以应对相对复杂的分析报告需求。

4.1.3 扩展价格昂贵

随着数据量的增多,未来如果要采用 InfluxDB 集群,这个代价也是相当高的。由于社区版的 InfluxDB 不支持集群模式,所以,我们从相关渠道打听过支持集群模式的 InfluxDB 企业版,据说价格能达到百万,这显然对于一个SCADA 系统来说无法承受。

4.2 选型对比

基于提高灵活性、减少对 ETL 的依赖以及合理的成本等几项要素,我们更多的偏向于 ElasticSearch、Splunk 等能够省去 ETL 过程、建模更加灵活的产品,刚好最近从业界的朋友得知国内一个实力强劲的团队发布了一款比Splunk 更好的产品——鸿鹄社区版,就忍不住想上手试试。尤其是当我们看到鸿鹄的读时建模和向量加速的特性的时候,显然能解决我们之前的痛点。

4.2.1 读时建模

按照官方文档的解释,“读时模式”是一种在搜索数据的同时,从原始数据提取有用字段( field )的技术。由于可以省去ETL部分,该技术可以极大的减少数据导入时候的开销。这一点非常适合我们 SCADA 系统用户的一些临时性、探索性的需求。

尤其是当数据采集进入平台的时候,直接存储原始数据,通过定义一些列字段提取规则,在查询时,动态的根据引用到的规则,从原始数据中提取字段值。

(此图来源于鸿鹄官方文档)

4.2.2 向量加速

通过在使用中,我们还发现了鸿鹄系统的一个非常重要的特性,就是使用了向量加速计算,向量计算能充分利用CPU的SIMD(Single Instruction Multiple Data)指令,SIMD是一类特殊的CPU指令类型,这种指令可以在一条指令中同时操作多个数据,大大提升了数据处理的性能,这也是鸿鹄在安装的时候为什么要求CPU必须支持AVX2 指令集的原因。

4.3 新的架构

我们新的架构将鸿鹄替代关系型数据库,如果在装机容量不大的储能电站甚至可以做为主数据存储使用。

如下图所示,通过和鸿鹄的整合,提升了现有SCADA 系统的灵活性,相当于直接给原有的系统进行了自助分析赋能。

在新的架构中,我们会让鸿鹄和InfluxDB共同工作。使用鸿鹄,一方面替代了MySQL的作用以及一部分InfluxDB的预计算处理;另外一方面我们可以让用户直接登录鸿鹄的管理界面进行一些自助的数据分析,这也是之前用户一直期望的。

4.4 项目集成

说了这么多,已经迫不及待进行系统集成尝试了。

4.4.1 鸿鹄系统的安装

鸿鹄系统的安装非常简单,基本上按照官方文档一步步下来很快就能搞定,系统内存也只是需要 8G 的限制,在如今手机内存都超过 8G 的年代,还是非常良心的配置要求。

不过由于鸿鹄使用了矢量计算技术,官方文档提示:鸿鹄计算引擎使用了 AVX2 高级指令集做向量计算加速,因此,鸿鹄需要运行在支持 AVX2 指令集的 CPU 上。

当然,官方文档给出了测试方法,可以运行以下命令得知CPU是否支持AVX2 指令集:

刚好,我有一台现成的老服务器,赶紧进行测试。不幸的是,他……不支持。

很快,我找来一台云主机,完美解决。

安装需要安装docker以及其他一些相关组件,不过安装过程非常简单,完全按照官方安装文档(https://yanhuang.yuque.com/staff-sbytbc/rb5rur/auwfm3?)一步步进行即可。

这是安装完成后的界面,确实是“大数至简”。

4.4.2 接收MQTT数据

为了能赶紧试试鸿鹄的功能,我们需要先把数据灌进来,当然如果只是试用,你可以用 csv、json 等文件导入数据。

由于在之前的架构中,我们会采用 EMQX 来采集各种设备的数据,所以,在试用的过程中我简单的开发了一个从EMQX 接收 MQTT 数据并转发到鸿鹄的服务,并已发布到 Github 平台上。

开发过程就不细表,大家可以到如下地址看到并下载:

https://github.com/neulf/mqtt-honghu

4.4.3 数据预计算技术

由于数据量的增大,我们在 InfluxDB 上一般会采用 Rollup 进行预计算,以增强对大数据的处理能力,提高查询性能。因此,对于一款新的大数据产品,很自然地,我们对数据预计算方面也非常关切。

从官方文档上,我们发现鸿鹄提供了多种数据预计算技术,包括物化视图、预存查询、定时报表,你可以在官方文档中看到这几种技术的应用场景,我就不在这里一一赘述。

4.4.4 灵活的查询

鸿鹄提供简易查询和高阶查询的功能,支持业界通用的生产力工具——SQL 进行查询,这一点对于大部分工程师、数据分析人员甚至一部分资深的运营人员都是很方便的。

有关鸿鹄SQL的介绍,请参考这里

(https://yanhuang.yuque.com/staff-sbytbc/rb5rur/znakv0?)

4.4.5 丰富的开箱即用图表

鸿鹄提供了非常丰富的图表,对于一个使用过一些商业BI产品(比如:Tableau、PowerBI)的人来说,这款社区产品真的是非常给力,我们尝试把之前需要进行定制开发的功能,比如 AGC 指令、系统出力功率等指标的对比曲线用鸿鹄的高级查询功能实现,真的是非常简单。

4.5 总结

从试用来看,鸿鹄是一款安装非常方便,具备丰富的图表分析功能的社区产品。由于我没有对鸿鹄和一些时序数据库进行插入性能方面的基准测试,但是从其他搜索引擎和时序数据库的对比以及个人经验来看,对于采集并发性能要求不是太严苛的新建共享储能 SCADA 系统,可以直接采用鸿鹄做为主存储进行使用;如果是已建项目的改造或者对性能要求非常高,可以考虑架构上采用时序性数据库配合鸿鹄的方式。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/40193.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

行为型模式 - 模板方法模式

概述 在面向对象程序设计过程中,程序员常常会遇到这种情况:设计一个系统时知道了算法所需的关键步骤,而且确定了这些步骤的执行顺序,但某些步骤的具体实现还未知,或者说某些步骤的实现与具体的环境相关。 例如&#…

Docker 基本管理与应用

目录 一、Docker介绍 1、docker概述 2、容器优势 3、Docker与虚拟机的区别 4、Docker核心概念 二: 安装 Docker 1、环境准备、安装依赖包 2、 设置阿里云镜像源,安装 Docker-CE并设置为开机自动启动 3、信息查看 ​三:Docker 镜像操作…

XSS简介

OWASP TOP 10 OWASP(开放式Web应用程序安全项目)的工具,文档,论坛额全球各地分会都是开放的,对所有致力于改进应用程序安全的人士开放,最具权威的就是10项目最严重的Web应用程序安全风险列表 Cross Site Scripting(X…

使用Vue的插件clipboard使用复制功能

1.安装clipboard插件 npm install clipboard 2.使用 clipboard <template><div style"margin-right: auto;margin-left: auto; 800px"><el-table :data"list"><el-table-column label"搜索引擎" prop"name"&g…

cesium实战(1)、cesium 加载本地json、GeoJson数据

1、cesium加载本地图层json图层数据 并设置样式 添加图层 // 加载路网数据 wms数据服务let addRoadLayer () > {Cesium.GeoJsonDataSource.load(/cesium/layers/road_84.json, {stroke: Cesium.Color.YELLOW,//多边形或线的颜色 strokeWidth: 3,//多边形或线 宽度clampToG…

【优选算法题练习】day6

文章目录 一、76. 最小覆盖子串1.题目简介2.解题思路3.代码4.运行结果 二、704. 二分查找1.题目简介2.解题思路3.代码4.运行结果 三、34. 在排序数组中查找元素的第一个和最后一个位置1.题目简介2.解题思路3.代码4.运行结果 总结 一、76. 最小覆盖子串 1.题目简介 76. 最小覆…

Selenium(3 + 4 超级详细笔记)

文章目录 selenium&#xff08;web自动化测试&#xff09;1. selenium初始化&#xff08;2种&#xff09;2. chrome 启动参数&#xff08;3种&#xff09;3. 八大定位方式3.1 css 定位3.2 xpath 定位3.3 link_text 定位3.4 partial_link_text 定位3.5 relative 相对定位 4. 添加…

OpenCv之图像轮廓

目录 一、图像轮廓定义 二、绘制轮廓 三、计算轮廓面积与周长 一、图像轮廓定义 图像轮廓是具有相同颜色或灰度的连续带你的曲线.轮廓在形状分析和物体的检测和识别中很有用 轮廓的作用: 用于图形分析物体的识别与检测 注意点: 为了检测的准确性&#xff0c;需要先对图像…

采集传感器的物联网网关怎么采集数据?

随着工业4.0和智能制造的快速发展&#xff0c;物联网&#xff08;IoT&#xff09;技术的应用越来越广泛&#xff0c;传感器在整个物联网系统中使用非常普遍&#xff0c;如温度传感器、湿度传感器、光照传感器等&#xff0c;对于大部分物联网应用来说&#xff0c;采集传感器都非…

JVM系统优化实践(20):GC生产环境案例(三)

您好&#xff0c;这里是「码农镖局」CSDN博客&#xff0c;欢迎您来&#xff0c;欢迎您再来&#xff5e; 某新手开发工程师接到了一个保存Elasticsearch日志的任务&#xff0c;以供后续分析之用。但写代码的时候&#xff0c;误将保存日志的代码段弄成了无限循环&#xff0c;程序…

C#盯盘小工具,“监”

也是一个小工具&#xff0c;用来看大A股票和主要指数行情的。 如果你是一个上班族&#xff0c;同时你也是一颗小韭菜&#xff0c;a股在开市交易盘中时刻惦记着股票是涨了还是跌了&#xff0c;却不能时刻盯着手机看行情&#xff0c;也不能在电脑上开着同花顺来回切窗口&#xff…

数据可视化自助式分析工具:jvs-bi数据扩展及函数配置说明

jvs-bi数据拓展节点 数据拓展是数据可视化加工过程中的重要工具&#xff0c;它核心的作用是对原有数据表进行加工扩展&#xff0c;实现功能如下图所示 函数配置操作过程 操作说明 1、拖动数据拓展字段&#xff0c;并将字段拓展与之前的历史节点连接起来&#xff0c;点击数据拓…

全面深入理解MySQL自增锁

&#x1f497;推荐阅读文章&#x1f497; &#x1f338;JavaSE系列&#x1f338;&#x1f449;1️⃣《JavaSE系列教程》&#x1f33a;MySQL系列&#x1f33a;&#x1f449;2️⃣《MySQL系列教程》&#x1f340;JavaWeb系列&#x1f340;&#x1f449;3️⃣《JavaWeb系列教程》…

在 3ds Max 中对链模型进行摆放姿势处理

推荐&#xff1a; NSDT场景编辑器助你快速搭建可二次开发的3D应用场景 建模和“摆姿势”3D链可能看起来是一项繁琐的工作&#xff0c;但实际上可以通过使用阵列工具并将链中的链接视为骨骼来轻松完成。在本教程中&#xff0c;我将向您展示如何对链条进行建模&#xff0c;并通过…

16. 存储过程和存储函数

文章目录 1.存储过程和存储函数2.创建和使用存储过程2.1 语法&#xff1a;2.2 第一个存储过程&#xff0c;打印hello world2.3 调用语法2.4 带参数的存储过程2.5 调试存储过程 3.创建和使用存储函数3.1 存储函数定义3.2 存储函数语法&#xff1a;3.3 存储函数案例&#xff1a; …

C++初探

目录 经典开头 — C的历史 作用域运算符 using的用法 命名空间 - namespace 命名空间的基本使用 特殊的命名空间 - 无名命名空间 全部展开和部分展开 std — C所有的标准库都在std命名空间内 省缺值 - 默认参数 占位参数 内联函数 - inline 函数重载 函数重载的用…

如何撤销git上一次的commit(或已push)

如何撤销git上一次的commit&#xff08;或已push&#xff09; 当多人开发时&#xff0c;我们本地commit后&#xff0c;刚要push&#xff0c;发现忘记pull最新代码&#xff0c;此时会有冲突push失败&#xff0c; 我们想要撤销最近的一次commit 我们先简单介绍一下git git有三大…

Python爬虫——urllib_ajax的get请求爬取豆瓣电影前十页

ajax&#xff1a; 就是一段js代码&#xff0c;通过这段代码&#xff0c;可以让页面发送异步的请求&#xff0c;或者向服务器发送一个东西&#xff0c;即和服务器进行交互 对于ajax&#xff1a; 一定会有 url&#xff0c;请求方法(get, post)&#xff0c;可能有数据一般使用 j…

DBeaver数据库管理工具安装连接PostgreSQL和DM

文章目录 1. 安装2. 连接PostgreSQL3. 连接DM83.1 下载驱动3.2 添加驱动3.3 连接3.4 创建表空间和用户3.5 执行sql 4. 连接Mysql 1. 安装 下载地址 https://dbeaver.io/download/ 2. 连接PostgreSQL 配置显示所有数据库 第二个勾选会显示模板数据库 点击测试连接&#xff0…

linux之Ubuntu系列(三)远程管理指令☞Scp

cp scp cp 复制文件 是限制在本地操作 scp&#xff1a; 远程拷贝文件 cp [options] 源文件or 目录 目标文件or 目录 如果复制目录&#xff0c;要加 -r 选项 &#xff0c;同时如果目标目录不存在&#xff0c;会会创建 scp scp就是 secure copy&#xff0c;是一个在linux下用来…