数据预处理之基于聚类的TOD异常值检测#matlab

1.基于聚类的异常值检测方法

物以类聚——相似的对象聚合在一起,基于聚类的异常点检测方法有两个共同特点:

(1)先采用特殊的聚类算法处理输入数据而得到聚类,再在聚类的基础上来检测异常。

(2)只需要扫描数据集若干次,效率较高,适用于大规模数据集。

2.检测方法计算步骤

基于聚类的异常点检测方法计算如下:

(1)把所有样本按某个聚类方法进行聚类,假设聚为k类:C₁,C₂…Ck

(2)对于每个对象p,计算该对象到每个类之间的距离d(p,Ci)

(3)计算每个对象p的异常因子得分,公式如下:

(4)计算所有对象的因子异常得分的平均值Ave_OF及标准差Dev_OF。

(5)奇异值标定:若OF(p)≥Ave_OF+β·Dve_OF(1≤β≤2),则为奇异值。通常取β=1或1.285。

3.案例数据

以下为图书馆书籍的案例数据,大小为789*16,部分如下图:

4.TOD异常检测案例代码

此处的TOD函数代码为作者自编的代码,如有需要请在公众号:早星数学建模 后台回复TOD,获得相关代码和案例数据。

4.1最优K的确认

基于聚类的异常检测方法的基础是必须先对样本点进行聚类,然而案例数据中所给样本

点个数较多,且维度高难以直观的判断出K-means聚类的参数:聚类数K的值。因此,本文

依据聚类算法中常用的“肘部法则”确定聚类数K的值。

简而言之,“肘部法则”根据计算不同连续K值时,所有样本点SSE的大小进而以斜率

变化大的点(“手肘”)作为聚类数K,此法则简单有效,在聚类算法中常用。对于SSE的计算有:

同理,在聚类算法中,不同K值对应的SSE为:

在MATLAB中编程实现上述“肘部法则”,SSE随K变化如下:

显然,当K>3后,SSE随K不再显著下降,因此可以确定除了异常点之外的样本点可聚为3类。

4.2代码运行与结果

接下来利用matlab查找案例数据中的异常值,以下为matlab代码:

clear

clc

A=xlsread('3.3基于聚类异常值检测案例数据.xlsx','Sheet1','C2:R790');

[B,sum,ab_rate]=TOD(A);

在经过Step.5奇异值标定后,共有42个样本点成为异常点,占5.32%,对应序号如下:

序号

8

127

278

450

606

745

13

162

362

453

632

760

86

172

365

455

650

770

88

188

406

563

678

772

94

226

430

566

698

773

100

273

432

577

713

778

117

277

440

603

715

786

本案例每一个异常的对象的每一个属性特征用所有对象的每一个属性特征的众数来替代。此外,异常值处理不仅仅可以用众数替代,还可以用均值和中位数,还可以用插值等方法替代。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/717218.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

DBA常用论坛

1.ITPUB ITPUB技术论坛_专业的IT技术社区 2.ASKTOM Ask TOM

IIS多个协议 显示一个问号问题的修改方法

一般用iis默认站点就会提示网站标题上多了个问号,鼠标移上去会提示多个协议,虽然对网站使用没有什么影响,但多个问号就是不顺眼,所以这里为大家分享一下去除提示的方法。 IIS左侧列表中,网站标题上多了个问号&#xf…

电影《加菲猫家族》观后感

上周看了电影《加菲猫家族》,本片其中有很多明亮的画面,相关艳丽的色彩,充满温馨的场景,很符合加菲猫的一贯画风,即使反派出场时,带有阴暗的感觉,看起也不是特别吓人,比较欢乐气氛&a…

Sermant标签路由能力在同城双活场景的应用

作者:聂子雄 华为云高级软件工程师 摘要:目前应用上云已成为趋势,用户也对应用在云上的高可靠方案有更高追求,目前同城双活场景作为应用高可靠方案中的一种常见实践方案,对微服务流量提出了数据中心亲和性的要求&…

手把手安装教导安装QT开源版

第一步:下载安装安装程序 官网地址:试用Qt | 开发应用程序和嵌入式系统 | Qt 点击页面中的“选择开源版” , 之后页面往下拉,找到下载按钮,点击下载安装程序 第二步:安装 下载好了安装程序之后&#xff0…

uniapp中Error: project.configjson: libVersion 字段需为 string. string

错误如下 找到manifestjson文件到源码视图 添加这段代码"libVersion": "latest",即可

3秒生成!这个AI模型画风也太治愈了,新手也能轻松驾驭

还在为不会画画而苦恼吗?别担心,今天给大家介绍一个超好用的AI模型——Soft and Squishy Linework,即使是小白也能轻松生成可爱的动漫图像! Soft and Squishy Linework:专门生成柔和的、低保真(lofi&#…

优思学院|IT行业学习六西格玛的价值

提到六西格玛(Six Sigma),很多人可能首先想到的是制造业。六西格玛确实在制造业中有着广泛的应用和显著的效果,如提高产品质量、降低缺陷率、减少浪费等。那么,六西格玛在信息技术(IT)行业是否同…

数据结构与算法笔记:基础篇 -字符串匹配(下):如何借助BM算法轻松理解KMP算法?

概述 上篇文章讲了 BM 算法,尽管他复杂,也不好理解,但确实工程中非常好用的一种高效字符串匹配算法。有统计说,它是最搞笑、最常用的字符串匹配算法。不过,在所有的字符串匹配算法里,要说最知名的一种的话…

(源码)一套医学影像PACS系统源码 医院系统源码 提供数据接收、图像处理、测量、保存、管理、远程医疗和系统参数设置等功能

PACS系统还提供了数据接收、图像处理、测量、保存、管理、远程医疗和系统参数设置等功能。 PACS系统提高了医学影像的利用率和诊疗效率,为医生提供了更加准确和及时的诊断依据。它是医院信息化的必备系统之一,已经成为医学影像管理和传输的重要工具。 P…

示例:WPF中使用DecodePixelHeight和DecodePixelWidth优化Image性能

一、目的:在使用Image控件时,如果图片太大或者图片数量过多时加载出来的程序内存会非常的大,但一般图片多时我们只要预览缩略图就可以,查看时再显示原图,这个时候需要通过通过设置BitmapImage的DecodePixelHeight和Dec…

在微信公众号上怎么添加预定房间功能

在这个快节奏的现代社会,人们对于便捷与高效的需求日益增加。特别是在旅行或出差时,能够快速、方便地预订一间舒适的房间,无疑是每个人心中的小确幸。今天,我们为您带来了一项革命性的服务——微信公众号上的房间预定功能&#xf…

如何修改倍福CX7000PLC IP地址

我们可以通过登录网页修改PLC的IP地址,这个需要我们知道PLC的初始IP地址 1、浏览器直接输入PLC 的IP地址 2、点击修改按钮(就是那个旋转) 修改IP地址前DHCP要先disable关闭 。 3、DHCP关闭 4、点击保存 5、在CAT3里搜索 在SYSTEM双击,之后点击搜索,具体过程可以参考下…

Pikachu靶场--RCE

exec"ping" 输入IP地址查看页面反应 可以在IP地址的后面拼接我们想要执行的命令 127.0.0.1 & ipconfig 127.0.0.1 && type C:\Windows\win.ini 127.0.0.1 | systeminfo 127.0.0.1 && net user 命令连接符 &命令1和命令2正…

【C++】认识STL

【C】认识STL STL的概念STL的版本STL的六大组件STL的三个境界STL的缺陷 STL的概念 SLT(standard template libaray-标准模板库):是C标准库的重要组成部分,不仅是一个可复用的组件库,而且是一个保罗数据结构与算法的软件框架。 STL的版本 原…

Cesium加载Mapbox自定义地图

Cesium 加载影像地图,一般都是天地图,高德地图,必应地图,谷歌地图等。 如果真实项目中想要自定义地图的风格样式,为了配合相应的页面UI风格,这些公共免费的影像地图就满足不了需求。 但是MapBox可以支持自…

物联网网关和飞鸟物联平台如何助力其实现智能化升级,提升生产效率-天拓四方

随着工业4.0时代的到来,物联网技术逐渐成为推动工业转型升级的关键力量。物联网网关作为连接工业设备与网络的核心枢纽,在工业自动化、数据收集与分析等方面发挥着越来越重要的作用。本案例将围绕一家知名制造企业,展示物联网网关和飞鸟物联平…

​一个高清影像下载插件

数据是GIS的血液! 虽然我们在水经微图(简称“微图”)中可以下载各种各样丰富的地图数据,但相信大家对数据的追求是无止境的。 我们现在就来分享一下,如何在QGIS中下载高清卫星影像的方法。 如果你需要最新版本的QGI…

专业纸箱厂:品质之选

在繁忙的工业园区,我们的纸箱厂以其卓越的品质和高效的生产能力脱颖而出。我们深谙纸箱制造的精髓,不断推陈出新,将传统工艺与现代科技完美结合。我们的纸箱不仅坚固耐用,而且设计独特,能够满足各种包装需求。 田东美达…

《天软行业全景画像定期报告》(2024-06)

最新《天软行业全景画像定期报告》(2024-06)内容概要如下: 家用电器、环保、机械设备行业的拥挤度较高,实际投资交易应注意;有色金属、通信、家用电器行业动量较强,房地产、综合、建筑装饰行业动量较弱&…