基于Swin Transformers的乳腺癌组织病理学图像多分类

乳腺癌的非侵入性诊断程序涉及体检和成像技术,如乳房X光检查、超声检查和磁共振成像。成像程序对于更全面地评估癌症区域和识别癌症亚型的敏感性较低。

CNN表现出固有的归纳偏差,并且对于图像中感兴趣对象的平移、旋转和位置有所不同。因此,通常在训练CNN模型时应用图像增强。


Swin Transformer是视觉转换器的变体,基于非重叠移位窗口的概念,是一种用于各种视觉检测任务的成熟方法。

用于分类任务的VIT实现全局自我注意力,其中计算图像补丁和所有其他补丁之间的关联。这种全局量化导致了关于补丁数量的二次计算复杂性,使得它不太适合处理高分辨率图像。Swin Transformer工作在移位的窗口上,可以提供可变的图像补丁分辨率。

为了高效建模,提出并计算局部窗口内的自注意力,并且以不重叠的方式排列窗口以均匀划分图像。基于窗口的自注意力具有线性复杂性和可扩展性。基于窗口的自注意力的建模能力是有限的,因为它缺乏跨窗口的连接。因此,提出了一种移位窗口分区方法,在连续旋转变压器块的分区配置之间交替进行,以允许跨窗口连接,同时保持非重叠窗口的高效计算。

基于乳房x光检查

在从特定感兴趣区域(ROI)进行分类时,从乳房X光片中考虑的典型特征是肿块大小、ROI的不规则形状、ROI边界的均匀性和组织密度。将这些手工制作的特征输入到支持向量机、k近邻、逻辑回归、二叉决策树和人工神经网络等分类器中进行分类。

基于超声图像检查

超声检查也是非侵入性的,基于机器学习的方法包括基于感兴趣区域的放射性特征,用于使用各种机器学习分类器进行分类。使用希尔伯特变换标记控制分水岭变换提取形状和纹理特征,并将其进一步馈送到KNN分类器和集成决策树模型。

基于组织病理学图像

非侵入性成像程序可能无法识别癌症区域及其亚型。为了弥补这一缺陷,活检被用于更多样化地研究乳腺组织中的恶性肿瘤。活检包括收集样本并在显微镜载玻片上对组织进行染色,以便更好地观察细胞质和细胞核。

BreakHis数据集

BreaKHis数据集由82例患者的乳腺肿瘤手术活检获得的7909张显微RGB图像组成,放大倍率分别为50倍、100倍、200倍和400倍。数据包括良性和恶性亚型。此外,良性癌症亚型包括纤维腺瘤、管状腺瘤、叶状瘤和腺病,而恶性亚型包括导管癌、乳头状癌、小叶癌和粘液性癌。

 Swin Transformer

准备工作

  1. 将700*640的原始图像分辨率调整为224*224
  2. 将输入尺寸为H\times W\times 3的RGB图像将原始的起始补丁大小分割成大小为4*4的小补丁
  3. 每个图象补丁的尺寸为4\times 4\times 3=48
  4. 在大小为48的原始特征张量上应用线性嵌入层,将其投影到特征维度C上

体系结构

  1.  将尺寸为C的补丁线性嵌入上应用几个具有自注意力的Swin Transformer块,保证tokens的数量为\frac{H}{4}\times \frac{W}{4},线性嵌入层与Swin Transformer一起构成Swin Transformer体系结构的第一阶段。
  2. 为了便于分层表示,从Swin Transformer Block架构的第二阶段开始,通过补丁合并层来降低补丁的数量。第二阶段的补丁合并层将每组2*2相邻补丁的特征进行拼接,并在4C维拼接特征上应用线性层。这样可以将补丁的数量减少了4倍,并且将线性层的输出维度为2C,第二阶段的输出补丁数保持在\frac{H}{8}\times \frac{W}{8}
  3. 这样的过程重复两次,构成阶段3和阶段4.导致其输出分辨率分别为\frac{H}{16}\times \frac{W}{16}\frac{H}{32}\times \frac{W}{32}

 \hat{z}^{l}=W-MHSA(LN(z^{l-1}))+z^{l-1}

z^{l}=MLP(LN(\hat{z}^{l}))+\hat{z}^{l}

\hat{z}^{l+1}=SW-MHSA(LN(z^{l}))+z^{l}

z^{l+1}=MLP(LN(\hat{z}^{l+1}))+\hat{z}^{l+1}

模型交叉验证和测试

原始数据集中图像的强度值在0 ~ 255之间,将这些强度缩放为−1和1之间的值。当包含所有缩放因子的图像时,数据集被分为62:8:30分别用于训练、验证和测试。当从特定缩放因子的图像中实现分类时,遵循72:8:20的分割。通过经验选择Swin Transformer的超参数,并使用验证集来确保模型不会过拟合。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/524683.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

比 Nest.js 更优雅的 TS 控制反转策略 - 依赖查找

一、Cabloy5.0 内测预告 Cabloy5.0 采用 TS 对整个全栈框架进行了脱胎换骨般的大重构,并且提供了更加优雅的 ts 控制反转策略,让我们的业务开发更加快捷顺畅 1. 新旧技术栈对比: 后端前端旧版js、egg2.0、mysqljs、vue2、framework7新版ts…

实验笔记之——Gaussian-SLAM测试与配置

之前博客对基于3DGS的SLAM进行了调研 学习笔记之——3D Gaussian Splatting及其在SLAM与自动驾驶上的应用调研_3d gaussian splatting slam-CSDN博客文章浏览阅读4.6k次,点赞49次,收藏82次。论文主页3D Gaussian Splatting是最近NeRF方面的突破性工作&a…

同济大学 高等数学教材+习题全解指导 PDF 第八版 上册+下册

内容简介 本书是同济大学数学科学学院编的《高等数学》第八版,从整体上说与第七版没有大的改变,内容深广度符合 2014 年版工科类本科数学基础课程教学基本要求,适合高等院校工科类各专业学生使用。本次修订遵循 “坚持改革,不断锤…

JetBrains IDE 2024.1 发布 - 开发者工具

JetBrains IDE 2024.1 (macOS, Linux, Windows) - 开发者工具 CLion, DataGrip, DataSpell, Fleet, GoLand, IntelliJ IDEA, PhpStorm, PyCharm, Rider, RubyMine, WebStorm 请访问原文链接:JetBrains IDE 2024.1 (macOS, Linux, Windows) - 开发者工具&#xff0…

100天Rust从入门到入狱----------第1天 环境安装(MacOS)

1.下载Rust的编译工具,打开Rust编译工具(rustup,rustup是安装和管理rust的一个工具):https://www.rust-lang.org/zh-CN/tools/install 2.复制上面的命令到终端粘贴运行,出现如下界面,输入1回车 …

【引子】C++从介绍到HelloWorld

C从介绍到HelloWorld 一、C的介绍1. 简介2. 应用场景3. C的标准![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/e3efb0f207f647729b92c0b5bcd4b330.png)4. C的运行过程 二、Visual Studio的安装1. 什么是Visual Studio2. Visual Studio的安装 三、完成HelloWorld1.…

页面转word的那些事

背景 有些时候需要将页面内容或者是页面的数据通过word进行下载,以方便客户进行二次编辑,而不是直接导出图片或者是pdf。 想在页面端点击下载成word,那必然需要服务端来进行读写文件,无论是你后端编辑好的内容流,还是…

开源数据湖iceberg, hudi ,delta lake, paimon对比分析

Iceberg, Hudi, Delta Lake和Paimon都是用于大数据湖(Data Lake)或数据仓库(Data Warehouse)中数据管理和处理的工具或框架,但它们在设计、功能和适用场景上有所不同。 Iceberg: Iceberg是用于大型分析表的高性能格式。Iceberg将SQL表的可靠性和简易性带入到大数据领域,同…

2024/4/1—力扣—按摩师

代码实现&#xff1a; 思路&#xff1a;打家劫舍题 int massage(int *nums, int numsSize) {if (nums NULL || numsSize 0) {return 0;}if (numsSize 1) {return nums[0];}int dp[numsSize];memset(dp, 0, sizeof(dp));dp[0] nums[0];dp[1] (nums[0] < nums[1] ? nums…

WPS快速将插入Excle数据插入Word

前置条件&#xff1a; 一张有标题、数据的excle表格word中的表格与excle表格标题对应或包含电脑已经安装WPS软件 第一步、根据word模板设计excle模板&#xff0c;标头对应 第二步、word上面选【引用】--【邮件】&#xff0c;选打开数据源&#xff0c;找到excle文件&#xff0c;…

(2024,Attention-Mamba,MoE 替换 MLP)Jamba:混合 Transformer-Mamba 语言模型

Jamba: A Hybrid Transformer-Mamba Language Model 公和众和号&#xff1a;EDPJ&#xff08;进 Q 交流群&#xff1a;922230617 或加 VX&#xff1a;CV_EDPJ 进 V 交流群&#xff09; 目录 0. 摘要 1. 简介 2. 模型架构 3. 收获的好处 3.1 单个 80GB GPU 的 Jamba 实现 …

Python 基于 OpenCV 视觉图像处理实战 之 OpenCV 简单视频处理实战案例 之四 简单视频倒放效果

Python 基于 OpenCV 视觉图像处理实战 之 OpenCV 简单视频处理实战案例 之四 简单视频倒放效果 目录 Python 基于 OpenCV 视觉图像处理实战 之 OpenCV 简单视频处理实战案例 之四 简单视频倒放效果 一、简单介绍 二、简单视频倒放效果实现原理 三、简单视频倒放效果案例实现…

2014最新AI智能创作系统ChatGPT网站源码,Midjourney绘画网站源码,附搭建部署教程

一、系统前言 SparkAi创作系统是基于ChatGPT进行开发的Ai智能问答系统和Midjourney绘画系统&#xff0c;支持OpenAI-GPT全模型国内AI全模型。本期针对源码系统整体测试下来非常完美&#xff0c;那么如何搭建部署AI创作ChatGPT&#xff1f;小编这里写一个详细图文教程吧。已支持…

【redis数据同步】redis-shake数据同步全量+增量

redis-shake数据同步 redis-shake是基于redis-port基础上进行改进的一款产品。它支持解析、恢复、备份、同步四个功能。以下主要介绍同步sync。 恢复restore&#xff1a;将RDB文件恢复到目的redis数据库。备份dump&#xff1a;将源redis的全量数据通过RDB文件备份起来。解析de…

[开源]基于SVM的时间序列预测python代码

整理了SVM的时间序列预测python代码分享给大家。记得点赞哦 #!/usr/bin/env python # coding: utf-8import numpy as np import matplotlib.pyplot as plt import pandas as pd from sklearn import preprocessing from sklearn.metrics import mean_squared_error from math i…

嵌入式Linux驱动开发——汇编点灯

嵌入式Linux驱动开发——汇编点灯 本文章开始记录学习嵌入式Linux的过程&#xff0c;使用的开发板是正点原子的阿尔法&#xff0c;以及左老师的书籍和视频。然后这个系列不会介绍基础知识&#xff08;书上都有&#xff09;&#xff0c;主要是记录思考过程以及需要注意的点。 代…

docker使用arthas基本教程

供参考也是自己的笔记 docker容器下使用遇到的问题&#xff1a;大致是连接不上1号进程 我这边主要的问题是用户权限问题&#xff0c;docker容器使用aaa用户启动&#xff0c;那个在docker容器内&#xff0c;需要使用aaa用于启动 docker 容器如何使用arthas #实现下载好arthas …

启动Unity发布的exe并且添加启动参数

启动Unity发布的exe并且添加启动参数 在启动Unity的时候添加一些启动的参数。 代码解释 在启动的时候获取的启动参数如果没有获取到正确的启动参数那么就退出程序&#xff0c;这个代码仅仅在发布到windows之后才会生效&#xff0c;在编辑器下这个代码虽然会获取到参数但是不能…

CVE-2024-3148 DedeCms makehtml_archives_action sql注入漏洞分析

DedeCMS&#xff08;也称为织梦CMS&#xff09;是一款基于PHPMySQL的开源内容管理系统。 在 DedeCMS 5.7.112 中发现一个被归类为严重的漏洞。此漏洞会影响某些未知文件dede/makehtml_archives_action.php的处理。操作导致 sql 注入。攻击可能是远程发起的。该漏洞已向公众披露…

【C++入门】缺省参数、函数重载与引用

&#x1f49e;&#x1f49e; 前言 hello hello~ &#xff0c;这里是大耳朵土土垚~&#x1f496;&#x1f496; &#xff0c;欢迎大家点赞&#x1f973;&#x1f973;关注&#x1f4a5;&#x1f4a5;收藏&#x1f339;&#x1f339;&#x1f339; &#x1f4a5;个人主页&#x…