机器学习—Softmax

Softmax回归算法是Logistic回归的推广,它是一种针对多类分类上下文的二进制分类算法

当y可以接受两个可能的输出值时,Logistic回归就适用了,不是零就是一,它计算这个输出的方式是首先计算z=w*x+b,然后计算a=g(z),它是一个应用于z的Z状结肠函数,把这解释为逻辑回归y=1概率的估计,给定这些输入特性X,如果y=1的概率是0.71,那么y=0的概率是0.29,所以稍微修饰一下逻辑回归,为了将其设置为Softmax回归的泛化,逻辑回归实际上是计算两个数字,也就是之前得到的y=1的概率,用a2=1-a1,也就是y=0的概率,现在将其推广到Softmax回归,当y有四个可能的输出时,所以y可以取1,2,3,4,它将把z计算为w*x+b,这些是Softmax回归的参数,下边是Softmax回归公式a1,作为算法对y=1的几率的估计,Softmax回归的公式将计算一个等式,而在左边,我们写下了Logistic回归模型的规范,右边的方程式是对Softmax回归模型的规范,它有参数w1到w4和b1到b4,如果能学会所有这些参数的适当选择,这就给了你一种预测的方法,给定一组输入特性,X快速测验,假设在一个新的输入X上运行Softmax回归,对于一般情况下的Softmax回归,所以y=1,2,3,.....N,Softmax回归将计算到Zj=Wj*x+bj,现在Softmax回归的参数是w1,w1到wn以及b1,b2到bn,aj被解释为y=j的模型估计,给定输入特征x,最终加起来为1,如果在n=2的情况下应用Softmax回归,所以只有两个可能的输出类,那么Softmax回归最终计算的结果与Logistic回归基本相同,参数最终会有点不同,但它最终简化为一个逻辑回归模型,这就是为什么Softmax回归模型是Logistic回归的推广。

定义了softmax回归如何混淆输出,那么如何指定Softmax回归的成本函数,模型所有参数的成本函数在整个训练集中的平均损失,这就是这个回归的成本函数,写下通常用于Softmax回归的成本函数,我们将在Softmax回归中使用的损失是这样的,如果算法输出一个1到n,地面真相标签是y,如果y=1,损失是负的,所以它是它认为y=1概率的负对数,在本例中,算法的损失是概率的负对数,它以为y=2,以此类推,如果y=j,那么损失函数loss=-log aj ,aj的负对数是一条曲线,如果aj非常接近1,那么会在曲线的右边,而且损失会很小,但如果aj只有50%的机会,就是就大了一点,aj越小损失越大,因此尽可能使aj大,尽可能接近损失小,注意,在这个损失函数中,每一个训练示例只能接收一个值,所以你最终计算出一个aj的负对数,只对aj的值,在那个特定的训练例子中,y=1的实际值是多少。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/911960.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

docker镜像文件导出导入

1. 导出容器(包含内部服务)为镜像文件(docker commit方法) 原理:docker commit命令允许你将一个容器的当前状态保存为一个新的镜像。这个新镜像将包含容器内所有的文件系统更改,包括安装的软件、配置文件等…

【韩老师零基础30天学会Java 】02笔记

sublime Text中本身没有GBK编码,需要安装 要在sublime Text中设置编码为GBK,请按照以下步骤操作 打开Sublime Text编辑器,点击菜单栏中的“Preferences”(首选项)选项,找打Package Control选项。点击Package Control,随后搜索Inst…

如何设置 TORCH_CUDA_ARCH_LIST 环境变量以优化 PyTorch 性能

引言 在深度学习领域,PyTorch 是一个广泛使用的框架,它允许开发者高效地构建和训练模型。为了充分利用你的 GPU 硬件,正确设置 TORCH_CUDA_ARCH_LIST 环境变量至关重要。这个变量告诉 PyTorch 在构建过程中应该针对哪些 CUDA 架构版本进行优…

Matlab 基于声学超表面的深亚波长厚度完美吸收体

传统吸声器的结构厚度与工作波长相当,这在低频范围的实际应用中造成了很大的障碍。我们提出了一种基于超表面的完美吸收器,能够在极低频区域实现声波的全吸收。该超表面具有深亚波长厚度,特征尺寸为k223,由穿孔板和卷曲共面气室组…

【HarmonyOS】not supported when useNormalizedOHMUrl is not true.

【HarmonyOS】 not supported when useNormalizedOHMUrl is not true. 问题背景: 集成三方库编译时,IDE提示报错信息如下: hvigor ERROR: Bytecode HARs: [cashier_alipay/cashiersdk] not supported when useNormalizedOHMUrl is not true…

用接地气的例子趣谈 WWDC 24 全新的 Swift Testing 入门(三)

概述 从 WWDC 24 开始,苹果推出了全新的测试机制:Swift Testing。利用它我们可以大幅度简化之前“老态龙钟”的 XCTest 编码范式,并且使得单元测试更加灵动自由,更符合 Swift 语言的优雅品味。 在这里我们会和大家一起初涉并领略…

嘉吉携百余款产品与解决方案再度亮相进博会

第七届中国国际进口博览会(下称“进博会”)于11月5日至10日在上海国家会展中心举办。嘉吉连续第七年参与进博会,并以“新质绿动,共赢未来”为参展主题,携超过120款创新产品与解决方案,共赴进博之约。 今年嘉…

LLMs之MemFree:MemFree的简介、安装和使用方法、案例应用之详细攻略

LLMs之MemFree:MemFree的简介、安装和使用方法、案例应用之详细攻略 目录 MemFree的简介 1、MemFree的价值 2、MemFree 配备了强大的功能,可满足各种搜索和生产力需求 3、MemFree AI UI生成器功能 MemFree 安装和使用方法 1. 前端安装 2. 向量服务…

LeetCode:103. 二叉树的锯齿形层序遍历

目录 题目描述: 代码: 这个与二叉树的层序遍历有点类似 题目描述: 给你二叉树的根节点 root ,返回其节点值的 锯齿形层序遍历 。(即先从左往右,再从右往左进行下一层遍历,以此类推,层与层之间交替进行)…

算法

1 差分练习 1 模板题 代码实现: import java.util.Scanner;public class Main {public static void main(String[] args) {Scanner sc new Scanner(System.in);int n sc.nextInt();int m sc.nextInt();int num sc.nextInt();long[][] arr new long[n 2][m 2…

新能源行业必会基础知识-----电力现货市场理论篇-----电力现货市场价格机制-----电力现货市场价格机制

新能源行业必会基础知识-----电力现货市场理论篇-----主目录-----持续更新https://blog.csdn.net/grd_java/article/details/143364261 这本书是2023年出版的,是当下了解国内电力市场最好的途径了。还是推荐大家买来这本书进行阅读观看,最好作为随身携带…

51单片机教程(五)- LED灯闪烁

1 项目分析 让输入/输出口的P1.0或P1.0~P1.7连接的LED灯闪烁。 2 技术准备 1、C语言知识点 1 运算符 1 算术运算符 #include <stdio.h>int main(){// 算术运算符int a 13;int b 6;printf("%d\n", ab); printf("%d\n", a-b); printf("%…

【go从零单排】error错误处理及封装

&#x1f308;Don’t worry , just coding! 内耗与overthinking只会削弱你的精力&#xff0c;虚度你的光阴&#xff0c;每天迈出一小步&#xff0c;回头时发现已经走了很远。 &#x1f4d7;概念 在 Go 语言中&#xff0c;error 是一个内置的接口类型&#xff0c;用于表示错误情…

【人工智能】阿里云PAI平台DSW实例一键安装Python脚本

阿里云的DSW实例自带的镜像很少而且并不好用&#xff0c;所以我在这里写三个一键编译安装Python3.8&#xff0c;Python3.9&#xff0c;Python3.10的Shell脚本。 安装Python3.8 wget https://www.smallbamboo.cn/install_python38.sh && chmod x install_python38.sh …

【TS】九天学会TS语法——1.TypeScript 是什么

&#x1f4af; 欢迎光临清清ww的博客小天地&#x1f4af; &#x1f525; 个人主页:【清清ww】&#x1f525; &#x1f4da; 系列专栏:vue3 | TypeScript &#x1f4da; &#x1f31f; 学习本无底&#xff0c;前进莫徬徨。&#x1f31f; 开始学习 目录 一、TypeScript 简介 1.Ja…

comfyUI官方笔记整理

官网教程笔记ComfyUI_examples 1.ComfyUI基础教程ComfyUI Basic Tutorial VN 从网上下载下来的模型ckpt和safetensors包含有3个不同的模型&#xff0c;CLIP&#xff0c;主模型还有VAEclip模型会和CLIPTextEncode进行连接&#xff0c;将文本编码为模型可以理解的向量形式。在S…

《数据治理精选案例集2.0(2024版)》592页PDF(已授权分享)

《亿信华辰数据治理精选案例集2.0》是北京亿信华辰软件有限责任公司倾力打造的专业数据治理案例集&#xff0c;汇集了100个一线政企数据治理实践案例&#xff0c;覆盖13大行业和500业务场景&#xff0c;通过深入剖析数据治理难题&#xff0c;提供了新思路和实战经验&#xff0c…

​通过人工智能技术实时识别安全着装规范、作业规范、设备状态、环境安全的智慧物流开源了。

智慧物流视频监控平台是一款功能强大且简单易用的实时算法视频监控系统。它的愿景是最底层打通各大芯片厂商相互间的壁垒&#xff0c;省去繁琐重复的适配流程&#xff0c;实现芯片、算法、应用的全流程组合&#xff0c;从而大大减少企业级应用约95%的开发成本。构建基于Ai技术的…

喜报!景联文科技成功通过DCMM数据管理能力成熟度二级认证

10月30日&#xff0c;中国电子信息行业联合会公示了新一批DCMM贯标企业&#xff0c;景联文科技成功通过DCMM数据管理能力成熟度二级认证&#xff08;乙方认证&#xff09;。 DCMM是《数据管理能力成熟度评估模型》的简称&#xff0c;是我国在数据管理领域首个正式发布的国家标准…

【linux学习指南】磁盘分区挂载到目录,形成文件系统挂载点

文章目录 &#x1f4dd;前言&#x1f320; 查看系统分区&#x1f309;制作一个大的磁盘块&#xff0c;就当做一个分区&#x1f309;格式化写入文件系统&#x1f309;将分区挂载到指定的目录&#x1f309;在分区重创建文件&#x1f309;卸载分区&#x1f309;分区挂载到目录才能…