感知机概述
- 感知机是人工智能最早的模型,是一种有监督的算法,本质上是一个二分类问题,是神经网络和支持向量机的基础
- 缺点:感知机智能解决单纯的线性问题
多层感知机的层级结构
多层感知机的层级结构主要包括输入层、隐藏层和输出层、可以用于拟合非线性函数。
激活函数概述
- 激活函数是一种在人工智能神经网络的神经单元上运行的函数,旨在帮助网络学习数据中的复杂模式,负责将神经元节点的输入映射到输出端
- 常见激活函数:Sigmoid函数、Tanh函数、ReLU函数等等
Sigmoid函数
- Sigmoid函数也叫Logistic函数,用于隐藏层神经元输出,取值范围为0到1,可以将一个实数映射到0到1区间,可用于二分类
- 输出不是0均值(均值为0.5)
- 存在梯度消失的情况
- 1 1 + ( − x ) e \frac{1}{1+(-x)^e} 1+(−x)