假设函数定义
假设函数,猜一个 x->y 的类型,比如 y = ax + b,随后监督学习的任务就是找到误差最低的 a 和 b 参数
有时候我们可以定义 x0 = 1,来让假设函数的整个表达式一致统一
如上图是机器学习中的一些术语
额外的符号,使用 (xi, yi) 表示第 i 个样本
n 表示特征数量 (在房屋价格预测问题中,属性/特征有两个:房子面积和卧室数量,因此这里 n = 2)
监督学习的过程就是选择合适的参数,来让假设函数的输出和样本输出相近(针对训练集)
房屋预测案例中的目标函数,最小化误差平方和
我们通常会在目标函数旁边放个 1/2,这是为了后边简化求导计算
我们通常使用梯度下降法来选取更加合适的 theta参数 来优化目标函数,如上图是梯度下降法中的 “baby step”
这里的 阿尔法 就是学习速率
如图,是对目标函数的求导 (由于对几个项的和求导,等于它们的导数和,所以这里我们先不 care 那个 sum(sigma) 符号)
如图,是对求导公式的后续转换
如图,这是对目标函数求导的最终公式的其中一项 (j = j)
TODO: here