熟悉算法--感知机 有更新!

  |   0 评论   |   216 浏览

感知机

感知机是神经网络和支持向量机的基础。

本节主要涉及到

  1. 模型的基本定义
  2. 学习策略
  3. 学习算法,收敛性

包括线性可分和线性不可分两种,一般只讨论线性可分的情况。

确认好基本的模型形式,然后选择损失函数,思路是使得所有误分类点到分类超平面的距离之和最小,直至为0。稍微具体点的思路在节末的图片中描述了。

再通过随机梯度下降算法来迭代更新模型参数,每次随机选取一个误分类点,分类的超平面跟初始选择的点,以及迭代过程中误分类点的选择顺序相关。最终的超平面不是唯一的,这个问题后续对比支持向量机。

感知机对线性可分的数据,必然收敛。证明略。可以证明误分类的次数是有上界的。

评论

发表评论

validate