机器学习 - 线性分类器和非线性分类器的区别

2019-01-29

非线性分类器

线性分类器

上图为非线性分类器,下图为线性分类器。

什么是分类器,就是用来把输入的数据分类的。

上图,黑色的曲线就是非线性分类器,因为他分类了红点和蓝点。
下图,黑色的直线就是线性分类器。以直线的方式分类。

线性分类器

线性分类器就是用一个“超平面”将两个样本隔离开,如:
  (1)二维平面上的两个样本用一条直线来进行分类;
  (2)三维立体空间内的两个样本用一个平面来进行分类;
  (3)N维空间内的两个样本用一个超平面来进行分类。
常见的线性分类器有:LR,贝叶斯分类,单层感知机、线性回归,SVM(线性核)等。
线性分类器速度快、编程方便且便于理解,但是拟合能力低。

高纬度线性分类

(上图:高纬度线性分类)

非线性分类器

非线性分类器就是用一个“超曲面”或者多个超平(曲)面的组合将两组样本隔离开(不属于线性的分类器),如:
  (1)二维平面上的两组样本用一条曲线或折线来进行分类;
  (2)三维立体空间内的两组样本用一个曲面或者折面来进行分类;
  (3)N维空间内的两组样本用一个超曲面来进行分类。
常见的非线性分类器:决策树、RF、GBDT、多层感知机、SVM(高斯核)等。
非线性分类器拟合能力强但是编程实现较复杂,理解难度大。

@2020  TCODE    津ICP备13002520号-4