上图为非线性分类器,下图为线性分类器。
什么是分类器,就是用来把输入的数据分类的。
上图,黑色的曲线就是非线性分类器,因为他分类了红点和蓝点。
下图,黑色的直线就是线性分类器。以直线的方式分类。
线性分类器
线性分类器就是用一个“超平面”将两个样本隔离开,如:
(1)二维平面上的两个样本用一条直线来进行分类;
(2)三维立体空间内的两个样本用一个平面来进行分类;
(3)N维空间内的两个样本用一个超平面来进行分类。
常见的线性分类器有:LR,贝叶斯分类,单层感知机、线性回归,SVM(线性核)等。
线性分类器速度快、编程方便且便于理解,但是拟合能力低。
(上图:高纬度线性分类)
非线性分类器
非线性分类器就是用一个“超曲面”或者多个超平(曲)面的组合将两组样本隔离开(不属于线性的分类器),如:
(1)二维平面上的两组样本用一条曲线或折线来进行分类;
(2)三维立体空间内的两组样本用一个曲面或者折面来进行分类;
(3)N维空间内的两组样本用一个超曲面来进行分类。
常见的非线性分类器:决策树、RF、GBDT、多层感知机、SVM(高斯核)等。
非线性分类器拟合能力强但是编程实现较复杂,理解难度大。