在机器学习中，我们说：
-
w1x1 w2x2 ... wnxn是一个线性回归模型，其中w1，w2 .... wn是权重，x1，x2 ... x2是特征，而：
-
w1x12 w2x22 ... wnxn2是非线性（多项式）回归模型
然而，在一些讲座中，我看到人们说模型是基于权重的线性，即 coefficients of weights are linear and the degree of the features doesn't matter ，无论它们是线性（x1）还是多项式（x12） . 真的吗？如何区分线性和非线性模型？它是基于权重还是特征值？
2 回答
两种口味都存在 .
如果您在统计社区中，它通常是前者（特征中的非线性，x ^ 2或e ^ x等） . 例如，请参见this .
在机器学习社区，重点更多地放在权重上;功能函数可以是任何东西（例如参见SVMs中的内核技巧） .
其原因是不同的社区有不同的方法来解决这些类似的问题 . 统计界更多的是直接和分析方法;而机器学习的目标略有不同（在未知的概念空间中建模复杂的复杂模式） .
我知道你的模型中有一个术语wi2会如何帮助你，因为它本质上是一个常数 . 只有功能在测试时间内发生变化 .
所以线性模型可以表达为
wi定义你的模型，xi是你的输入 . 不同的wi导致不同的模型（但它们相对于特征都是线性的） . 如果您的模型不适合该方案，那么您的模型在功能方面不是线性的 .
现在，您可以添加新功能，这些功能基本上只是（手工制作）输入的非线性转换 . 例如，您可以制作模型
你可以说这是一个关于输入的非线性模型 . 但是，你也可以说它本质上就是模型
我认为这里的重要部分是它是手工制作的 . 您更改了要素空间，而不是模型的能力 . 所以它仍然是一个线性模型，但在另一个特征空间 . 当你走这条路时，你可以让任何模型都是非线性的 .
毕竟：它真的重要吗？听起来有点像你正在准备考试 . 如果是这种情况，我建议只问你的讲师并坚持他所定义的线性/非线性 .