Chat with Wiki - SVM与前馈神经网络的区别是什么

Answer

SVM（支持向量机）和前馈神经网络在以下方面存在区别：

数据处理方式：SVM 主要基于特征工程，而前馈神经网络可以自动从大量数据中学习特征。
模型结构：SVM 是一种线性分类器的扩展，具有相对简单的结构；前馈神经网络具有更复杂的多层结构。
应用场景：在图像识别、语音识别、语音合成、机器翻译等领域，早期常使用 SVM 结合特征工程，而现在神经网络逐渐占据主导地位。例如，图像识别中，早期由特征工程和少量机器学习（如 SVM）组成，后来通过使用更大数据集和在卷积神经网络结构空间中搜索，发现了更强大的视觉特征；语音识别中，以前涉及大量预处理和传统模型，现在几乎只需要神经网络；语音合成中，历史上采用各种拼接技术，现在 SOTA 类型的大型卷积网络可直接产生原始音频信号输出；机器翻译中，之前常采用基于短语的统计方法，而神经网络正迅速占领统治地位。

Content generated by AI large model, please carefully verify (powered by aily)

References

图像识别：图像识别之前常常是由特征工程组成的，只是在最后加入一点点机器学习（比如：SVM）。之后，通过使用更大的数据集（比如ImageNet）和在卷积神经网络结构空间中进行搜索，我们发现了更强大的视觉特征。最近，我们甚至不再相信自己手写的网络结构，而开始用[类似的方法](https://arxiv.org/abs/1703.01041)[搜索](https://arxiv.org/abs/1703.01041)（最优网络结构）。语音识别：以前的语音识别工作，涉及到大量的预处理工作、高斯混合模型和隐式马尔科夫模型，但是现在，几乎只需要神经网络。还有一句与之非常相关的搞笑名言，是1985年Fred Jelinek所说：“每当我开除一个语言学家，我的语音识别系统的性能就会提高一点”。语音合成：历史上，语音合成一直采用各种拼接技术，但是现在，SOTA（State Of The Art）类型的大型卷积网络（比如[WaveNet](https://deepmind.com/blog/wavenet-launches-google-assistant/)）可以直接产生原始音频信号输出。机器翻译：机器翻译的实现之前常常采用基于短语的统计方法，但是神经网络正迅速占领了统治地位。我最喜欢的网络结构就与[多语言](https://arxiv.org/abs/1611.04558)[训练](https://arxiv.org/abs/1611.04558)有关：一个模型就可以把任意源语言翻译成任意目标语言，并且只需要很弱的监督（甚至是[完全的无监督](https://arxiv.org/abs/1710.11041)）。