这章内容里非常多的数学公式,不过我个人觉得完全没必要记,一方面是许多都是我们之前的老朋友,另一方面神经网络的结构就像是这些公式可视化结果。学到这里笔者不得不感叹一下,虽然NLP的数学计算不少,但是真到写程序的时候也就是调用一个库函数的事情,所以哪怕你数学底子不好也没关系,你只要记住一些结论,并且跟着公式大概了解一下怎么得出来的就行。深层神经网络能通过激活函数实现许多非线性变化,这给非线性特征学习提供了解决方案,它由此突破了传统机器学习依赖手动特征设计的局限,能自己从文本中提取特征,为文本数据的智能化处理提供了强大支撑。

摘要:神经元,前向神经网络,Softmax函数,深层网络符号表示,深层网络训练,计算图,反向传播,神经文本分类,神经语言模型(LMS)

7.神经网络与文本应用.pdf