这章内容里非常多的数学公式，不过我个人觉得完全没必要记，一方面是许多都是我们之前的老朋友，另一方面神经网络的结构就像是这些公式可视化结果。学到这里笔者不得不感叹一下，虽然NLP的数学计算不少，但是真到写程序的时候也就是调用一个库函数的事情，所以哪怕你数学底子不好也没关系，你只要记住一些结论，并且跟着

如果在这一节前你阅读过《自然语言处理--文本分类》，那应该对特征向量有印象，我们将一段文本转化为一段向量，维度i的值便是文本位置i上的单词的统计词频。同样的，我们也希望能把每个单词转化为向量，用于表示这个单词的词义，这就是我们常说的“词向量(Word embedding)“。我们按照某种规则，将词义

之前的笔记我们都是在讨论以英语为代表的西方自然语言如何在机器中处理的，实际上，机器在处理中文时更为困难，因为中文比西方语言更为复杂，比如英语两个词之间是有空格分开的，英语单词的词性比中文词更加明显，等等。在处理中文时，我们需要先将一句连续的话像英语那样拆分为各个单词，并为这些单词标注好词性，等等。我

笔者学的机器学习这门课没有期末考试，但U1S1也没简单到哪里去，由于老师讲的内容比较分散，这一个标签下的笔记应该也好不到哪去，总之笔者想到哪写到哪吧。这篇笔记的内容还是很简单的，但是梯度下降法并不简单，只能说是笔者偷懒写的科普向笔记。另外吐槽一下，机器学习这门课真的邪门，第一节课给笔者当头一棒，微积

在我苦难的尽头 有一扇门。 ￴ 听我说完:那被你称为死亡的 我还记得。 ￴ 头顶上，喧闹，松树的枝杈晃动不定。 然后空无。微弱的阳光 在干燥的地面上摇曳。 ￴ 当知觉 埋在黑暗的泥土里， 幸存也令人恐怖。 那时突然结束了:你所惧怕的，作为 一个灵魂却不能 讲话，突然结束了，僵硬的土地 略微弯曲。那被