今天的笔记,将记录教程7-9:
7.解密神经网络 -- 数据流图谱
8.解密神经网络 -- 全连接神经网络
9.训练并测试神经网络
1.介绍一下神经网络
内容偏理论,作者的某些理解,值得借鉴。
Screen Shot 2017-06-09 at 9.47.49 AM.png
![Uploading Screen Shot 2017-06-09 at 9.49.56 AM_268541.png . . .]
按作者的说法,input指的是N或者M乘以权重以后得值,
激活函数在这里,只是求加权后的和。
![Screen Shot 2017-06-09 at 9.51.25 AM.png](http://upload-images.jianshu.io/upload_images/5040713-833d981a81daf0fc.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
计算图谱中,橙色虚线方形,是数据,而椭圆指的是计算。
所以就像下面的简化图,是一个道理。
![Screen Shot 2017-06-09 at 9.52.22 AM.png](http://upload-images.jianshu.io/upload_images/5040713-7e9f34e36f216361.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
微积分再一次在现代科学里,发生作用了。
对每一个变量求偏导数,得到是这每一个变量对最终值的影响。
为了能求导,激活函数就不可以选作只在某些区间上可导的函数。
Screen Shot 2017-06-09 at 9.52.30 AM.png
矩阵的不断相乘,每一层,输入乘以权重。
Screen Shot 2017-06-09 at 9.52.36 AM.png
Screen Shot 2017-06-09 at 9.53.12 AM.png