😄
内部协变量偏移(Internal Covariate Shift)和批归一化(Batch Normalization)BN是由Google于2015年提出，这是一个深度神经网络训练的技巧，它不仅可以加快了模型的收敛速度，而且更重要的是在一定程度缓解了深层网络中“梯度弥散”的问题，从而使得训练...
发简信
IP属地：重庆
-
-
😄
SGD动量法和Nesterov加速梯度下降法
SGD存在的问题 损失(loss)在一个方向上快速变化而在另一个方向慢慢变化：沿平缓方向进展非常缓慢，沿陡峭方向剧烈抖动。 如果损失函数具有局部最小值或鞍点，该怎么办？ 动量...
-
CNN发展历程(LeNet、AlexNet、VGG、Inception、ResNet)+Keras简单实现唉。人生如梦，回首过往竟有青春逝去不再来，美好时光不再有的感觉。匆匆忙忙的我们竟然走过了这么多荆棘与坎坷，是否还能不忘初心拥有一颗纯净的心灵。年轻时候，最喜欢蒋捷的《听雨》：...
-
看下文件是否有损坏，重新down一下
【转载】Bert系列（一）——demo运行
原文章链接：https://www.jianshu.com/p/3d0bb34c488a 谷歌推出的Bert，最近有多火，估计做自然语言处理的都知道。据称在SQuAD等11项...
-
模型可解释性（SHAP)SHAP含义：观察到某一个样本的预测中各个特征对预测结果产生的影响。 基本思想：计算一个特征加入到模型时的边际贡献，然后考虑到该特征在所有的特征序列的情况下不同的边际贡献，取...
-
推荐系统遇上深度学习(九)--评价指标AUC原理及实践推荐系统遇上深度学习系列：推荐系统遇上深度学习(一)--FM模型理论和实践：https://www.jianshu.com/p/152ae633fb00推荐系统遇上深度学习(...
-
【转载】Bert系列（二）——源码解读之模型主体原文章链接：https://www.jianshu.com/p/d7ce41b58801 本篇文章主要是解读模型主体代码modeling.py。在阅读这篇文章之前希望读者们对...
-
【转载】Bert系列（一）——demo运行
原文章链接：https://www.jianshu.com/p/3d0bb34c488a 谷歌推出的Bert，最近有多火，估计做自然语言处理的都知道。据称在SQuAD等11项...
-
tf.variable_scope和tf.name_scope的用法
无论tf.get_variable或者tf.Variable生成的变量，tf.variable_scope可以让不同命名空间中的变量取相同的名字。tf.name_scope具...
-
tf.Variable()和tf.get_variable()
tf.Variable()参数 经常使用的参数有initial_value、name、shape三个，分别是初始化，命名和规定所需要的形状大小。举个例子： 运行结果 tf.g...
-
Tensorflow——tf.Variable()、tf.get_variable()和tf.placeholder()
tf.Variable() tf.Variable(initializer,name),参数initializer是初始化参数，name是可自定义的变量名称，用法如下： ...
-
sess.run()方法
参数详解 fetches可以是单个图元素(single graph element)，也可以是任意嵌套的列表list，元组tuple，名称元组namedtuple，字典dic...
-
GoogLeNet重要结构：1x1卷积核深度神经网络的缺陷 我们知道在设计神经网络时最保险的就是增加网络的深度和宽度，增加深度就是要设计更多的网络层数，增加宽度就是增加卷积核的个数。但是网络越深越宽容易出现两个缺陷...
-
央视一出手，吊打所有盗墓片
《鬼吹灯》、《盗墓笔记》等小说的大热为我们带来了奇幻的地下世界。 我们向往其光怪陆离的牛鬼蛇神，崇拜古人精妙绝伦的机关设计，更加迷恋盗墓贼的高超手段。 他们分金定穴，识风水、...
-
tf.Session()和tf.Session().as_default()的区别
tf.Session()：创建一个会话 在打印张量b的值时报错，报错为尝试使用一个已经关闭的会话。 tf.Session().as_default()代码示例： 对于run(...
