归纳总结-梯度消失和梯度爆炸

发布时间 : 2020-01-15
发布 : 2020-01-15 浏览 :

本篇文章我们主要来探讨一下深度网络中为什么会出现梯度消失和梯度爆炸的问题,以及该如何解决这种问题。梯度消失或者梯度爆炸产生的主要原因是因为复合函数求导过程中,每一层都产生了连乘的作用,深度太深的话, $0.9^{100}$ 趋于0,称为梯度消失, $1.1^{100}$趋于无穷大导致梯度爆炸。

阅读笔记-Multi-Task Learning Using Uncertainty to Weigh Losses for Scene Geometry and Semantics

发布时间 : 2019-12-03
发布 : 2019-12-03 浏览 :

笔试题总结 (1)

发布时间 : 2019-08-26
发布 : 2019-08-26 浏览 :

阿里的部分笔试题总结。

工具使用-[linux] swig实现c++的python包装

发布时间 : 2019-07-26
发布 : 2019-07-26 浏览 :

如何在python中调用c++语言实现的类或者库,有多种方式,个人觉得swig比较方便,这里介绍一下swig如何安装。

阅读笔记-Social Attention Modeling Attention in Human Crowds

发布时间 : 2019-07-10
发布 : 2019-07-10 浏览 :

title

head

该篇文章通过刻画机器人与人之间, 人与人之间的时空关系,更好的预测每个行人在下一时刻的位置,从而为机器人规划自己的路径提供更准确的map。

code: Github/srnn-pytorch

沙海拾贝-pytorch 迷惑行为大赏

发布时间 : 2019-06-27
发布 : 2019-06-27 浏览 :

工具使用-ROS在RVIZ中关于InteractivaMarker的实例(python 版 pong)

发布时间 : 2019-06-26
发布 : 2019-06-26 浏览 :

我发现教程中只给了pong的cpp代码,所以为了更好的理解rviz的操作方式,我又写了一个python版本的pong代码。

pong

这篇文章将分析一下该代码。

工具使用-ROS在rviz中的应用实例 (python 版 basic shapes)

发布时间 : 2019-06-26
发布 : 2019-06-26 浏览 :

rviz_markers

这篇文章将展示如何传递基本的形状消息给rviz,并展示。

工具使用-如何使用ROS在RViz中显示Markers(python版 points and lines 示例)

发布时间 : 2019-06-26
发布 : 2019-06-26 浏览 :

和前一篇讲到的使用publisher给rviz发送消息类似,这篇我们将动态发送点,线等多种类型的数据。

points_and_lines

同样的原教程中采用的是cpp points_and_lines,我们这里使用python实现.

工具使用-rviz 中可交互的markers(InteractiveMarker)

发布时间 : 2019-06-26
发布 : 2019-06-26 浏览 :

interactive_marker

interactive markers和markers相似,但是它允许用户的交互,所以包含一些控制需要的参数,比如运动类型等。