暑期总结—赵连敏—7.10～9.01 专业知识学习 暑期学习的前半程是在吴恩达的深度学...

zhaolm

暑期总结—赵连敏—7.10～9.01
专业知识学习

暑期学习的前半程是在吴恩达的深度学习课程之中度过的。在这门课程之中，比较浅显的介绍了神经网络、深度学习的基础知识以及由其衍生出的CNN、RNN的各种进阶的网络结构。

由这门课程，我基本了解了深度学习的发展历程，对于深度学习的基本框架有了一定的了解。通过由此建立起的对深度学习的大体把握，是我在今后研究中有了一个大致的研究框架。

这门课程的内容很多，在这一总结之中，我只做大致概括。

前三周的课程基本上是以最基础的深度网络为例，讲解了搭建一个网络的每个部件的作用，各部件之间的前向反向传播方法，衡量一个网络性能的指标，与网络相关的参数超参数设置及如何训练调整等等。辅以作业，使我基本上具备了从零搭建神经网络的能力。这部分内容是十分详细与基础的，每一个店都有讲到，但都控制在一个比较浅的范围内，对于应用而已已经足够，但背后的数学统计学内容还需要再去更深入地学习，也为我以后学习提供了一个方向。

后俩周基本上讲解的是一些具体领域的具体网络形式的应用。CNN加入了卷积这一运算，使其在捕获局部信息能力方面有了很大的效率提升，同时放弃全局信息的计算有效防止过拟合以及降低计算所需性能。RNN优化了神经网络对于序列信息的处理能力，使其可以考虑上下文信息，扩大了网络的应用基础。

论文阅读情况

暑期之中主要阅读了以下文献：

Inductive matrix completion for predicting gene–disease associations
Deep mining heterogeneous networks of biomedical linked data to predict novel drug–target associations
BiNE: Bipartite Network Embedding
第一篇主要从矩阵补全方面来入手解决基因-疾病关联预测的问题，这是比较早期的工作，后两篇则采用了DeepWalk方法，来对于异构网络进行预测。具体内容暑期汇报PPT都有涉及，我会在后面附上。

代码阅读

我主要研读了BiNE的代码，目前基本上已经可以运行，具体代码结构仍在整理。