机器学习和生物信息学实验室联盟

标题: 暑期总结—赵连敏—7.10~9.01 专业知识学习 暑期学习的前半程是在吴恩达的深度学... [打印本页]

作者: zhaolm    时间: 2018-9-12 22:49
标题: 暑期总结—赵连敏—7.10~9.01 专业知识学习 暑期学习的前半程是在吴恩达的深度学...
暑期总结—赵连敏—7.10~9.01
专业知识学习

暑期学习的前半程是在吴恩达的深度学习课程之中度过的。在这门课程之中,比较浅显的介绍了神经网络、深度学习的基础知识以及由其衍生出的CNN、RNN的各种进阶的网络结构。

由这门课程,我基本了解了深度学习的发展历程,对于深度学习的基本框架有了一定的了解。通过由此建立起的对深度学习的大体把握,是我在今后研究中有了一个大致的研究框架。

这门课程的内容很多,在这一总结之中,我只做大致概括。

前三周的课程基本上是以最基础的深度网络为例,讲解了搭建一个网络的每个部件的作用,各部件之间的前向反向传播方法,衡量一个网络性能的指标,与网络相关的参数超参数设置及如何训练调整等等。辅以作业,使我基本上具备了从零搭建神经网络的能力。这部分内容是十分详细与基础的,每一个店都有讲到,但都控制在一个比较浅的范围内,对于应用而已已经足够,但背后的数学统计学内容还需要再去更深入地学习,也为我以后学习提供了一个方向。

后俩周基本上讲解的是一些具体领域的具体网络形式的应用。CNN加入了卷积这一运算,使其在捕获局部信息能力方面有了很大的效率提升,同时放弃全局信息的计算有效防止过拟合以及降低计算所需性能。RNN优化了神经网络对于序列信息的处理能力,使其可以考虑上下文信息,扩大了网络的应用基础。

论文阅读情况

暑期之中主要阅读了以下文献:

Inductive matrix completion for predicting gene–disease associations
Deep mining heterogeneous networks of biomedical linked data to predict novel drug–target associations
BiNE: Bipartite Network Embedding
第一篇主要从矩阵补全方面来入手解决基因-疾病关联预测的问题,这是比较早期的工作,后两篇则采用了DeepWalk方法,来对于异构网络进行预测。具体内容暑期汇报PPT都有涉及,我会在后面附上。

代码阅读

我主要研读了BiNE的代码,目前基本上已经可以运行,具体代码结构仍在整理。




欢迎光临 机器学习和生物信息学实验室联盟 (http://123.57.240.48/) Powered by Discuz! X3.2