本帖最后由 hluo 于 2018-9-14 16:03 编辑
此次暑假还是有些收获的,具体如下:
1. 学习了吴恩达老师的人工智能微专业课程,此课程分为5部分:第一部分是基础神经网络模型推导及建立,对深度学习进行了简单介绍;第二部分是神经网络参数设置及常见优化算法;第三部分进一步具体的讲解了训练集测试集划分,针对不同训练结果应该采取的对策,以及另外一些场景的机器学习方法,如迁移学习,端对端学习;第四部分则是结合机器学习在计算机视觉方面的应用,深度阐述了卷积神经网络和目标检测;最后以第五部分自然语言处理的相关模型及数据采样的embedding算法结尾。不得不提的是吴恩达老师的讲解很精炼,深入浅出,内容难度及深度都把握得十分恰当。加上课后练习,对神经网络的建立,参数的优化,模型的应用场景有了更全面的了解。
2. 读了周志华老师的《机器学习》,与吴恩达老师的课程对比更注重基础原理性的讲解,也有很多重复的知识,不过两位有用不同的方式讲解,让人眼前一亮。
3. 读论文,前期如下:
(1)<HARP: Hierarchical Representation Learning for Networks>
(2)<Learning Graph Representations with Embedding Propagation>
(3)<Structural Deep Network Embedding>
(4)< Adversarial Network Embedding >
(5)< DepthLGP: Learning Embeddings of Out-of-Sample Nodes in Dynamic Networks >
(6)< RSDNE: Exploring Relaxed Similarity and Dissimilarity from Completely-imbalanced Labels for Network Embedding >
(7)< Galaxy Network Embedding: A Hierarchical Community Structure Preserving Approach >
(8)< RaRE: Social Rank Regulated Large-scale Network Embedding >
(9)< Multi-Dimensional Network Embedding with Hierarchical Structure >
(10) < Fast and Sample Efficient Inductive Matrix Completion via Multi-Phase Procrustes Flow >
其实是上学期期末安排我们读的顶会论文集,当时读这些是想为数据找到一个合适的embedding方法及代码.
4. 暑假后期开始跑neoDTI模型,并围绕neoDTI+cellsystem进行相关论文的学习和代码实验.
论文如下:
(1) < Inductive matrix completion for predicting gene–disease associations >
(2) < BiNE: Bipartite Network Embedding >
(3) < Modeling polypharmacy side effects with graph convolutional networks >
(4) < hotnet2>
(5) < network-based stratifcation of tumor mutations >
(6) < Associating Genes and Protein Complexes with Disease via Network Propagation >
(7) < deepNF: deep network fusion for protein function prediction >
(8) <Deep Neural Networks for Learning Graph Representations >
(9) < Deep mining heterogeneous networks of biomedical linked data to predict noveldrug–target associations >
代码实验如下:
(1) Multi-Dimensional Network Embedding with Hierarchical Structure , 对节点有分类的双层网络进行embedding的算法,但是具体应用有些受限。
(2) Hotnet2,一个通过在网络中随机游走发现subnet节点的算法,并通过subnet的查全率查准率对网络性能做出评分。
(3) IMC论文实验。
(4) DeepNF,在network embedding的过程中加入了多层神经网络。
(5) DNGR,对网络进行随机游走,并生成PPMI矩阵,再通过SDAE模型进行向量维度压缩。
5. 总的来说,这次暑期的工作还是完成了在上学期期末定下的计划,感悟就是:
(1)论文还是要多读,并且在原理处多些细致。
(2)跑一篇论文的代码是详细理解一篇论文的必要条件。
(3)不少论文中的算法其实是参考文献里的结合,是有迹可循的。
(4)写代码的能力与我们的科研息息相关,甚至很重要。
|