机器学习和生物信息学实验室联盟

 找回密码
 注册

QQ登录

只需一步,快速开始

搜索
查看: 3108|回复: 2
打印 上一主题 下一主题

关于EML(Extreme learning machine )

[复制链接]
跳转到指定楼层
楼主
发表于 2016-6-2 21:43:26 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
本帖最后由 guojiasheng 于 2016-6-3 14:27 编辑

            上来先发个官方参照链接:http://www.ntu.edu.sg/home/egbhuang/index.html#

             中文叫: 极限学习机。  理论性的东西就参照链接去看吧,我也就大概看了一下,我也解析不清楚。
               
             那还是大致说一下吧,错了请指正:
           (1)其实就是关于神经网络,目前DL这么流行,这个我个人理解其实也差不多。
                   Paper说:对于单隐层前馈神经网络(SLFNs),ELM比传统的学习算法速度更快。
                   神经网络里面训练模型需要调节参数,这个目前一般都是采用BP反馈调节(误差逆传播算法,调节的网络参数包括连接权,输出阈值),当隐层的结点很多的时候,这是一个很耗时间的过程。
                   ELM说,那我们不训练这些隐层结点参数。直接随机生成这些隐层结点,总可以了吧(据他们分析说,其实这样更好),之后他们就是
                   调节隐层和输出层的参数,然后一大堆公式,把这些要求的参数转化成矩阵公式,直接求逆了什么的,就给求出来了(单隐层)。速度就变快了。  所以我理解他们可以随机生成hidden,隐层结点个数,与输入的链接权重啊。那么后面只需呀要求解最后一层的权重参数即可。
           (2)我们数学不好,还是直接上代码吧,这边基于scikit-learn 以及他们的参考自己写了一个调用方法。
                   路径:
                            /Bioinformatics_Machine_Learning/Machine_Learning/classifier/ELM/Python-ELM
       
                          运行:python runElm.py -f sigmoid -h 10 -c EL heart_scale
                          输出:
  1. begin ELMClassifier init....
  2. elm init with hidden : 10 activation_func : sigmoid
  3. cross
  4. 10 cross validation result
  5. ACC:0.822222222222
  6. Auc:0.784603190927
  7. confusion_matrix
  8. [[132  18]
  9. [ 32  88]]
复制代码

                                包括:ACC 、AUC、混淆矩阵
                             参数说明:
                                -f :  激活函数,
sine
tanh
tribas
inv_tribas
sigmoid
hardlim
softlim
gaussian
multiquadric
inv_multiquadric

                                -c  elm的分类器,包括EL 、Gen
                                -h  隐层结点个数


分享到:  QQ好友和群QQ好友和群 QQ空间QQ空间 腾讯微博腾讯微博 腾讯朋友腾讯朋友
收藏收藏 转播转播 分享分享
回复

使用道具 举报

沙发
发表于 2016-6-5 08:50:18 | 只看该作者
本帖最后由 RockRabbit 于 2016-6-5 08:51 编辑

厉害!赞!

测试的用例是你自己的吗,还是软件自带的? 如果能有个跟SVM比较的结果就更好了!
回复 支持 反对

使用道具 举报

板凳
 楼主| 发表于 2016-6-7 09:46:29 | 只看该作者
RockRabbit 发表于 2016-6-5 08:50
厉害!赞!

测试的用例是你自己的吗,还是软件自带的? 如果能有个跟SVM比较的结果就更好了!

这个用例数据是从libsvm上面copy上来的。ELM的数据是程序内部生成的。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

机器学习和生物信息学实验室联盟  

GMT+8, 2024-11-1 19:21 , Processed in 0.068887 second(s), 23 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表