admin管理员组

文章数量:1536353

一、《深度学习、优化与识别》

1.      机器学习与深度学习的根本性差别是追求的理念不同

机器学习在中小规模的数据上追求精度与效率,所以花费大量的时间研究数据的先验特性,并把它加到特征学习中学习得到分布式判别性特征,模型可以拆分为特征学习和分类器/回归器设计;而深度学习的理念是在中大规模数据集上追求简单、新颖和通用,放弃精确,不强调数据的先验特性,模型讲究统一的端到端的设计方式。

2.      深度循环和递归神经网络典型应用

自然语言领域:情感分析、机器翻译和问答系统。

深度循环和递归神经网络:用向量表示各种级别的元素;传统方法:很精细的方法;

深度学习:用向量表示单词、短语、逻辑表达式和句子,然后通过搭建多层(引入定向循环)神经网络去自主学习。

深度循环神经网络:(自然语言领域)语句合法性检查、词向量表达、词性标注。常用LSTM

3.深度学习技术主要是数据 驱动的

         即对于一个特定任务来说,只要增加训练数据的规模,深度学习模型的表现就可以提高。

二、

1. Tian F, Gao B, Cui Q, et al. Learningdeep representations for graph clustering[J]. Inproceedings, 2015.

近来深入学习已经成功地应用于诸如语音识别和图像分类之类的应用中。文中探讨了在图像聚类中应用深度学习的可能性。提出了一种简单的方法,首先通过堆栈自动编码器学习原始图形的非线性向量,然后在这些向量上运行k-means算法获得聚类结果。文章表明,由于自动编码器和光谱聚类在实际优化方面的相似性,这种简单的方法具有坚实的理论基础。然后,证明所提

本文标签: 深度笔记