Loading...
image
NEUSNCP

Welcome to sign in

Multi-Resolution Models for Learning

首先非常感谢徐晓伟教授精彩的报告。 下面是听报告过程中的一点记录,希望有记错的地方小伙伴们予以指正。 关于数据表征:一般而言,一个好的表示可以使后续的学习任务更容易。选 择什么表示通常取决于后续的学习任务。我们可以将监督学习训练的前馈网络视为表示学习的一种形式 。 具体地,网络的最后一层通常是线性分类器,如~softmax~回归分类器。 网络的其余部分学习出该分类器的表示。 监督学习训练模型,一般...

Continue Reading »

分享到:

再战字符编码问题!

参考廖雪峰老师的教程: https://www.liaoxuefeng.com/wiki/1016959663602400/1017075323632896 再战字符编码问题! 首先,需要明确: 1字节(byte) = 8比特(bit) 1k = 1024字节(byte) 编码的历史(按时间顺序): 【一家独大,别人家使用不了】ASCII[1个字节](计算机是鹰酱家发明的,ASCII是仅适用于英...

Continue Reading »

分享到:

seq2seq+attention+beamsearch构建闲聊对话

首先介绍大家熟悉的Seq2Seq模型。 接下来介绍Beam Search。预测的时候使用,训练的时候不使用。 引入Attention的初衷,越长的距离关系,LSTM的能力在下降。 核心代码如下:(注释的很清楚了) """ Sequence To Sequence模型 定义了模型编码器、解码器、优化器、训练、预测 """ import tensorflow as tf from tensorflo...

Continue Reading »

分享到: