2019-01-17 22:10 VincentWei
消除重复 代码需要消除重复，工作的习惯也要消除重复。不要拘于固有的工作状态，重复的工作状态往往使人陷入舒服的假象，陷入三年效应的危机。 提炼知识 首先我们学习的不是信息，而是知识。知识是有价值的，而信息则没有价值。只有通过自己的筛选，提炼，总结才可能将信息转变为知识。 成为习惯 知识是容易忘记的，只有将知识付诸于行动，并将其融汇到自己的工作状态中去，才能永久性地成为自己的财产。例如，快捷键的使用，不要刻意地去记忆，而是变成自己的一种工作习惯；不要去重复地劳动，使用 Shell 提供自动化程度，让 Shel...
Continue Reading »2019-01-16 20:11 VincentWei
XLearning是一款支持多种机器学习、 深度学习框架的调度系统。 基于Hadoop Yarn完成了对TensorFlow/MXNet/ Caffe/ Theano/ PyTorch/ Keras/ XGBoost等常用框架的集成， 同时具备良好的扩展性和兼容性。 为什么要设计XLearning平台 1. 服务器资源如何调度（CPU、 GPU、 MEM） 2. 训练数据和训练模型的存储管理 3. 深度学习作业管理（状态跟踪、 日志查看、 Metrics信息） 4. 多种深度学习框架的环境部署和多版本管...
Continue Reading »2019-01-09 15:15 VincentWei
深度学习CTR模型要解决的几个关键问题 CTR任务特点:大量离散特征的表示问题 CTR任务特点:如何快速处理大量高维度稀疏特征?(OneHot 2 Dense) 特征工程:如何从手工到自动?(深度学习的优势) 特征工程:如何捕获和表达两两组合特征?(FM机制神经网络化) 特征工程:如何捕获和表达多组组合特征?(利用Deep网络) CTR任务中的他特征类型有连续特征和离散特征，连续特征适合DNN处理，离散特性你不适合特征处理。那么如何使得离散的特征适合DNN处理呢？直观的感觉，是one-hot化。 但是on...
Continue Reading »2019-01-07 20:56 VincentWei
image_size = 224 images = tf.Variable(tf.random_normal([batch_size, image_size, image_size, 3], dtype=tf.float32, stddev=1e-1)) parameters = [] # conv1 with tf.name_scope('conv1') as scope: kernel = tf.Variable(tf.truncated_normal([11, 11, 3, 64], dtype=t...
Continue Reading »2019-01-06 18:10 VincentWei
import tensorflow as tf from tensorflow.contrib.timeseries.python.timeseries import model as ts_model class _LSTMModel(ts_model.SequentialTimeSeriesModel): def __init__(self, num_units, num_features, dtype=tf.float32): """Initialize/configure the model ob...
Continue Reading »
