Joye Cai's Blog

Know more, Do more, Be more

feed流与广告投放

Feed stream and Ad serving

Last updated on 2018-11-25… 由于拿到了百度feed流推荐算法的offer,提前整理一些网上资料了解一下。 介绍 feed流 Feed,源自早期的RSS。是一种呈现内容给用户并持续更新的方式。 用户可以选择订阅多个资源,网站提供feed网址 ,用户将feed网址登记到阅读器里,在阅读器里形成的聚合页就是feed流。 换句话说,Feed流商业产品是...

数据竞赛Top解决方案开源整理

Data competition Top Solution

Last updated on 2019-3-20… 感谢来自电子科大的Smile同学的分享,个人只做了一些校正和补充。 数据竞赛 2018科大讯飞AI营销算法大赛 Rank1:https://zhuanlan.zhihu.com/p/47807544 2018 IJCAI 阿里妈妈搜索广告转化预测 Rank...

强化学习在推荐系统中的应用

Recommending System with Reinforcement Learning

Last updated on 2018-11-15… 以下内容转载自《强化学习在美团“猜你喜欢”的实践》。>原文链接 其实这篇挺重要的,文章写的粗细有度,部分内容需要加深理解。 介绍 “猜你喜欢”是美团流量最大的推荐展位,位于首页最下方,产品形态为信息流,承担了帮助用户完成意图转化、发现兴趣、并向美团点评各个业务方导流的责任。 经过多年迭代,目前“猜你喜欢”...

探索序列模型的本质

For Series Data

Last updated on 2018-11-18… 序列数据如文本、语音、视频等,这类数据的样本间存在顺序关系,每个样本和它之前的样本存在关联。比如说,在文本中,一个词和它前面的词是有关联的;在气象数据中,一天的气温和前几天的气温是有关联的。 理论上 Simple RNN(或者叫 Vanilla RNN)就已经是图灵完备的了,能够模拟任何程序。但是实践中总是不尽如人意,因为存...

注意力与增强RNN

Attention and Augmented Recurrent Neural Networks

Last updated on 2018-10-29… 循环神经网络是深度学习的主要内容之一,可以处理文本、音频和视频等序列数据;可用于将序列分解为高级理解、注释序列,甚至从头开始生成新序列。 原英文链接:https://distill.pub/2016/augmented-rnns/ RNN与LSTM 1.RNN网络示意图: 放大一点: 2.传统的RNN设计...

元学习总览

Meta Learning | 个人总结

Last updated on 2018-12-07… 强化学习博客链接 深度强化学习博客链接 自动机器学习博客链接 自研一第二学期以来,研究元学习有小半年时间,但是出于某种不可抗力,我的研究方向突然变更为自动机器学习(Auto ML)。粗略上来讲,自动学习包含了元学习、强化学习、自动超参数优化等内容。 所以,这篇算是给自己这段时间的研究的一个交代吧…(祭...

神经机器翻译学习大纲

From Neural Machine Translation

Last updated on 2018-10-23… 由于拿到了腾讯AI Lab的实习offer,所以查找了如下大纲。 以下内容转载自北邮研究生LXM的博客,作为个人的学习大纲,不定期增删改。>原文链接 NMT大纲(到2017年6月) 主要作为研究目录,不深入探讨每个模块。 网络架构设计 神经图灵机 利用记忆机制(attent...

深度强化学习综述

Summary of Deep Reinforcement Learning

Last updated on 2018-12-07… 元学习博客链接 强化学习博客链接 自动机器学习博客链接 早期的强化学习算法主要关注于状态和动作都是离散且有限的问题,可以使用表格来记录这些概率。但在很多实际问题中,有些任务的状态和动作的数量非常多,还有些任务的状态和动作是连续的。 相比于RL,DRL通常利用卷积层中隐藏神经元来探测到各式各样的state(取...

浅谈BLEU评分

From Neural Machine Translation

Last updated on 2019-10-17… BLEU,全称为Bilingual Evaluation Understudy(双语评估替换),是一种对生成语句进行评估的指标,用于比较候选文本翻译与其他一个或多个参考翻译的评价分数。 BLEU评分是由Kishore Papineni等人2002年的论文《BLEU: a Method for Automatic Evalua...

PyTorch基础

For Deep Learning

Last updated on 2018-10-25… PyTorch文档 PyTorch是Torch的python版本,早期Torch是基于Lua语言的。相比tensorflow来说,其底层更亲民一些,也更适合动态的网络。 下面代码转载自莫烦的课程,个人根据自己的理解做了一写改动跟注释。 numpy与tensor的转换 import torch import nu...