Automatic Machine Learning(AutoML) 是近几年一个很火的 topic。
最近我也在做 AI 2B 的工作，总结现状就是“做项目不难，赚钱难”。
ML 技术应用到传统行业，提升非常明显，这就是“做项目不难”。ML 的应用成本太高了，上线和建模成本都很高，这就是“赚钱难”。
上线的瓶颈主要在硬件和开发成本，现在有很多人在做平台，来优化资源管理和避免重复开发。
建模主要还是靠人来做，但是相对 2B 市场的旺盛需求，对口的人还是很紧缺，而且比较贵，所以当前只有头部场景能享受到 ML。AutoML 的目的是降低 ML 对人的依赖，也许是解决 AI 2B 困境的一个关键技术。
more >>Survivorship bias 是机器学习里常见但又容易被忽略的坑。
在学术研究时，我们都假设训练集和测试集是独立同分布的。在工业应用时，我们会拿离线日志数据做调研，在模型定版后，将离线数据做训练集去训练一个模型，然后部署上线，线上的请求就是我们的测试集。
但线上请求的分布跟我们离线日志数据往往是不满足独立同分布的，这就会引起 Survivorship bias，常见的影响和场景如下。
more >>最近几个月在项目中引入了基于 TensorFlow 的 Wide & Deep Learning，本文介绍下基本原理和实战中踩过的坑。
more >>最近几个月在项目中引入了基于 TensorFlow 的 Online Learning，本文介绍下基本原理和实战中踩过的坑。
more >>在系统中应用机器学习模型时，一般将每条下发的物料作为样本，其中获得用户正反馈(点击)的作为正样本，没有获得用户反馈(无点击)或者负反馈(skip)的作为负样本。
这种处理存在以下几个问题：
- 由于网络丢包等原因，下发的物料，不一定真实出现在APP/网页上。
- 用户的反馈可能受到position-bias的影响，排在前面的物料往往容易获得更多的点击(伪点击)，而排在后面的物料可能用户根本就没注意到它(伪曝光)。
第一个问题，可以通过加载上报将丢包数据清洗掉(需处理重复上报和上报丢失的问题)。
第二个问题，可以引入click model，假设用户浏览行为，对物料的真实曝光/点击建模。
在推荐系统中，使用传统的机器学习模型，基本思路都是在历史点展数据上训练得到模型的参数。每次推荐时，把pCTR最高的TOP-k给选出来。这是一种非常贪婪的做法，在新闻等系统中，每天资讯的更新非常快，很多资讯完全没有历史点展信息，这种情况下，大部分机器学习模型会给出一个先验值(e.g.均值)或者通过泛化特征给出一个值(注.相当于各维度均值加权)。如果按pCTR来选，TOP-k会被历史数据中点展比高的资讯占据，新资讯将无法获得下发，形成典型的马太效应。
Explore-Exploit(E&E)通过主动展现的方式，让新物料都能得到一定的下发(explore)；同时，使用反馈学习，让低质的物料退场，高质的物继续下发(exploit)。从而缓解上述的马太效应。
但在实际应用中，E&E比想象的要困难很多。本文梳理了做E&E实验需要注意的地方。
more >>tag:
缺失模块。
1、请确保node版本大于6.2
2、在博客根目录（注意不是yilia根目录）执行以下命令：
npm i hexo-generator-json-content --save
3、在根目录_config.yml里添加配置：
jsonContent:
meta: false
pages: false
posts:
title: true
date: true
path: true
text: false
raw: false
content: false
slug: false
updated: false
comments: false
link: false
permalink: false
excerpt: false
categories: false
tags: true