ZDK's blog

特征选择特征选择是特征工程里的一个重要问题，其目标是寻找最优特征子集。特征选择的目的有如下三个： 简化模型，使模型更易于研究人员和用户理解。 改善性能。节省存储和计算开销。 改善通用性，降低过拟合的风险。 特征选择的一般流程 ... 阅读全文…

百面 特征工程Garbage in, garbage out。对于一个机器学习问题，数据和特征往往决定结果的上限，而模型，算法的选择及优化是在逐步接近这个上限。 特征工程，顾名思义，是对原始数据进行一系列工程处理，将其提炼为特征，作为输入供算法和模型使用。从本质上来讲，特征工程是一个表示和展现数据的过程。在实际工作中，特征工程旨在去除原始数据中的杂质和冗余，设计更高效的特征以刻画求解的问题... 阅读全文…

去年的今天，ZDK的blog诞生了。 建立这个博客的初衷在于当做一个自己的读书笔记，在线免费云笔记。刚开始时是完全把大部分的内容照搬下来，基本上是读到了什么东西就写下来什么东西。基本上这个阶段主要就是体力劳动。此时博客的用处在于，当我看到一个什么东西时，我会想起来，我好像以前在博客中记录过这个东西，然后打开我的博客查看相关的内容来加深印象。这个阶段我的知识储备还不够多，所以处于知识积累的阶段... 阅读全文…

基于第二价位的广告竞拍点击率预测可以提供对广告优劣的一种预测，还需要机制来决定如何从众多的广告中进行选取,这就是广告的竞价排名。 广告位竞价排名的出现有两个原因。第一，发布商的广告位是有限的。不管是搜索广告还是展示广告，绝大多数的发布商都以一定的比例在原生的内容，例如新闻、社交媒体内容里插入一些广告位。但是这些广告位的数目是有限的，特别是在优质的发布商资源里，就会出现一些广告位有着很大的竞争... 阅读全文…

RS矩阵分解 概述源自于评分预测问题。评分预测问题很典型但是并不大众，与之相对的另一类问题行为预测，才是平民级推荐问题，处处可见。 为什么要矩阵分解矩阵分解确实可以解决一些近邻模型无法解决的问题。 近邻模型存在的问题： 物品建存在相关性，信息量并不随着向量维度增加而线性增加。 矩阵元素稀疏，计算结果不稳定，增减一个向量维度，导致近邻结果差异很大的情况存在。 上述两个问题，在矩阵分解中可... 阅读全文…

熵https://www.jianshu.com/p/09b70253c840完美解释交叉熵 随机变量包含不确定性的变量称为随机变量，统计学就是研究这类不确定性变量的工具。刻画随机变量最有力的一个工具就是它的概率分布。有了概率分布，我们可以说对一个随机变量有了完全的掌握，因为我们可以知道它可能取哪些值，某个值的概率是多少。 什么是熵概率分布是对随机变量的刻画，不同的随机变量有着相同或不同的概... 阅读全文…

统计学习方法 k近邻法k近邻法(k-nearest neighbor, k-NN)是一种基本分类与回归方法，下面只讨论分类问题中的k近邻法，k近邻法的输入为实例的特征向量，对应于特征空间的点;输出为实例的类别，可以取多类. k近邻法假设给定一个训练数据集，其中的实例类别已定.分类时，对新的实例,根据其k个最近邻的训练实例的类别，通过多数表决等方式进行预测.因此，k近邻法不具有显式的学习过程... 阅读全文…