标签：面试经验
Dec
15
异常值检测——基于密度的方法
基于密度的异常检测有一个先决条件，即正常的数据点呈现“物以类聚”的聚合形态，正常数据出现在密集的邻域周围，而异常点偏离较远。对于这种场景，我们可以计算得分来评估最近的数据点集，这种得分可以使用Eucledian距离或其它的距离计算方法，具体...
Dec
15
异常值检测——基于聚类的方法
通常，类似的数据点往往属于相似的组或簇，由它们与局部簇心的距离决定。正常数据距离簇中心的距离要进，而异常数据要远离簇的中心点。聚类属于无监督学习领域中最受欢迎的算法之一，关于聚类异常检测可分为两步：①利用聚类算法聚类;②计算各个样本点的异常...
Dec
15
数据分析与数据处理的区别
数据处理是数据分析的基础。通过数据处理，将收集到的原始数据转换为可以分析的形式，并且保证数据的一致性和有效性。如果数据本身存在错误，那么即使采用最先进的数据分析方法，得到的结果也是错误的，不具备任何参考价值，甚至还会误导决策。
Dec
15
异常值检测——基于树的方法
这类方法为基于划分的方法范畴。最简单的划分方法就是阈值检测，其通过人为经验划定阈值，对数据进行异常判断。具体的，为了避免单点抖动产生的误报，需要将求取累积的窗口均值进行阈值判别，具体的累积就是通过窗口进行操作。高级的基于划分的异常检测算法，...
Dec
15
数据分析与数据挖掘的关系
数据挖掘是深层次的数据分析，数据分析是浅层次的数据挖掘，数据挖掘更偏重于探索性数据分析，因为数据挖掘的重点是从数据中发现知识规律。它们的具体区别如下： （1）数据分析处理的数据量可能不大；而数据挖掘处理的数据量极大， 并且特别擅长处理大数据...
Dec
15
异常值检测——基于降维的方法
PCAPCA[线性方法]在做特征值分解之后得到的特征向量反应了原始数据方差变化程度的不同方向，特征值为数据在对应方向上的方差大小。所以，最大特征值对应的特征向量为数据方差最大的方向，最小特征值对应的特征向量为数据方差最小的方向。原始数据在不...
Dec
15
数据可视化的适用范围
关于数据可视化的适用范围，存在着不同的划分方法。一个常见的关注焦点就是信息的呈现。迈克尔·弗兰德利(2008)，提出了数据可视化的两个主要的组成部分：统计图形和主题图。《Data Visualization: Modern Approach...
Dec
15
异常值检测——基于分类的方法
OneClassSVMSVM（支持向量机）是一种用于检测异常的有效的技术。SVM通常与监督学习相关联，是一类对数据进行二元分类的广义线性分类器，其决策边界是对学习样本求解的最大边距超平面。但是存在可以用于将异常识别为无监督问题（其中训练数据...
Dec
15
如何撰写数据分析报告
一份好的数据分析报告，首先需要有一个好的分析框架，并且图文并茂，层次明晰，能够让阅读者一目了然。结构清晰、主次分明可以使阅读者正确理解报告内容；图文并茂，可以令数据更加生动活泼，提高视觉冲击力，有助于阅读者更形象、直观地看清楚问题和结论，从...
Dec
15
异常值检测——基于预测的方法
对于单条时序数据，根据其预测出来的时序曲线和真实的数据相比，求出每个点的残差，并对残差序列建模，利用KSigma或者分位数等方法便可以进行异常检测。具体的流程如下：作者：名字太长显得比较长来源：CSDN