自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

原创 决策树——(二)决策树的生成与剪枝ID3,C4.5

1.基本概念在正式介绍决策树的生成算法前,我们先将之前的几个概念梳理一下:1.1 信息熵设XX是一个取有限个值的离散型随机变量,其分布概率为 P(X=xi)=pi,i=1,2,...,nP(X=x_i)=p_i,i=1,2,...,n则随机变量XX的熵定义为 H(X)=−∑i=1npilogp...

2017-12-27 20:02:07 1319 0

原创 决策树——(一)决策树的思想

本篇文章主要先从宏观上介绍一下什么是决策树,以及决策树构建的核心思想。1. 引例关于什么是决策树(decision tree),我们先来看这么一个例子。假如我错过了看世界杯,赛后我问一个知道比赛结果的人“哪支球队是冠军”?他不愿意直接告诉我,而让我猜,并且每猜一次,他要收一元钱才肯告诉我是否猜对了...

2017-12-26 21:32:27 1229 0

原创 文本处理之贝叶斯垃圾邮件分类

本文所讲解的是如何通过Python将文本读取,并且将每一个文本生成对应的词向量并返回. 文章的背景是将50封邮件(包含25封正常邮件,25封垃圾邮件)通过贝叶斯算法对其进行分类.主要分为如下几个部分: ①读取所有邮件; ②建立词汇表; ③生成没封邮件对应的词向量(词集模型); ④用...

2017-12-17 19:43:43 2186 2

原创 Scikit-learn——Naive Bayes

本文主要介绍sklearn中关于朴素贝叶斯模型的用法,其中主要包含以下两类模型: 离散型:所有维度的特征都是离散型的随机变量 连续型:所有维度的特征都是连续型的随机变量 1.sklearn.naive_bayes.MultinomialNB多项式朴素贝叶斯(Multinomial Naive Ba...

2017-12-17 19:38:51 3173 0

原创 朴素贝叶斯算法与贝叶斯估计

在看贝叶斯算法的相关内容时,你一定被突如其来的数学概念搞得头昏脑涨。比如极大似然估计(Maximum likelihood estimation ),极大后验概率估计(Maximum a posteriori estimation),先验概率(Prior probability),后验概率(Pos...

2017-12-14 21:11:09 3055 0

原创 Logistic回归代价函数的数学推导及实现

logistic回归的代价函数形式如下: J(θ)=−1m[∑i=1my(i)loghθ(x(i))+(1−y(i))log(1−hθ(x(i)))]J(\theta) = -\frac{1}{m}\left[\sum_{i=1}^{m}y^{(i)}\log h_\theta(x^{(i)}...

2017-12-09 20:53:49 2563 4

原创 带你重拾概率论

声明: 本文所有内容均来自笔者在学习中所做总结,难免会有错误,谨慎参考; 本文所有内容的整理逻辑以及应用范围均只局限于机器学习相关内容,请勿延伸至其他领域; 本文内容会不定期更新,总结,修改,排版,仅根据笔者所遇到的问题进行相关部分的完善; 若发现错误,还望不吝赐教(留言,邮箱均可); 文章内容可...

2017-12-09 16:13:36 614 0

原创 两个角度带你吃透PCA

关于(Principal Component Analysis)的推导方法很多,Ng在CS229的课程中也说到大约有10种左右;本文介绍的就是他在课程中讲到的,基于最大化方差的推导方法。1. What is PCAPCA是主成成分分析(Principal Component Analysis)的简...

2017-12-02 11:30:22 715 0

原创 带你重拾线性代数

声明: 本文所有内容均来自笔者在学习中所做总结,难免会有错误,谨慎参考; 本文所有内容的整理逻辑以及应用范围均只局限于机器学习相关内容,请勿延伸至其他领域; 本文内容会不定期更新,总结,修改,排版,仅根据笔者所遇到的问题进行相关部分的完善; 若发现错误,还望不吝赐教(留言,邮箱均可); 文章内容可...

2017-12-02 11:06:35 250 0

提示
确定要删除当前文章?
取消 删除