Python与机器学习

了解基本的机器学习原理及算法

学习利用机器学习算法解决应用问题的能力

掌握sklearn库中常用机器学习基本调用方法，避免重复造车

1：机器学习简介

机器学习的目标：

机器学习是实人工智能的手段，其主要研究内容是如何利用数据和经验进行学习，改善具体算法的性能。

多领域交叉，涉及概率论，统计学，算法复杂度理论等多门学科。

广泛应用于网络搜索，垃圾邮件过滤，推荐系统，广告投放，信用评价，欺诈检测、股票交易和医疗诊断等应用。

机器学习分类：

机器学习一般分为下面几种类型：

监督学习

无监督学习

强化学习

半监督学习

深度学习

Python scikit-learn :

http://scikit-learn.org/stable

Machine leaning in Python

一组简单有效的工具集

依赖python 的numpy ，scipy和matplotlib库

开源，可复用

Scikit-learn 学用函数：

《机器学习》 -周志化

《Pattern recognition and machine learning》 模式识别与机器学习

2：SKlearn库：

sklearn是scikit-learn的简称，是一个基于Python的第三方模块。sklearn库集成了一些常用的机器学习方法，在进行机器学习任务时，并不需要实现算法，只需要简单的调用sklearn库中提供的模块就能完成大多数的机器学习任务。

sklearn库是在Numpy、 Scipy和matplotlib的基础上开发而成的，因此在介绍sklearn的安装前，需要先安装这些依赖库。

3:Numpy库

Numpy（Numerical Python的缩写）是一个开源的Python科学计算库。在Python中虽然提供了list容器和array模块，但这些结构并不适合于进行数值计算，因此需要借助于Numpy库创建常用的数据结构（如：多维数组，矩阵等）以及进行常用的科学计算（如：矩阵运算）。

Scipy库是sklearn库的基础，它是基于Numpy的一个集成了多种数学算法和函数的Python模块。它的不同子模块有不同的应用，如：积分、插值、优化和信号处理等。

matplotlib是基于Numpy的一套Python工具包，它提供了大量的数据绘图工具，主要用于绘制一些统计图形，将大量的数据转换成更加容易被接受的图表。（注意要先安装numpy再安装matplotlib库）

安装相应的包：

pip install scikit_learn

sklearn库中的标准数据集：

数据集总览：

数据集总览：

波士顿房价数据集 ：

波士顿房价数据集包含506组数据，每条数据包含房屋以及房屋周围的详细信息。其中包括城镇犯罪率、一氧化氮浓度、住宅平均房间数、到中心区域的加权距离以及自住房平均房价等。因此，波士顿房价数据集能够应用到回归问题上。

Sklearn库的基本功能：

Sklearn 库的共分为6个部分：分别用于完成分类任务，回归任务，聚类任务，降维任务，模型选择及数据的预处理

分类任务：

回归任务：

聚类任务

降维任务

无监督学习简介：

利用无标签的数据学习数据的分布或数据与数据之间的关系被称为无监督学习。

有监督学习和无监督学习的最大区别在于数据是否有标签

无监督学习最常用的场景是聚类(clustering)和降维(dimension redction)

聚类（clustering）

聚类，就是根据数据相似性，将数据分为多类的过程

评估两个不同样本之间的相似性，通常使用的方法就是计算两个样本之间的距离。使用不同的方法计算样本间的距离会关系到聚类结果的好坏。

欧氏距离：

欧氏距离是最常用的一种距离度量方法，源于欧氏空间中两点的距离。其计算方法如下：

D

图.二维空间欧氏距离的计算

曼哈顿距离：

曼哈顿距离：

曼哈顿距离也称作“城市街区距离”，类似于在城市之中驾车行驶，从一个十字路口到另外一个十字楼口的距离，其计算方法如下：

D=