机器学习笔记（1）：什么是机器学习

本文来自之前在Udacity上自学机器学习的系列笔记。这是第1篇，介绍了什么是机器学习，以及机器学习的方法。

1. 简介

这门课程全面地介绍了机器学习知识。目标是学会构建用于描述数据的模型，然后根据一些评估指标来验证模型，或者互相比较不同模型的结果。最后，使用模型来解决问题。课程覆盖监督学习、非监督学习、强化学习和深度学习四种机器学习的方式。这些模型作为解决实际问题的工具箱。我们不仅是要学会如何用这些模型，还需要知道什么时候用，以及如何评估结果。

2. 什么是机器学习

机器学习是编写计算机程序，来解决现实中的问题。与传统编程相比，传统编程的方法是编写算法和规则来处理数据，然后得到结果。而机器学习则根据数据来寻找规则。举个例子，假如我们要判断一张图片中是否包含一个人，使用传统编程方法的话，我们需要写很多的判断，来决定这张图片是否有眼睛、鼻子等。而使用机器学习，我们其实是先写一个程序（Agent），然后输入大量的包含人的图片来训练这个程序，最后在给定的图片下，程序自己给出判断结果。机器学习得益于计算机的快速发展，可以收集并处理大量的数据。

3. 机器学习方法

当我们遇到一个问题，想用机器学习来解决时，我们可以先观察数据，然后从“工具箱”中寻找一个合适的模型。然后将数据输入到模型中进行训练。为了找出合适的模型，我们会将总数据划分为训练集和测试集，其中，在模型训练阶段，只用训练集数据，测试集的数据不能用于模型的训练。训练后的模型将使用测试集的数据进行验证。如果验证通过，说明得到的模型泛化能力很好。

下面使用pandas和sklearn库演示了，划分数据，读取训练集数据，然后选择模型，再将数据输入到模型进行训练，最后验证的过程。

# Import statements
from sklearn.tree import DecisionTreeClassifier
from sklearn.metrics import accuracy_score
import pandas as pd
import numpy as np

# Import the train test split
from sklearn.cross_validation import train_test_split

# Read the data.
data = np.asarray(pd.read_csv('data.csv', header=None))
# Assign the features to the variable X, and the labels to the variable y.
X = data[:,0:2]
y = data[:,2]

# Use train test split to split your data
# Use a test size of 25% and a random state of 42
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.25, random_state=42)

# Create the decision tree model and assign it to the variable model.
model = DecisionTreeClassifier()

# Fit the model to the training data.
model.fit(X_train,y_train)

# Make predictions on the test data
y_pred = model.predict(X_test)

# Calculate the accuracy and assign it to the variable acc. on the test data
acc = accuracy_score(y_test, y_pred)

在上面的程序中，模型是如何“训练”出来，就像是一个黑盒子，里面所涉及到的是具体模型选择、将模型转化为一个可求解的数学模型、最后设计算法求解出参数的过程。

所以，总的来说，机器学习是一个“遇到问题->构建模型->验证模型”的过程，其中构建模型涉及到具体的模型选择、问题转化和算法求解的步骤。