AI入门之——Andrew Ng “Machine Learning”课程学习笔记第一周

课程内容简介

课程主要介绍机器学习、数据挖掘和统计模式识别。相关主题包括:
i) 监督式学习(参数和非参数算法、支持向量机、核函数、神经网络)
ii)无监督学习(集群、降维、推荐系统、深度学习)
iii) 机器学习实例(偏见/方差理论、机器学习和AI领域的创新)

课程学习

第一周

1、10月18日学习Introduction章节。主要介绍了什么是Machine Learning及其意义,后续介绍了监督学习和无监督学习,其中监督学习主要介绍了regression和classification,无监督学习主要是cluster。(review三遍才过,对于有无监督学习理解不深刻)

Machine Learning is the field of study that gives computers 
the ability to learn without being explicitly programmed.

2、10月19日学习Model and Cost Function章节。分为四个小节,Model Representation、Cost Function、Cost Function-Intuition I、Cost Function-Intuition II。

hypothsis structure

Cost Function —— square error function

2

我们的目标就是尽可能的使Cost Function值最小。

3

3、10月19日学习Parameter Learning章节。分为三个小节Gradient Descent、Gradient Descent Intuition、Gradient Descent For Linear Regression。

因此采用梯度下降的方法

4

5

注意,上述temp0和temp1是同步变化的。

参数a的选取也至关重要,不仅影响算法的效率,还对是否能寻找到局部最优解起至关重要的作用。
6

As we approach a local minimum, gradient descent will sutomatically
take smaller steps. So, no need to decrease a over time.

最终算法表示如下:
7
8

4、10月20日学习Linear Algebra Review,主要是复习了线性代数的相关知识,矩阵计算、矩阵的逆和转置等。