良有以也

Ricardo

手写数字识别实现

本文主要实现手写数字识别，利用多类逻辑回归与神经网络两种方法实现 Multi-class Classification 数据源 There are 5000 training examples in ex3data1.mat, where each training example ...

Posted by jjx on December 12, 2016

聚类算法学习

聚类是一种非监督学习方法 在一个典型的监督学习中,我们有一个有标签的训练集,我们的目标是找到能够区分正 样本和负样本的决策边界,在这里的监督学习中,我们有一系列标签,我们需要据此拟合一 个假设函数。与此不同的是,在非监督学习中,我们的数据没有附带任何标签,我们拿到的 数据就是这样的: ...

Posted by jjx on December 11, 2016

支持向量机学习

与逻辑回归和神经网络相比,支持向量机,或者简称 SVM,在学习复杂的非线性 方程时 供了一种更为清晰,更加强大的方式 如果我们用一个新的代价函数来代替,即这条从 0 点开始的水平直线,然后是一条斜 线,像上图。那么,现在让我给这两个方程命名,左边的函数,我称之为$cos t_1(z)$ ...

Posted by jjx on December 10, 2016

机器学习系统设计与建议

当我们运用训练好了的模型来预测未知数据的时候发现有较大的误差,我们下一步可以 做什么? 获得更多的训练实例——通常是有效的,但代价较大,下面的方法也可能有效,可 考虑先采用下面的几种方法。 尝试减少特征的数量 尝试获得更多的特征 尝试增加多项式特征 尝试减少归一化程度 λ...

Posted by jjx on December 7, 2016

神经网络学习

代价函数 首先引入一些便于稍后讨论的新标记方法: 假设神经网络的训练样本有 m 个,每个包含一组输入 x 和一组输出信号 y,L 表示神经 网络层数,$S_l$ 表示每层的 neuron 个数($SL$ 表示输出层神经元个数),$S_L$ 代表最后一层中处理 单元的个数。 将神经网络的...

Posted by jjx on December 5, 2016

神经网络入门

我们之前学的,无论是线性回归还是逻辑回归都有这样一个缺点,即:当特征太多时, 计算的负荷会非常大。 普通的逻辑回归模型,不能有效地处理这么多的特征,这时候我们 需要神经网络。 神经元和大脑 神经网络是一种很古老的算法,它最初产生的目的是制造能模拟大脑的机器。 神经网络...

Posted by jjx on December 4, 2016

逻辑回归与正则化

在分类问题中,你要预测的变量 y 是离散的值,我们将学习一种叫做逻辑回归 (Logistic Regression) 的算法,这是目前最流行使用最广泛的一种学习算法。 在分类问题中,我们尝试预测的是结果是否属于某一个类(例如正确或错误)。分类问 题的例子有:判断一封电子邮件是否是垃圾邮件;判...

Posted by jjx on December 3, 2016

Octave与Matlab

Octave是matlab的开源免费版本，是matlab的有效替代工具，与matlab语法基本一致。 基本操作 移动数据 计算数据 矩阵也可以这样操作,1 ./ A 得到 A 中每一个元素的倒数。 同样地,这里的点号还是表示对每一个元素进行操作。 我们还可以进行求对数运算,...

Posted by jjx on December 1, 2016