过拟合（overfitting）与欠拟合（underfitting）是统计学中的一组现象。过拟合是在统计模型中，由于使用的参数过多而导致模型对观测数据（训练数据）过度拟合，以至于用该模型来预测其他测试样本输出的时候与实际输出或者期望值相差很大的现象，。欠拟合则刚好相反，是由于统计模型使用的参数过少，以至于得到的模型难以拟合观测数据（训练数据）的现象。
分类： 机器学习及应用
我最近因为学习机器学习并且想要做一些实践项目而打算收集一些数据来做机器学习，但是发现，数据不是你想找，想找就能找的。在机器学习方面，用于训练的数据对于整个机器学习进程的重要意义自然不言而喻，而数据问题涉及到收集、存储、表示以及规模和错误率等多个方面。关于数据，我想谈一谈数据的收集问题。
通过上一篇文章我们可以了解到，对数几率回归是什么，相关公式的定义以及训练使用的学习方法，希望读者应当首先通过上一篇文章来了解什么是对数几率回归。这一篇文章我想写一下关于二元的对数几率回归的内容，相关的知识可以推广到多元的对数几率回归。二元乃至多元的模型就初步有了神经网络的感觉，当然，此时仍然没有隐藏层。二元的模型常常是用来做平面的数据分类的，因此我打算用一个我定义的二元数据来解释一下这个模型。
对数几率回归（Logistic Regression），简称为对率回归，也称逻辑斯蒂回归，或者逻辑回归。虽然它被很多人称为逻辑回归，但是中文的“逻辑”一词与“logistic”和“logit”意思相去甚远。它是广义的线性模型，只是将线性回归方程中的y换成了ln[p/(1-p)，p是p(y=1|x)，p/(1-p)是“几率”。对数几率回归是用来做分类任务的，所以，需要找一个单调可微函数，将分类任务的真实标记和线性回归模型的预测值联系起来。
统计回归方法是当今大多数机器学习方法的基础之一，机器学习的很多工程领域应用都是基于此的推广。在统计学中，线性回归（Linear regression）是利用称为线性回归方程的最小二乘函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。多项式曲线拟合(Fitting)则是将线性回归推广到了高阶函数中。机器学习中的线性回归和多项式拟合是有监督学习方法。文末附Python和MatLab程序代码。
我刚开始跟别人说我在学习机器学习的时候，很多人就问我是不是搞硬件的，这让我很无语，毕竟，他们之前没听说过这个词，一听到“机器”二字就认为是硬件方面的东西。而实际上，这个事情虽然的确要懂硬件，但是核心的功夫完全不在硬件上，而是软件方面。毕竟，这个是跟人工智能相联系的东西，重要的是“智能”的实现，至于硬件，那是训练模型的时候（比如GPU）和实际应用中的机器人制造和物联网(Internet of Things)、传感器之类的了。
作为一个学习机器学习有一段时间的人，很理解那些还一点都不知道机器学习为何物的人的着急，因为我当时就是那样，我想以自己的语言来尽量通俗易懂地把它讲出来，以便帮助他们入门。
