AdaBoost元算法属于boosting系统融合方法中最流行的一种，说白了就是一种串行训练并且最后加权累加的系统融合方法。 具体的流程是：每一个训练样例都赋予相同的权重，并且权重满足归一化，经过第一个分类器分类之后， 计算第一个分类器的权重alpha值，并且更新每一个训练样例的权重，然后再进行第二个分类器的训练，相同的方法....... 直到错误率为0或者达到指定的训练轮数，其中最后预测的标签计算是各系统*alpha的加权和，然后sign（预测值）。 可以看出，训练流程是串行的

我们需要成百上千的分类器来解决现实世界的分类吗 我们评估179分类17种分类器（判别分析，贝叶斯，神经网络，支持向量机，决策树，基于规则的分类器，升压、装袋、堆放、随机森林和其他合奏，广义线性模型，线性，偏最小二乘法和主成分回归，logistic回归、多项式回归、多元自适应回归样条等方法），实现在WEKA，R（有或没有插入包），C和Matlab，包括所有目前可用的相关分类。(Do-we-Need-Hundreds-of-Classifiers-to-Solve-Real-World-Class

要说随机森林，必须先讲决策树。决策树是一种基本的分类器，一般是将特征分为两类（决策树也可以用来回归，不过本文中暂且不表）。构建好的决策树呈树形结构，可以认为是if-then规则的集合，主要优点是模型具有可读性，分类速度快。(In machine learning, a random forest is a classifier that contains multiple decision trees, and its output category is determined by the m