二次线性判别分析的基本原理？

一、二次线性判别分析的基本原理？

二次判别分析不存在各个组具有相同协方差矩阵的假定。与线性判别分析相同，观测值将分类到平方距离最小的组。但是，平方距离不会简化成线性函数，因此称为二次判别分析。

与线性距离不同的是，二次距离不对称。换言之，使用组 j 的均值评估的组 i 的二次判别函数等于使用组 i 的均值评估的组 j 的二次判别函数。因此，平方距离称为广义平方距离。如果样本组协方差矩阵的行列式小于 1，则广义平方距离可以为负值。

Minitab 会使用单个类协方差矩阵计算 Mahalanobis 距离。Minitab 不计算二次判别函数。

二、fisher判别分析算法？

Fisher判别分析（Fisher's Discriminant Analysis）是一种经典的分类算法，它可以用于将一组观测数据分成两个或更多个类别。该算法是由统计学家Ronald Fisher于1936年提出的，其主要思想是将不同类别的样本点映射到高维空间中，然后在该空间中寻找一个最优的超平面来区分不同类别的样本点。

Fisher判别分析的基本步骤如下：

1. 将原始数据映射到一个高维空间中，通常使用线性判别分析（LDA）或QDA（Quantile Discriminant Analysis）等方法。

2. 在高维空间中寻找一个最优的超平面来区分不同类别的样本点，该超平面通常由最大化类间距离（Maximum Margin）的目标函数来定义。

3. 对于新的观测数据，将其投影到高维空间中，并找到对应的超平面。如果该超平面将新的观测数据分到了一个新的类别中，那么该数据就被认为是属于该类别的。

需要注意的是，Fisher判别分析的结果并不是唯一的，可能存在多个超平面可以达到相同的分类效果。此外，该算法对于噪声和异常值比较敏感，需要进行适当的数据预处理和参数调整。

三、线性判别分析应用？

线性判别分析(linear discriminant analysis，LDA)是对费舍尔的线性鉴别方法的归纳，这种方法使用统计学，模式识别和机器学习方法，试图找到两类物体或事件的特征的一个线性组合，以能够特征化或区分它们。

所得的组合可用来作为一个线性分类器，或者，更常见的是，为后续的分类做降维处理。

四、莺尾花 判别分析

莺尾花分类问题的判别分析

莺尾花（Iris），又称鸢尾花，是植物界中的一个重要家族。它的花朵美丽多姿，种类众多，受到了许多植物学家和园艺爱好者的青睐。但是，莺尾花的种类繁多，区分起来并不容易。针对这个问题，我们可以采用判别分析来帮助我们进行分类。

判别分析（Discriminant Analysis）是一种统计分析方法，它主要用于将数据集划分为多个已知类别。在莺尾花分类问题中，我们可以将判别分析应用于鉴别不同种类的莺尾花。通过分析花瓣长度、花瓣宽度、萼片长度和萼片宽度等特征，我们可以建立一个模型来判断一朵莺尾花属于哪个种类。

数据采集与准备

在进行判别分析之前，我们首先需要采集和准备相关的数据。为了更好地理解莺尾花分类问题，我们可以借助已有的数据集，例如著名的Fisher's Iris数据集。

Fisher's Iris数据集是统计学家和数据科学家常用的数据集之一，它包含了150朵莺尾花的测量数据，其中每朵花有4个特征：花萼长度、花萼宽度、花瓣长度和花瓣宽度。同时，每一朵花还有一个已知的分类标签，分别是Setosa、Versicolor和Virginica三个种类。

在这个数据集中，我们可以先将数据集划分为两部分：训练集和测试集。训练集用于建立判别分析模型，而测试集用于评估模型的准确性。这样做可以帮助我们更好地了解判别分析在莺尾花分类中的表现。

判别函数和决策规则

在判别分析中，我们根据已知的分类标签来建立一个判别函数，帮助我们将未知的样本分类到相应的类别。在莺尾花分类问题中，我们可以使用线性判别函数来进行分类。

线性判别函数的形式如下：