第一节 典型相关分析的基本思路
一、何谓典型相关——两组变量的相关问题 数据挖掘论坛
我们知道如何衡量两个变量之间是否相关的问题；这是一个简单的公式就可以解决的问题（Pearson相关系数、 Kendall’s t、 Spearman 秩相关系数)。
数据挖掘工具
如果我们有两组变量，如何表明它们之间的关系呢？ 数据挖掘实验室
例12.1（数据tv.sav)
数据挖掘交友
例如：业内人士和观众对于一些电视节目的观点有什么样的关系呢？数据tv.sav是不同的人群对30个电视节目所作的平均评分。 数据挖掘工具
观众评分来自低学历(led)、高学历(hed)和网络(net)调查三种，它们形成第一组变量； 数据挖掘交友
而业内人士分评分来自包括演员和导演在内的艺术家(arti)、发行(com)与业内各部门主管(man)三种，形成第二组变量。人们对这样两组变量之间的关系感到兴趣。
数据挖掘论坛
二、典型相关的基本思想
为了研究两组变量的相关性，我们可以把两组变量的相关性转化为两个变量的相关性来考虑，即考察第一组变量的线性组合与第二组变量的线性组合的相关性。通过选择线性系数使线性化后的变量有最大的相关系数，形成第一对典型变量，依此可以形成第二对、第三对典型变量，并使各对典型变量之间互不相关，这样就将两组变量将的相关转化为几对典型变量间的相关。 数据挖掘交友
由于一组变量可以有无数种线性组合（线性组合由相应的系数确定），因此必须找到既有意义又可以确定的线性组合。 数据挖掘研究院
典型相关分析(canonical correlation analysis)就是要找到这两组变量线性组合的系数，使得这两个由线性组合生成的变量（和其他线性组合相比）之间的相关系数最大。
数据挖掘工具
u 建立第一对典型变量(函数)的原则 数据挖掘交友
尽量使所建的两个典型变量之间的相关系数最大化，就是在两个变量组各自的总变化中先寻求他们之间最大的一部分共变关系，并用一对典型变量所描述。 数据挖掘研究院
因而，第一维度上的典型相关系数也随之求的。 数据挖掘工具
u 建立第二对典型变量(函数)的原则 数据挖掘交友
继续在两组变量剩余的变化中寻找第二个最大的共变部分，形成第二对典型变量，并解出第二维度上的典型相关系数。 数据挖掘实验室
依此类推，直至所有变化部分被剥离完毕。
第二节 典型相关分析的基本方法
一、典型相关系数
1．典型相关系数的含义
这里所涉及的主要的数学工具还是矩阵的特征值和特征向量问题。而所得的特征值与V和W的典型相关系数有直接联系。
由于特征值问题的特点，实际上找到的是多组典型变量(V1, W1), (V2, W2),…，其中V1和W1最相关，而V2和W2次之等等，
而且V1, V2, V3,…之间及而且W1, W2, W3,…之间互不相关。这样又出现了选择多少组典型变量(V, W)的问题了。实际上，只要选择特征值累积总贡献占主要部分的那些即可。
注意
严格地说，一个典型相关系数描述的只是一对典型变量之间的相关，而不是两个变量组之间的相关。
而各对典型变量之间构成的多维典型相关才共同揭示了两个观测变量组之间的相关形式。
2．典型相关模型的基本假设和数据要求
要求两组变量之间为线性关系，即每对典型变量之间为线性关系；
每个典型变量与本组所有观测变量的关系也是线性关系。如果不是线性关系，可先线性化：如经济水平和收入水平与其他一些社会发展水之间并不是线性关系，可先取对数。
即log经济水平，log收入水平。
3．典型相关模型的基本假设和数据要求
所有观测变量为定量数据。同时也可将定性数据按照一定形式设为虚拟变量后，再放入典型相关模型中进行分析。
4．典型相关分析说明
下面利用教材种tv.sav数据进行典型相关分析的说明
数据挖掘论坛
头两对典型变量(V, W)的累积特征根已经占了总量的99.427%。它们的典型相关系数也都在0.95之上。
5．典型相关系数的平方
与简单相关系数一样，典型相关系数的实际意义并不十分明确。所以，由经验的研究人员往往更愿意采用典型相关系数的平方（相当于回归分析中的确定系数）。
由于相关涉及的两个典型变量都是标准化的，所以双方的方差都等于1 。典型相关系数的平方的实际意义是一对典型变量之间的共享方差在两个典型变量各自方差中的比例。
6．典型相关系数的检验
我们仍旧利用上面的例题说明典型相关系数的检验。
整体检验：
数据挖掘工具
利用SPSS软件运算结果为：
P值均为0，说明在统计上均为显著，也就是拒绝不相关的零假设。
二、典型系数
一组变量对应于线性化后特征根的典型变量的系数，称为典型系数。
下面表格仍以上面资料为例，给出的是第一组变量相应于上面三个特征根的三个典型变量V1、V2和V3的系数，即典型系数(canonical coefficient)。
这些系数以两种方式给出；一种是没有标准化的原始变量的线性组合的典型系数(raw canonical coefficient)，一种是标准化之后的典型系数(standardized canonical coefficient)。标准化的典型系数直观上对典型变量的构成给人以更加清楚的印象。
可以看出，头一个典型变量V1相应于前面第一个（也是最重要的）特征值，主要代表高学历变量hed；
而相应于前面第二个（次要的）特征值的第二个典型变量V2主要代表低学历变量led和部分的网民变量net，但高学历变量在这里起负面作用。
类似地，也可以得到被称为协变量(covariate)的标准化的第二组变量的相应于头三个特征值得三个典型变量W1、W2和W2的系数：
三、典型负载（相关）系数；
也称为因变量或协变量与典型变量之间的两两相关系数。
以本节资料为例，SPSS运算结果为：
数据挖掘研究院
从这两个表中可以看出，V1主要和变量hed相关，而V2主要和led及net相关；W1主要和变量arti及man相关，而W2主要和com相关；这和它们的典型系数是一致的。
由于V1和W1最相关，这说明V1所代表的高学历观众和W1所主要代表的艺术家(arti)及各部门经理(man)观点相关；而由于V2和W2也相关，这说明V2所代表的低学历(led)及以年轻人为主的网民(net)观众和W2所主要代表的看重经济效益的发行人(com)观点相关，但远远不如V1和W1的相关那么显著（根据特征值的贡献率）。
思考题：
1．典型相关分析与一般的相关分析有何不同？
2. 举出实际生活中应用典型相关分析的例子。 数据挖掘工具
