Kovarianz

Die Kovarianz gibt an wie sehr zwei Verteilungen von Zufallsvariablen in ihrer Varianz um den Erwartungswert verteilt sind. Ein Spezialfall ist die Varianz.

Cov⁡(X,Y):=E[(X−EX)⋅(Y−EY)]\operatorname{Cov}(X,Y):=E[(X-EX)\cdot(Y-EY)]

Sind die Varianzen endlich so gelten folgende Eigenschaften:

Cov⁡(X,Y)=E(XY)−E(X)⋅E(Y)\operatorname{Cov}(X,Y)=E(XY)-E(X)\cdot E(Y) Cov⁡(aX+b,cY+d)=acCov⁡(X,Y)\operatorname{Cov}(a X+b, c Y+d)=a c \operatorname{Cov}(X, Y) Var⁡(X+X)=Var⁡(X)+Var⁡(Y)+2Cov⁡(X,Y)\operatorname{Var}(X+X)=\operatorname{Var}(X)+\operatorname{Var}(Y)+2 \operatorname{Cov}(X, Y)

Aus der Kovarianz zusammen mit der Varianz lässt sich die Korrelation berechnen.

Sample Covariance

Covariance Matrix

XXT=∑xtxtTX X^T=\sum x_t x_t^T