Predicción utilizando regresión múltiple: formulación matricial

En la sección 8.10 se analizó, utilizando notación escalar, la forma como la regresión múltiple estimada puede ser utilizada para predecir (1) la media y (2) los valores individuales de Y, dados los valores de los regresores  X. En esta sección se muestra la forma de expresar estas predicciones en forma matricial. También se presentan las fórmulas para estimar las varianzas y los errores estándar de los valores proyectados: en el cap. 8 notamos que estas fórmulas se trabajan mejor mediante notación matricial, ya que las expresionesescalares o algebraicas de estas fórmulas se hacen inmanejables.

Prueba de restricciones lineales: prueba F global utilizando notación matricial

En la sección 8.7 se introdujo la prueba general F, para verificar la validez de las restricciones lineales impuestas sobre uno o más parámetros del modelo de regresión lineal de k variables. La prueba apropiada se dio en (8.7.9) [o su equivalente (8.7.10)]. La matriz correspondiente a (8.7.9). puede derivarse facilmente.

Sea

Prueba de significancia global de la regresión: Análisis de varianza en notación matricial (II)

Por consiguiente, la tabla ANOVA 9.2 puede ser expresada como tabla 9.3. Una ventaja de la tabla 9.3 sobre la tabla 9.2 es que la totalidad del análisis puede hacerse en términos de R²; no se requiere considerar el término (yý-nY²), pues este se cancela en la razón F.

Prueba de significancia global de la regresión: Análisis de varianza en notación matricial (I)

En el capítulo 8 se desarrolló la técnica ANOVA (1) para probar la significancia global de la regresión estimada, es decir, para probar la hipótesis nula de que los verdaderos coeficientes de pendiente (parciales) son simultáneamente iguales a cero, y (2) para evaluar la contribución incremental de una variable explicativa. La técnica ANOVA puede ampliarse fácilmente al caso de k variables. Recuérdese que la técnica ANOVA consiste en descomponer la STC en dos componentes: la SEC y la SRC. Las expresiones matriciales para estas tres sumas de cuadrados ya han sido dadas en (9.3.16), (9.3.17) y (9.3.18), respectivamente. Los grados de libertad asociados con estas sumas de cuadrados son n-1, k-1 y n-k, respectivamente. (Por qué?) Entonces, siguiendo el capítulo 8, tabla 8.2, se puede elaborar la tabla 9.2.

Suponiendo que las perturbaciones ui están normalmente distribuidas y la hipótesis nula es β2 = β3 = .......βk = 0, y de acuerdo con el capítulo 8, se puede demostrar que

Prueba de hipótesis sobre coeficientes individuales de Regresión en notación matricial (II)

Puesto que en la práctica σ² es desconocida, ésta se estima mediante σ². Entonces por el desplazamiento usual hacia la distribución t, se cumple que cada elemento de β sigue la distribución t con n-k g de l. Simbólicamente

Por consiguiente, la distribución t puede ser utilizada para probar hipótesis sobre el verdadero βi y para establecer intervalos de confianza sobre éste. El verdadero mecanismo ya ha sido ilustrado en los capítulos 5 y 8. Para un ejemplo completo.

Prueba de hipótesis sobre coeficientes individuales de Regresión en notación matricial (I)

Por las razones expresadas en los capítulos anteriores, si el objetivo es la inferencia al igual que la estimación , se tendra que suponer que las perturbaciones ui siguen alguna distribución de probabilidad. Además por las razones dadas anteriormente, en el análisis de regresión usualmente se supone que cada ui sigue una distribución normal con media cero y varianza constante σ². en notación matricial, se tiene:

u ~ N(0,σ²I) (9.6.1)

donde u y 0 son vectores de las columnas nx1 e I es una matriz identidad (nxn), siendo 0 el vector nulo.

Dado el supuestos de normalidad, sabemos que en los modelos de regresión lineal de dos y tres variables (1) los estimadores MCO, βi, y MV, βi son idétnticos, pero el estimador MV σ² es sesgado, aun cuando este sesgo puede eliminarse utilizando el estimador MCO insesgado σ²; y (2) los estimadores MCO βi también están normalmente distribuidos. Generalizando, en el caso de k variables podemos demostrar que:

Es decir, cada elemento de β está normalmente distribuido con media igual al elemento correspondiente el verdadero β y la varianza está dada por σ² veces el elemento correspondiente de la diagonal de la matriz inversa (X'X)^-1

Matriz de correlación

En los capítulos anteriores se encuentran los coeficientes de correlación de orden cero o simple, r12, r13, r23 y las correlaciones parciales o de primer orden r12,3, r13,2, r23,1, y sus interrelaciones. En el caso de k variables se tendrá un total k(k-1)/2 coeficientes de correlación de orden cero. Por qué? Estas k(k-1)/2 correlaciones pueden situarse en una matriz, denominada la matriz de correlación R de la siguiente manera:


donde el subíndice 1, al igual que antes, denota la variable dependiente Y (r12 significa el coeficiente de correlación entre Y y X2, y así suscesivamente) y donde se hace uso del hecho de que el coeficiente de correlación de una variable con respecto a ella misma es siempre 1 (r11 = r22 = ..... =rkk =1).

A partir de la matriz de correlación R se pueden obtener los coeficientes de correlación de primer orden (véase capítulo 7) y de órdenes superiores tales como r12.34,.....k. (Véase ejercicio 9.4). Muchos programas de computador calculan bajo rutina la matriz R. Se estudiará la matriz de correlación en nuestro trabajo futuro.