Análisis de regresión y análisis de varianza (I)

En esta sección se estudiará el análisis de regresión desde el punto de vista del análisis de varianza y se introducirá al lector hacia una forma complementaria de mirar el problema de la inferencia estadística.

En el capítulo 3, sección 3.5, se desarrolló la siguiente identidad

es decir, STC = SEC + SRC, la cual descompone la suma total de cuadrados (STC) en dos componentes: la suma explicada de cuadrados (SEC) y al suma de residuales al cuadrado (SRC). Un estudio de estos componentes de STC se conoce como el análisis de varianza (ANOVA) desde el punto de vista de la regresión.

Asociado con toda suma de cuadrados están sus g de l, es decir, el número de observaciones independientes sobre las cuales está basada. La STC tiene n-1 g de l porque se pierde 1 g de l en el cálculo de la media muestral Y. La SRC tiene n-2 g de l.(Por qué) (Nota: Esto es cierto solamente para el modelo de regresión con dos variables con presencia del intercepto β1). SEC tiene 1 g de l (de nuevo, esto es cierto solamente para el caso de dos variables), lo cual se deduce del hecho de que SEC = B2^2Σx²i es una función β2 ólo si Σx²i es conocida.

Selección entre los enfoques del intervalo de confianza y la prueba de significancia en la prueba de hipótesis

En la mayor parte de los análisis económicos aplicados, la hipótesis nula postulada hace las vece de comodín, y el objetivo del trabajo empírico es tumbarlo, es decir, rechazar la hipótesis nula. Por tanto, en nuestro ejemplo consumo-ingreso, la hipótesis nula de que la PMC, β2 = 0 es claramente absurda, pero con frecuencia la utilizamos para ejempleficar los resultados empíricos. Parece ser que los editores de publicaciones especializadas de renombre no encuentran emocionante publicar un trabajo empírico que no rechace la hipótesis nula. De alguna manera, como noticia es más novedoso el hallazgo de que la PMC sea estadísticamente diferente de cero que el hallazgo de que sea igual, a digamos !0.7.

Por tanto, J. Bradford De Long y Kevin Lang sostienen que es mejor para los economistas.

...concentrarse en las magnitudes de los coeficientes y dar informes sobre los niveles de confianza y no sobre las pruebas de significancia. Si todas, o casi todas, las hipótesis nulas son falsas, tiene poco sentido concentrarse en averiguar si un estimado es o no indistinguible de su valor predicho bajo la hipótesis nula. En lugar de esto, deseamos averiguar cuáles modelos son buenas aproximaciones, para lo cual es necesario que conozcamos los rangos de los valores de los parámetros excluidos por los estimados empíricos.

En resumen, estos autores prefieren el enfoque del intervalo de confianza al enfoque de la prueba de significancia. El lector puede desear tener este consejo en mente.

Significancia estadística versus significancia práctica (II)

El punto de toda esta exposición es que no se debe confundir la significancia estadística con la significancia práctica o económica. Como lo afirma Goldberger:

Cuando una hipótesis nula, digamos β1 = 1, se especifica, lo que se busca es que βi esté cercano a 1, tan cerca que para todos los propósitos prácticos pudiera ser tratado como si fuera 1. Pero el que 1.1. sea "prácticamente lo mismo que" 1.0 es un asunto de economía, no de estadística. No se puede resolver el asunto apoyándose en una prueba de hipótesis porque el estadístico de prueba [t=](bi-1)/σbi mide el coeficiente estimado en unidades de errores estándar, las cuales no tienen significado para medir el parámetro económico Bi - 1. Puede ser una buena idea reservar el término "significancia" para el concepto estadístico, adoptando la palabra "sustancial" para el concepto económico.

El punto expresado por Goldelberger es importante. A medida que el tamaño de la muestra se hace muy grande, la importancia de los temas relacionados con significancia estadística se hace mucho menor pero los temas de significancia económica adquieren importancia crítica. En efecto, puesto que con muestras grandes casi todas las hipótesis nulas serán rechazadas, puede haber estudios en los cuales la magnitud de los valores estimados puntuales pueda ser lo único importante.

Significancia estadística versus significancia práctica (I)

Recuérdese el ejemplo consumo-ingreso y ahora planteése que la verdadera PMC es 0.61 (H0: β2 = 0.61). Basados en el resultado muestral de β2 = 0.5091, se obtuvo el intervalo (0.4268, 0.5914) al 95% de confianza. Puesto que este intervalo no incluye 0.61, es posible decir, con un 95% de confianza, que el valor estimado es estadísticamente significativo, es decir, significativamente diferente de 0.61.

Pero, Cuál es el significado práctico o real del hallazgo? Es decir, Qué diferencia existe entre asignar a la PMC, un valor de 0.61 o uno de 0.5091? Es la diferencia de 0.1009 entre las dos PMC así de importante en la práctica?

La respuesta a esta pregunta depende de lo que en realidad se haga con estos estimados. Por ejemplo, de la macroeconomía se sabe que el multiplicador del ingreso es 1/(1-PMC). Por tanto, si la PMC e 0.5091, el multiplicador es 2.04, pero será 2.56 si la PMC es igual a 0.61. Esto es, si el gobierno fuera a incrementar su gasto en US$1 para sacar la economía de una recesión, el ingreso aumentaría en ese caso en US$2.04 si la PMC es 0.5091 pero lo hará en US$2.56 si la PMC es 0.61. Y esa diferencia podría ser crucial para reactivar la economía.

Nivel exacto de significancia: Valor ρ o "P-value" (II)

Como se anotó anteriormente, si los datos no apoyan la hipótesis nula, el ︱t︱ obtenido bajo tal hipótesis nula será "grande" y, por consiguiente, el valor ρ de obtener tal ︱t︱ será "pequeño". En otras palabras, para un tamaño de muestra dado, a medida que aumenta ︱t︱, el valor p se reduce y se puede, por consiguiente, rechazar la hipótesis nula con mayor confianza.

Cuál es la relación entre el valor p y el nivel de significancia α? Si se adquiere el hábito de fijar α igual al valor p de un estadístico de prueba (es decir, el estadístico t), entonces no hay conflicto entre estos dos valores. Expresado en otros términos, es mejor no fijar α a algún nivel de forma arbitraria sino escoger simplemente el valor p del estadístico de prueba. Es preferible dejar que el lector decida si debe rechazar la hipótesis nula al valor p dado. Si, en una aplicación, el valor p de un estadístico de prueba resulta ser, por ejemplo, 0.145 o 14.5% y si el lector desea rechazar la hipótesis nula a este nivel(exacto) de significancia, entonces lo puede hacer. No está mal tomar el riesgo de equivocarse un 14.5% de las veces si se rechaza la hipótesis nula verdadera. De manera similar como en el ejemplo de consumo-ingreso, no está mal si el investigador desea escoger un valor p cercano al 0.02% y no tomar el riesgo de equivocarse en más de 12 veces de cada 10,000!. Después de todo, algunos investigadores pueden ser amantes del riesgo y otros opuestos a él!

En el resto de este texto, se citará generalmente el valor p de un estadístico de prueba dado. Algunos lectores pueden desear fijar α a algún nivel y rechazar la hipótesis nula si el valor p es menor que α. Es su opción.

Nivel exacto de significancia: Valor ρ o "P-value" (I)

Como recién se anotó, el talón de Aquiles del enfoque clásico de la prueba de hipótesis es su arbitrariedad en la selección de α. Una vez se ha obtenido un estadístico de prueba (es decir el estadístico t) en un ejemplo dado, por qué no consultar sencillamente la tabla estadística apropiada y encontrar la probabilidad real de obtener un valor del estadístico de prueba tan grande o mayor que el obtenido en el ejemplo? Esta probabilidad se denomina el valor ρ (es decir, el valor de probabilidad), también conocido como el nivel observado o exacto de significancia o la probabilidad exacta de cometer un error tipo I. Más técnicamente, el valor ρ está definido como el nivel de significancia más bajo al cual puede rechazarse una hipótesis nula.

Para ilustrar, recuérdese el ejemplo consumo-ingreso. Dad la hipótesis nula de que la verdadera PMC es 0.3, se obtuvo un valor t de 5.86 en (5.7.4), Cual es el valor ρ o "p-value" de obtener un valor t igual o superior a 5.86? En la tabla t del apéndice D, se observa que para 8 g de l la probabilidad de obtener tal valor t debe estar muy por debajo de 0.001 (una cola) o 0.002 (dos colas). Mediante el uso del computador, puede mostrarse que la probabilidad de obtener un valor t mayor o igual a 5.86 (8 g de l) es alrededor de 0.000189. Este valor ρ del estadístico t observado. Este nivel de significancia observado o exacto del estadístico t es mucho menor que los niveles de significancia del 1%, del 5% o del 10% fijados convencional y arbitrariamente. De hecho, si fueramos a utilizar el valor ρ recién calculado y rechazar la hipótesis nula que la verdera PMC es 0.3, la probabilidad de que se cometa un error tipo I es sólo de cerca de 0,02%, es decir, solamente 2 en 10,000!

Selección del nivel de significancia α (II)

Desde luego, pocas veces se conocen los costos de cometer los dos tipos de error. Por tanto, los econometristas tienen por costumbre fijar el valor de α a niveles del 1, el 5 o el 10% como máximo y escogen un estadístico de pruebas que minimice la probabilidad de cometer un error tipo II. Puesto que uno menos la probabilidad de cometer un error tipo II se conoce como la potencia de la prueba, este procedimiento equivale a maximizar esa potencia de la prueba.

Pero todo este problema relacionado con la selección del valor apropiado de α puede ser evitado si se utiliza lo que se conoce como el "P-value" del estadístico de prueba, que se analiza a continuación.