Nivel exacto de significancia: Valor ρ o "P-value" (I)

Como recién se anotó, el talón de Aquiles del enfoque clásico de la prueba de hipótesis es su arbitrariedad en la selección de α. Una vez se ha obtenido un estadístico de prueba (es decir el estadístico t) en un ejemplo dado, por qué no consultar sencillamente la tabla estadística apropiada y encontrar la probabilidad real de obtener un valor del estadístico de prueba tan grande o mayor que el obtenido en el ejemplo? Esta probabilidad se denomina el valor ρ (es decir, el valor de probabilidad), también conocido como el nivel observado o exacto de significancia o la probabilidad exacta de cometer un error tipo I. Más técnicamente, el valor ρ está definido como el nivel de significancia más bajo al cual puede rechazarse una hipótesis nula.

Para ilustrar, recuérdese el ejemplo consumo-ingreso. Dad la hipótesis nula de que la verdadera PMC es 0.3, se obtuvo un valor t de 5.86 en (5.7.4), Cual es el valor ρ o "p-value" de obtener un valor t igual o superior a 5.86? En la tabla t del apéndice D, se observa que para 8 g de l la probabilidad de obtener tal valor t debe estar muy por debajo de 0.001 (una cola) o 0.002 (dos colas). Mediante el uso del computador, puede mostrarse que la probabilidad de obtener un valor t mayor o igual a 5.86 (8 g de l) es alrededor de 0.000189. Este valor ρ del estadístico t observado. Este nivel de significancia observado o exacto del estadístico t es mucho menor que los niveles de significancia del 1%, del 5% o del 10% fijados convencional y arbitrariamente. De hecho, si fueramos a utilizar el valor ρ recién calculado y rechazar la hipótesis nula que la verdera PMC es 0.3, la probabilidad de que se cometa un error tipo I es sólo de cerca de 0,02%, es decir, solamente 2 en 10,000!

Propiedad de varianza mínima de los estimadores de mínimos cuadrados

Para demostrar que estos estimadores tienen varianza mínima dentro de la clase de todos los estimadores líneales insesgados, consideremos el estimador de minimos cuadrados β2:

Expresado en palabras, con ponderaciones wi = ki, que son ponderaciones de mínimos cuadrados la varianza del estimador líneal β2 es igual a la del estimador de mínimos cuadrados β2; de lo contrario la var (β*2) > var(β2). Dicho de otra manera, si hay un estimador lineal insesgado de β2 de varianza mínima, éste debe ser el estimador de mínimos cuadrados. Igualmente, puede demostrarse que β1 es un estimador líneal insesgado con varianza mínima de β1.

Estimador de Mínimos Cuadrados

Recuerdese:

Covarianza entre β1 y β2

Por definición:

Varianza y errores estándar de los estimadores de mínimos cuadrados

Ahora, de acuerdo con la definición de varianza, se puede escribir.

La varianza de β1 puede ser obtenida siguiendo el mismo tipo de raciocinio. Una vez que se hayan obtenido las varianzas de β1 y β2, se pueden obtener los errores estándar correspondientes, tomando las raíces cuadradas positivas.

Propiedades de linealidad e insesgamiento de los estimadores de mínimos cuadrados

De (3.1.8) se tiene

que muestra que β2 es un estimador lineal porque es una función líneal de Y; de hecho es un promedio ponderado de Yi en donde ki representa las ponderaciones. De la misma manera, puede demostrarse que β1 es también un estimador lineal.

Apartándonos del tema central, nótese las siguientes propiedades de las ponderaciones ki.

1. Puesto que se ha supuesto que las Xi no son estocásticas, las ki tampoco lo son.
2. Σki =0
3. Σk²i =0 1/Σx²i
4. Σkixi = ΣkiXi = 1. Estas propiedades pueden verificarse directamente de la definición de ki. 

Por ejemplo

Derivación de los mínimos cuadrados estimados

Diferenciando (3.1.2) parcialmente con respecto a β1 y β2, se obtiene

Igualando estas ecuaciones a cero y después de alguna simplificación y manipulación algebraica, se obtienen los estimadores dados en las ecuaciones (3.1.6) y (3.1.7)

Un experimento Monte Carlo se realiza de la siguiente forma

1. Supóngase que los valores verdaderos de los parámetros son los siguientes: β1 = 20 y β2 = 0.6.
2. Escójase el tamaño de la muestra, por ejemplo n = 25
3. Fíjense los valores de X para cada observación. En total usted tendrá 25 valores de X.
4. Supóngase que se consulta una tabla de números aleatorios, escójanse 25 valores y llámense ui (hoy en día la mayoría de los paquetes estadísticos tienen generadores de números aleatorios).
5.  Ahora que se conocen β1, β2, Xi y ui, utilizando (3.9.1) obténgase 25 valores de Yi.
6. Utilizando los 25 valores de Yi, generados de esa forma, hágase la regresión de estos valores sobre los 25 valores de X seleccionados en el paso 3, obteniendo así los estimadores de mínimos cuadrados β1 y β2.
7. Supóngase que se repite este experimento 99 veces, utilizando cada vez los mismos valores de β1 y β2 y X. Ciertamente los valores ui, variarán de un experimento a otro. Por consiguiente, en total se tienen 100 experimentos, generando así 100 valores para cada β1 y β2.
8. Obtengase los promedios de estos 100 valores estimados y denomínese β1 y β2.
9. Si estos valores promedios son aproximadamente los mismos que los valores verdaderos de β1 y β2 supuestos en el paso 1, mediante este experimento de Monte Carlos se "establece" que, en efecto, los estimadores de mínimos cuadrados son insesgados. Recuérdese que bajo el MCRL, E(β1) = β1 y E(β2) = β2

Estos pasos caracterizan la naturaleza general de los experimentos de Monte Calo. Tales experimentos son frecuentemente utilizados para estudiar las propiedades estadísticas de diversos métodos de estimación de los parámetros poblacionales. Son partícularmente útiles para estudiar el comportamiento de los estimadores en muestras pequeñas, o finitas. Estos experimentos son también un medio excelente de aplicar personalmente el concepto de muestreo repetido, que es la base de la mayor parte de la inferencia estadística clásica, como se verá en el capítulo 5. 

Nota sobre Experimentos de Monte Carlo

En este capítulo se muestra cómo bajo los supuestos del MCRL los estimadores de mínimos cuadrados tienen ciertas características estadísticas deseables que se resumen en la propiedad MELI. Pero en la práctica, cómo se puede saber si se mantiene la propiedad MELI? Por ejemplo, cómo se puede averiguar si los estimadores MCO son insesgados? La respuesta se logra mediante los llamados experimentos de Monte Carlo, los cuales son esencialmente experimentos de muestreo o de simulación en computador.

Para introducir las ideas básicas, considérese la FRP de dos variables:

Yi = β1 + β2Xi + ui

Listado de Computador de la Función de demanda de café

Como se anotó en la introducción a lo largo de este blog se estará utilizando intensamente el computador, para obtener respuestas a los ejemplos ilustrativos con el fin de familiarizar al lector con algunos paquetes de programas de regresión. En los ejemplos ilustrativos de este blog se hace uso de uno o más de estos programas.

Ejemplo Consumo de café en Estados Unidos (1980-1991) (I)

Retómese los datos dados en la tabla 1.1 de la introducción. Con base en esta información se estimó la siguiente regresión MCO, donde Y representa el gasto de consumo personal (GCP) en miles de millones de dólares de 1987 y X representa el Producto Interno Bruto (PIB), una medida del ingreso, en miles de millones de dólares de 1987.

Como lo sugieren estos resultados, durante el período 19801-1991 la media del gasto de consumo aumentó en cerca de 72 centavos por cada dólar de incremento en el PIB; esto es, la propensión marginal a consumir (PMC) estuvo cercana a los 72 centavos. Interpretando literalmente, el valor del intercepto de cerca de -232 sugiere que si el PIB fuera cero, la media del gasto de consumo habría sido de -232 mil millones de dólares. Nuevamente tal interpretación mecánica del intercepto no tiene sentido económico en el presente caso pues está por fuera del rango de valores, con el cual se está trabajando y, por tanto, no representa realmente un resultado probable. El valor de r² de cerca de 0,99 significa que el PIB explica aproximadamente el 99% de la variación en la media del gasto de consumo que, por cierto, es un valor elevado.

A pesar de este valor elevado de r² se puede cuestionar si una función de consumo keynesiana sencilla como esta sería el modelo apropiado para explicar el gasto de consumo agregado de los Estados Unidos. Algunas veces los modelos de regresión muy simples (por ejemplo, de dos variables) pueden proporcionar información útil. Los valores estimados de la PMC está cercana a 0.7. Pero se tendrá más que decir sobre la adecuación del modelo en capítulos posteriores.

Ejemplo Consumo de café en Estados Unidos (1970-1980) (II)

La interpretación de la regresión estimada es la siguiente: Si el precio de venta al detal observado promedio del café por libra aumenta, digamos, en dólar, se espera que el consumo promedio diario del café disminuya en aproximadamente media taza. Si el precio del café fuera igual a cero, se esperaría que el consumo promedio de café por persona fuera de aproximadamente 2.69 tazas por día. Ciertamente, como se mencionó anteriormente, con frecuencia no podemos asignar algún significado físico al intercepto. Sin embargo, se debe tener en mente que aún si el precio del café fuera cero, la gente no consumiría cantidades desproporcionadas de café por el aparente efecto negativo de la cafeína en la salud. El valor r² significa que cerca del 66% dela variación en el consumo de café  diario per cápita está explicado por la variación en el precio al detal del café.

Qué tal real es el modelo que se ha ajustado a la transformación? Puesto que no incluye todas las variables relevantes, no se puede decir que es una función completa de demanda de café. Este modelo sencillo seleccionado para este ejemplo fue ciertamente escogido para fines didácticos en esta etapa del estudio. 

Ejemplo Consumo de café en Estados Unidos (1970-1980) (I)

Considérense los datos de la tabla 3.4

Según la micro economía. la demanda de un bien de consumo primario depende generalmente del precio de ese bien, de los precios de otros bienes que compiten con él o que son complementarios al bien primario del ingreso del consumidor. Para incorporar todas estas variables a la función de demanda, suponiendo que los datos están disponibles, se precisaría un modelo de regresión múltiple  para lo cual no estamos aún preparados. Por consiguiente, lo que hará será suponer una función de demanda parcial o ceteris paribus (todo lo demás constante) en la que se relaciona solamente la cantidad de mandad con su precio - y se supone que las demás variables que entran en la función de demanda permanecen constantes. Entonces, si se ajusta el modelo lineal de dos variables (2.4.2) a los datos dados en la tabla 3.4, se obtienen los siguientes resultados.

Ejemplo Numérico (II)

Siguiendo lo expuesto en el capítulo 2, la FRM y la línea de regresión asociada son interpretadas de la siguiente forma: Cada punto en la línea de regresión de un estimado del valor esperado o de la media de Y correspondiente al valor seleccionado X; es decir, Yi es un valor estimado de E(Y|Xi). El valor de β2 = 0.5091,  que mide la pendiente de la curva, indica que , dentro de un rango muestral de X entre US$80 y US$260 por semana, a medida que X se incrementa, digamos en US$1 centavos. El valor de β1 = 24.4545, es el intercepto de la línea e indica el nivel promedio del gasto de consumo promedio cuando el ingreso semanal es cero. Sin embargo, ésta es una interpretación mecánica del Intercepto. En el análisis de regresión, este tipo de interpretación literal, del término intercepto puede no siempre tener sentido, aunque en este ejemplo puede argumentarse que una familia sin ingreso alguno (por razones de desempleo, despido tempral, etc) podría mantener algún nivel mínimo de gasto de consumo mediante endeudamiento o desahorro. Pero en general, uno debe utilizar el sentido común al interpretar el término intercepto ya que muy frecuentemente el rango muestral de los valores de X no incluye el cero como uno de los valores observados.

Tal vez lo mejor sea interpretar el término intercepto como el efecto de la media o promedio sobre Y de todas la variables omitidas del modelo de regresión. El valor de r² de 0.9621 significa que cerca del 96% de la variación en el gasto de consumo semanal está explicado por el ingreso. Puesto que r² puede llegar a ser máximo 1, la r² observada sugiere la línea de regresión muestral se ajusta muy bien a los datos. El coeficiente de correlación de 0.9809 indica que las dos variables, el gasto de consumo y el ingreso, tienen una alta correlación positiva. Los errores estándar de los coeficientes estimados de regresión serán interpretados luego.

Ejemplo Numérico (I)

Se ilustra la teoría econométrica dessarrollada hasta el momento considerando la función keynesiana de consumo expuesta en la introducción. Recuérdese que Keynes planteaba "La ley fundamental de sicología, según la cual los hombres [y las mujeres] están dispuestos, como regla y en promedio, a incrementar su consumo a medida que su ingreso aumenta, pero no tanto como el incremento en su ingreso", es decir la propensión marignal a consumir (PMC) es mayor que cero pero menor que uno. Aunque Keynes no especificó la forma funcional exacta de la relación entre el consumo y el ingreso, supóngase para simplificar que la relación es líneal como en (2.4.2). Como prueba de la función keynesiana de consumo, se utilizan los datos muestrales de la tabla 2.4, los cuales por conveniencia se reproducen en la tabla 3.2. La información primaria requerida para obtener los valores estimados de los coeficientes de regresión, sus errores estándar, etc., están dados en la tabla 3.3. Con base a esta información, se obtuvieron los siguientes cálculos, que se recomienda al lector verificar.

Coeficiente de determinación r²: Medida de la "Bondad del ajuste" (VI)

En el contexto de la regresión, r² es una medida con más significado que r, ya que la primera nos dice la proporción de la variación en la variable dependiente explicada por la(s) variable(s) explicativa(s) y, por consiguiente, constituye una medida global del grado en que la variación en una variable determina la variación en la otra. La segunda no tiene tal valor. Además, como se verá, la interpretación de r( =R) en un modelo de regresión múltiple es de valor dudoso. Sin embargo, se tendrá más que decir sobre r² mas adelante.

Nótese  que la r² definida anteriormente también puede ser calculada  como el coeficiente de correlación elevado al cuadrado entre Yi observado Yi estimado, es decir, Yi. Esto es, utilizando (3.5.13), se puede escribir.

Algunas de las propiedades de r

1. Puede tener signo positivo o negativo, dependiendo del signo del término en el numerador de (3.5.13), el cual mide la covariación muestral de dos variables.
2. Cae entre los límites de -1 y +1; es decir, -1 ≤ r ≤ 1.
3. Es simétrico por naturaleza; es decir, el coeficiente de correlación entre X y Y(rxy) es el mismo que entre Y y X(ryx).
4. Es independiente del origen y de la escala; es decir, si definimos Xi* = aXi + c y Yi* = bYi + d, donde a a > 0, b > 0, y c y d son constantes, entonces r entre X* y Y* es igual al r entre las variables originales X y Y.
5. Si X y Y son estadísticamente independientes, el coeficiente de correlación entre ellos es cero; pero si r =0, esto no significa que las dos variables sean independientes. En otras palabras, una correlación igual a cero no necesariamente implica independencia.
6. Es una medida de asociación líneal o dependencia lineal solamente; su uso e la descripción de relaciones no lineales no tiene significado. Así en la figura 3.11 (h), Y = X²es una relación exacta y aún r es cero. Por qué?
7. Aunque es una medida de asociación lineal entre dos variables, esto no implica necesariamente alguna relación causa-efecto, como se anotó en el capítulo 1.

Coeficiente de determinación r²: Medida de la "Bondad del ajuste" (V)

Una cantidad estrechamente relacionada con r² pero conceptualmente muy diferente de éste es el coeficiente de correlación, el cual, como se anotó en el capítulo 1, es una medida del grado de asociación entre dos variables. Puede ser calculado a partir de

medida que se conoce como el coeficiente de correlación muestral

Coeficiente de determinación r²: Medida de la "Bondad del ajuste" (IV)

Pueden anotarse dos propiedades de r²

1. Es una cantidad no negativa (Por qué?)
2. Sus límites son 0 ≤  r ≤  1. Un r² de 1 significa un ajuste perfecto, es decir Yi = Yi para cada i. Por otra parte, un r de cero significa que no hay relación alguna entre la variable dependiente y la variable explicativa (es decir, β2 = 0). En este caso, como lo indica (3.1.9). Yi = β1 = Y, es decir, la mejor predicción de cualquier valor de Y es simplemente el valor de su media. En esta situación por consiguiente, la línea de regresión será horizontal al eje X.

A pesar de que r² puede ser calculado directamente a partir de su definición dada en (3.5.5) su valor puede ser obtenido más rápidamente haciendo uso de la siguiente formula:

una expresión que econtraremos muy útil más adelante.

Coeficiente de determinación r²: Medida de la "Bondad del ajuste" (III)

Ahora dividiendo (3.5.3) por la STS a ambos lados, se obtiene

La cantidad r² así definida se conoce como el coeficiente de determinación (muetral) y es la medida de bondad del ajuste de una línea de regresión más frecuentemente utilizada. Verbalmente, r² mide la proporción o el porcentaje de la variación total en Y explicada por el modelo de regresión.