Resumen y conclusiones Multicolinealidad y Muestras pequeñas (VI)

6. Aunque la multicolinealidad ha recibido extensa (algunos dirían excesiva) atención en la teoría, un problema igualmente importante que se ha presentado en la investigación empírica es el de la micronumerosidad, o pequeñez del tamaño de la muestra. De acuerdo con Goldberger, "Cuando un artículo de investigación acusa la presencia de multicolinealidad, los lectores deben ver si esa queja seriá convincente si se sustituyera el concepto de "micronumerosidad" por el de "multicolineealidad". Él sugiere que el lector decida, qué tan pequeña debe ser n, el número de observaciones, antes de decidir que se tiene un problema de muestra pequeña, exactamente en la misma forma en que uno decide qué tan alto es un valor de R² en una regresión auxiliar antes de declarar que el problema de colinealidad es muy severo.

Resumen y conclusiones Multicolinealidad y Muestras pequeñas (V)

4. La detección de multicolinealidad es la mitad de la batalla. La otra mitad está relacionada con hallar la forma de deshacerse del problema. Nuevamente, no existen métodos seguros, solamente unas pocas reglas prácticas. Algunas de estas reglas son las siguientes: (1) utilizar información obtenida a priori al modelo, (2) combinar información de corte transversal y de series de tiempo (3) omitir una variable si es altamente colineal, (4) transformar los datos y (5) obtener información adicional o nueva. Naturalmente, saber cuál de estas reglas funcionará en la práctica dependerá de la naturaleza de la información y de la severidad el problema de colinealidad.

5. Se mencionó aquí el papel de la multicolinealidad en la predicción y se señaló que a menos de que la estructura colineal continúe en la muestra futura, es peligroso utilizar una regresión estimada que haya sido contaminada por multicolinealidad para fines de proyección.

Resumen y conclusiones Multicolinealidad y Muestras pequeñas (IV)

c) Sin embargo, los coeficientes de correlación de orden cero pueden ser malos indicadores en modelos que contiene más de dos variables X, puesto que es posible tener correlaciones bajas de orden cero y encontrar aún alta multicolinealidad. En situaciones como éstas pueden ser necesario examinar los coeficientes de correlación parcial.

d) Si R² es algo pero las correlaciones parciales son bajas, la multicolinealidad es una posiblidad. Aquí hay una o más variables que pueden ser superfluas. Pero si R² es alto  las correlaciones parciales son altas también, la multicolinealidad puede no ser fácilmente detectable. También como lo señalan C. Robert, Krishna Kumar, John O'Hagan y Brendan Mc CAbe, hay algunos problemas estadísticos con la prueba correlación  parcial sugerida por FArrar y Glauber.

e) Por consiguiente, se puede regresar cada una de las variables Xi sobre las variables X restantes en el modelo y encontrar  los coeficientes de determinación correspondientes R²i. Un R²i elevado sugeriría que Xi está altamente correlacionado con el resto de las X. Así, se puede eliminar esta Xi del modelo, siempre y cuando conduzca a un sesgo de especificación grave.

Resumen y conclusiones Multicolinealidad y Muestras pequeñas (III)

3. Aunque no hay métodos seguros para detectar la colinealidad, existen diversos indicadores de ésta, como los siguientes:

a) El signo más claro de multicolinealidad es cuando el R² es muy alto, pero ninguno de los coeficientes de regresión es estadísticamente significativo con base en la prueba t convencional. Por supuesto, este caso es extremo.
b) En los modelos que contiene apenas dos variables explicativas, puede tenerse una idea de colinealidad relativamente buena mediante el examen del coeficiente de correlación de orden cero, o simple entre las dos variables. Si esta correlación es alta, la multicolinealidad es generalmente la culplable.

Resumen y conclusiones Multicolinealidad y Muestras pequeñas (II)

2. Las consecuencias de la multicolinealidad son las siguientes: Si existe colinealidad perfecta entre las X, sus coeficientes de regresión son indeterminados y sus errores estándar no están definidos. Si la colinealidad es alta pero no es perfecta, la estimación de los coeficientes de regresión es posible pero sus errores estándar tienden a ser grandes. Como resultado, los valores poblacionales de los coeficientes no pueden se estimados en forma precisa. Sin embargo, si el objetivo es estimar combinaciones lineales de estos coeficiente, las funciones estimables, esto puede lograrse aun en presencia de multicolinealidad perfecta.

Resumen y conclusiones Multicolinealidad y Muestras pequeñas (I)

1. Uno de los supuestos del modelo clásico de regresión lineal es que no haya multicolinealidad entre las variables explicativas, las X. Interpretado en términos generales, la multicolinealidad se refiere a una situación en la cual existe una relación lineal exacta o aproximadamente exacta entre la variables X.

Es la multicolinealidad necesariamente mala? Posiblemente no, si el objetivo es solamente la predicción (II)

Sin embargo, existen situaciones en las cuales la multicolinealidad puede no representar un problema grave. Es el caso en el cual se tiene un R² elevado y los coeficientes de regresión son significativos individualmente como lo demuestran los altos valores t. Aun así, los diagnósticos de multicolinealidad, por ejemplo, el índide de condición, indican que los datos presentan colineslidad grave. Cuándo puede presentarse tal situación? Como menciona Johnston:

Esto puede surgir si los coeficientes individuales resultan estar numéricamente por encima del valor verdadero, de tal forma que el efecto siga visible, a pesar de estar inflados los errores estándar y/o debido a que el valor verdadero mismo es tan grande que aun cuando se obtenga una estimación bastante subestimada, ésta continúa siendo significativa.

Es la multicolinealidad necesariamente mala? Posiblemente no, si el objetivo es solamente la predicción (I)

Se ha dicho que si el único propósito del analisis de regresión es el pronóstico o la predicción, entonces la multicolinealidad no es un grave problema puesto que entre más alto sea el R², mejor es la predicción. Pero esto puede suceder "....siempre que los valores de las variables explicativas para los cuales se desean las predicciones obedezcan las mismas dependencias lineales casi exactas de la matriz X [de datos] de diseño original". Por tanto, si en regresión estimada se encuentra que X2 = 2X3 aproximadamente entonces,  en una muestra futura utilizada para pronosticar Y,X2, también debe ser aproximadamente igual a 2X3, una condición difícil de cumplir en la práctica, en cuyo caso la predicción se hará cada vez más incierta. Adicionalmente, si el objetivo del análisis no es solamente la predicción sino también la estimación confiable de los parámetros, la presencia de alta multicolinealidad puede ser un problema porque, como se ha visto, conduce a grandes errores estándar en los estimadores.

Otros métodos de remediar la multicolinealidad

Las técnicas estadísticas multivariadas tales como el análisis de los factores y el de componentes principales o técnicas como la ridge regressión se emplean frecuentemente para "resolver" el problema de la multicolinealidad. Desafortunadamente, estas técnicas están por fuera del alcance de este blog.

Reducción de la colinealidad en las regresiones polinomiales

En la sección 7.11 se estudiaron los modelos de regresión polinomial. Una característica especial de estos modelos es que la(s) variable(s) explicativa(s) aparece(n) elevadas a diversas potencias. Por tanto, en la función cúbica de costos totales que involucra la regresión del costo total sobre la producción, la (producción) y la (producción), como en (7.11.4), los diversos términos de la producción van a estar correlacionados, haciendo difícil la estimación precisa de los diversos coeficientes de pendiente. No obstante, en la práctica, se ha encontrado que si la(s) variable(s) explicativa(s) están expresadas en forma de desviación (es decir, desviaciones del valor medio), la multicolinealidad se reduce sustancialmente. Pero, aun entonces el problema puede persistir, en cuyo caso se puede desear considerar técnicas tales como la de los polinomios ortogonales.

Datos nuevos o adicionales (II)

Ahora, el coeficiente de la riqueza no solamente tiene el signo correcto, sino que es estadística mente significativo al nivel del 5%.

La obtención de datos adicionales o "mejores" no siempre es tan sencilla, puesto que como lo mencionan Judge et al.

Desafortunadamente,  los economistas, muy pocas veces, pueden obtener información adicional sin incurrir en altos costosos y mucho menos pueden seleccionar los valores de las variables explicativas que desean. Adicionalmente, al agregar variables nuevas en situaciones que no son controladas, se debe ser cuidadoso de no agregar observaciones que fueron generadas en un proceso diferente del asociado con el conjunto original de datos; es decir, se debe estar seguros de que la estructura económica asociada con las nuevas observaciones sea igual a la estructura original.

Datos nuevos o adicionales (I)

Puesto que la multicolinealidad es una característica de la muestra, es posible que en otra muestra que contenga las mismas variables, la colinealidad no sea tan grave como en la primera. A veces, con sólo aumentar el tamaño de la muestra (si esto es posible), se puede atenuar el problema de la colinealidad. Por ejemplo, en el modelo de tres variables se vio que:

Transformación de variables (II)

El modelo de regresión utilizando primeras diferencias reduce frecuentemente la severidad de la multicolinealidad porque, aun cuando los niveles de X2 y X3 puede estar altamente correlacionadas, no hay razón a priori para pensar que sus diferencias crea algunos problemas.

Sin embargo, la transformación  que utiliza primeras diferencias crea algunos problemas adicionales. El término de error vt que aparece en (10.8.3) puede no satisfacer uno de los supuestos del modelo clásico de regresión lineal, a saber, que en las perturbaciones no están seriamente correlacionadas. Como veremos en el capítulo 12, si el ut original es serialmente independiente o no correlacionada, el término de error vt obtenido anteriormente estará, en la mayoría de los casos, serialmente correlacionado. Nuevamente, el remedio puede ser peor que la enfermedad Además, se pierde una observación debido al procedimiento de diferenciación y, por consiguiente, los grados de libertad se reducen en 1. En una muestra pequeña, ésto puede ser un factor que se debe, por lo menos, considerar. Además, el procedimiento de primeras diferencias puede no ser el adecuado en los datos de corte transversal donde no hay un ordenamiento lógico de las observaciones.

Transformación de variables (I)

Supóngase que se tiene información de series de tiempo sobre  el gasto de consumo, el ingreso y la riqueza. Una razón para la alta multicolinealidad entre el ingreso y la riqueza en tal información es que en el tiempo las dos variables tienden a moverse en la misma dirección. Una forma de minimizar esta dependencia es proceder de la siguiente manera

Si la relación

donde vt = ut - u(t-1). La ecuación (10.8.3) se conoce como la forma en primeras diferencias porque no se está corriendo la regresión sobre las variables originales sino sobre las diferencias de los valores sucesivos de dichas variables.

Eliminación de una(s) variable(s) y el sesgo de especificación.(II)

donde b32 = coeficiente de la pendiente en la regresión de X3 sobre X2. Por consiguient, es obvio que (7.7.4) que b12 será una estimación sesgada de β2 en la medida en que b32 sea diferente de cero (se supone que β3 es diferente de cero; en caso contrario, no tendría sentido el incluir X3 en el modelo original). Claro está que si b32 fuera cero, para empezar no habría problema de multicolinealidad. También es claro de (7.7.4) que si b32 y β3 son positivos, E(b12) será mayor que β2; por tanto, en promedio, b12 sobreestimará a β2, ocasionado un sesgo positivo. En forma similar, si el producto b32β3 es negativo, en promedio, b12 subestimará a β2 ocasionando un sesgo negativo.

DEl análisis anterior es claro que eliminar una variable del modelo para aliviar el problema de la multicolinealidad puede producir un sesgo de especificación. Por tanto, el remedio puede ser peor que la enfermedad en algunas situaciones porque, mientras que la multicolinealidad puede obstaculizar la estimación precisa de los parámetros del modelo, la omisión de una variable puede llevar a graves equivocaciones con respecto a los verdaderos valores de los parámetros. Recuérdese que los estimadores MCO son MELI a pesar de la presencia de multicolinealidad perfecta.

Eliminación de una(s) variable(s) y el sesgo de especificación.(I)

Al enfrentar el problema de multicolinealidad severa, una de las soluciones "más simples" consiste en omitir del modelo una de las variables colineales. ASí, en el ejemplo consumo-ingreso-riqueza, al omitir la variable riqueza, obtenemos la regresión  (10.6.4), la cual muestra que mientras en el modelo original la variable ingreso no era estadísticamente significativa, ahora se vuelve "altamente significativa".

Sin embargo, al eliminar una variable del modelo se puede estar incurriendo en un sesgo de especificación o error de especificación. El sesgo de especificación surge de la especificación incorrecta del modelo utilizado en el análisis. Así, si la teoría económica afirma que tanto el ingreso como la riqueza deben estar incluidos en el modelo que explica el gasto de consumo, al eliminar la variable riqueza se incurrirá en un sesgo de especificación.

Aunque se estudiará el tema del sesgo de especificación en el cap 13, se obtuvo una idea general sobre éste en la sección 7.7 donde se vió que si el modelo verdadero es

Combinación de información de corte transversal y de series de tiempo (III)

Aunque ésta es una técnica atractiva, la mezcla de datos de series de tiempo y de corte transversal en la forma recién sugerida puede crear problemas de interpretación porque se está suponiendo implícitamente que la elasticidad-ingreso estimada a partir de datos de corte transversal es igual a la que se habría obtenido a partir de un análisis puro de series de tiempo. Sin embargo, la técnica ha sido utilizada en muchas aplicaciones y es particularmente valiosa en situaciones en donde las estimaciones de corte transversal no varían sustancialmente de un grupo a otro. Un ejemplo de esta técnica se encuentra en el ejercicio 10.25.

Combinación de información de corte transversal y de series de tiempo (II)

En la información de series de tiempo, las variables precio e ingreso generalmente tienden a ser altamente colineales. Por consiguiente, si se desea efectuar la anterior regresión, se deberá enfrentar el problema usual demulticolinealidad. Una salida a esto ha sido sugerida por Tobin. El dice que si se tiene información de corte transversal (por ejemplo, información generada a través de grupos de consumidores o estudios de presupuesto realizados por diversas agencias privadas  estatales), se puede obtener una estimación relativamente confiable de la elasticidad-ingreso β3, puesto que con tal información, que está en un punto en el tiempo, los precios no varían mucho. Sea β3 la elasticidad-ingreso estimada a partir de los datos de corte transversal. Utilizando esta estimación, la anterior regresión de series de tiempo puede escribirse como:

Y*t = β1 + β2lnPt + ut

donde Y* = lnY - β3ln I, es decir, Y* representa ese valor de Y después de eliminarle el efecto del ingreso. Ahora se puede obtener una estimación de la elasticidad-precio β2 de la regresión anterior.

Combinación de información de corte transversal y de series de tiempo (I)

Una variante de la técnica de información externa a priori es la combinación de información de corte transversal y de series de tiempo, conocida como mezcla de datos. Supóngase que deseamos estudiar la demanda de automóviles en los Estados Unidos y supóngase que se tiene información de series de tiempo sobre el número de autos vendidos, el precio promedio del auto y el ingreso del cosumidor. Supóngase además que

Información a priori

Supóngase que se considera el modelo

Cómo se obtiene información a priori? Esta puede provenir de trabajo empírico anterior, en donde el problema de colinealidad resultó ser menos grave o  de la teoría relevante que soporta el campo de estudio. Por ejemplo, en la función de producción tipo Cobb-Douglas (7.10.1) si se espera que prevalezcan los rendimientos constantes a escala, entonces (β2 + β3) =1, en cuyo caso se puede efectuar la regresión (8.7.13), regresando la razón producto-trabajo sobre la razón capital-trabajo. Si existe colinealidad entre el trabajo y el capital, como generalmente es el caso en la mayor parte de la información muestral, dicha transformación puede reducir o eliminar el problema de colinealidad. Pero es preciso hacer una advertencia aquí con respecto a la imposición de esas restricciones a priori, "... puesto que en general se desea probar las predicciones a priori de la teoría económica en lugar de imponerlas simplemente sobre los datos para los cuales ellas pueden no ser ciertas" Sin embargo, se sabe, de la sección 8.7, cómo probar explícitamente la validez de tales restricciones.