Resumen y Conclusiones Análisis de Regresión Múltiple - Problema de Estimación (II)

4. Aun cuando el R² y el R² ajustado son medidas globales que indican la forma como el modelo escogido  se ajusta a un conjunto dado de datos, su importancia no debe ser exagerada. Los aspectos críticos son las expectativas teóricas en las cuales se basa el modelo en términos de los signos a priori de los coeficientes de las variables incluidas en el modelo y, como se muestra en el siguiente capítulo, su significancia estadística.

5. Los resultados presentados en este capítulo pueden ser facílmente generalizados a un modelo de regresión líneal múltiple que involucre cualquier número de regresores. Pero el álgebra se vuelve tediosa. Este tedio puede ser evitado recurriendo al álgebra matricial. Para el lector interesado, la extensión al modelo de regresión e k variables utilizando álgebra matricial se presenta en el capítulo 9 opcional. Pero el lector general puede leer el resto del blog sin conocer mucho de álgebra matricial.

Resumen y Conclusiones Análisis de Regresión Múltiple - Problema de Estimación (I)

1. En este capítulo se introdujo el modelo más simple posible de regresión líneal múltiple a saber, el modelo de regresión con tres variables. Se entiende que el término lineal se refiere a linealidad en los parámetros y no necesariamente en variables.
2. Aunque el modelo de regresión con tres variables es, en muchas formas una extensión del modelo con dos variables, hay algunos conceptos nuevos involucrados, tales como coeficientes de regresión parcial, coeficientes de correlación parcial, coeficientes de correlación múltiple, R² ajustado y no ajustado (por grados de libertad) multicolinealidad y sesgo de especificación.
3. En este capítulo se consideró también la forma funcional del modelo de regresión múltiple, tal como la función de producción de Cobb-Douglas y el modelo de regresión polinomial. 

Resultados empíricos

Cuando la regresión polinomial de tercer grado se ajustó a los datos de la tabla 7.4, se obtuvieron los siguientes resultados.

Yi = 141.7667 + 63.4776Xi - 12.9615Xi² + 0.9396Xi³
(6.3753) (4.7786) (0.9857) (0.0591) (7.11.6)
R² = 0.9983

(Nota: Las crifras en paréntesis son los errores estándar estimados). Aun cuando se examinará la significancia estadística de estos resultados en el siguiente capítulo, el lector puede verificar que éstos serán en conformidad con las expectativas teóricas descritas en 97.11.5). Como ejercicio para el lector dejamos la tarea de interpretar la regresión (7.11.6)

Estimación de la función de costo total (II)

Dada la información de la tabla 7.4, se puede aplicar el método MCO para estimar los parámetros de (7.11.4). Pero, antes de hacerlo, véase lo que la teoría económica tiene que decir sobre la función cúbica de costos de corto plazo (7.11.4). La teoría elemental de precios muestra que en el corto plazo, las curvas de costo marginal de producción (CM) y de costo promedio (CP) en general tiene forma de u - incialmente, a medida que la producción aumenta tanto el CM como el CP decrecen pero, después de un nivel dado de producción, ambas vuelven a aumentar, nuevamente como consecuencia de la ley de rendimientos decrecientes. ESto puede verse en la figura 7.6 (véase también la figura 7.4). Y, puesto que las curvas de CM y de CP se derivan de la curva de costo total, la naturaleza de estas curvas en forma de U impone algunas restricciones sobre los parámetros de la curva de costo total (7.11.4).

De hecho, puede mostrarse que los parámetros de (7.11.4) deben satisfacer las siguientes restricciones si se desea observar las curvas de costo marginal y promedio de corto plazo en forma típica de U.

1. βo, β1 y β3 >0
2. β2 < 0
3. β2² < 3β1β3

Toda esta exposición teórica podría parecer un poco tediosa. Pero este conocimiento es extremadamente útil cuando se examinan los resultados empíricos, puesto que sí éstos no concuerdan con las expectativas a priori, entonces, suponiendo que no se ha cometido un error de especificación (es decir, escogido el modelo erróneo), tendremos que modificar nuestra teoría o buscar una nueva y reiniciar la investigación empírica desde el principio. Pero como se anotó en la introducción, ésta es la naturaleza de cualquier investigación empírica.

Estimación de la función de costo total (I)

Como ejemplo de regresión polinomial, considérese la información dada en la tabla 7.4 sobre producción de un bien y su costo de producción total en el corto plazo. Qué tipo de modelo de regresión ajustará estos datos? Para este fin, dibújese primero el diagrama de dispersión, que se muestra en la figura 7.5.

De esta figura es claro que la relación entre el costo total y el de la producción, semeja una curva en forma de S alargada; obsérvese como la curva de costo total primero aumenta gradualmente y luego lo hace rápidamente, como lo establece la conocida ley de rendimientos decrecientes. Esta forma de S de la curva de costo total puede ser representada por el siguiente polínomio cúbico ó de tercer grado.

Yi = βo + β1Xi + β2Xi² + β3Xi³ + ui

Donde Y = costo total y X = producción

Modelos de regresión polinomal (III)

Téngase en cuenta que en estos tipos de regresiones polinomiales, solamente hay una variable explicativa al lado derecho, pero aparece elevada a distintas potencias, convirtiéndolas en modelos de regresión múltiple. A propósito, obsérvese que si se ha supuesto que Xi es fija o no estocástica, los términos de Xi elevados a alguna potencia también se hacen fijos o no estocásticos.

Presentan estos modelos problemas especiales de estimación? Puesto que el polinomio de segundo grado (7.11.2) o el polinomio de grado k (7.11.13) es lineal en los parámetros, los β pueden ser estimados mediante las metodologías usuales MCO o MV. Pero, qué sucede con el problema de colinealidad? Acaso las diferentes X no están altamente correlacionadas puesto que todas son potencias de X? Si, pero recuérdese que términos como X², X³, X^4, etc, son todas funciones no lineales de X y por consiguiente, de manera estricta, no violan el supuesto de no multicolinealidad. En resumen, es posible estimar modelos de regresión polinomial mediante las técnicas presentadas en este capítulo sin que se presenten nuevos problemas de estimación.

Modelos de regresión polinomal (II)

La versión estocástica de (7.11.1) puede escribirse así:

Yi = βo + β1Xi + β2Xi² + ui

que se denomina una regresión polinomial de segundo grado.

La regresión polinomial de grado k general puede escribirse asi:


Yi = βo + β1Xi + β2Xi² +.........+ βkXi^k + ui

Modelos de regresión polinomal (I)

Para concluir este capítulo, se considerará una clase de modelos de regresión múltiple, los modelos de regresión polinomal que han encontrado un amplio uso en la investigación econométrica relacionada con funciones de costo y de producción. Al introducir estos modelos, se amplía el rango de modelos a todos los que pueda aplicarse fácilmente el modelo clásico de regresión lineal.

Para ordenar las ideas, considérese la figura 7.4 que relaciona el costo marginal de corto plazo (CM) de la producción de un bien (Y) con el nivel de su producto (X). La curva de CM dibujaa en la figura, la curva con forma de U de los textos, muestra que la relación entre CM y producto es no lineal. Si se fuera a cuantificar esta relación a partir de algunos puntos dispersos dados. Cómo se haría? En otras palabras, qué tipo de modelo econométrico recogerá la naturaleza primero decreciente y luego creciente del costo marginal?

Geométricamente, la curva CM que aparece en la figura 7.4 representa una parábola. Matemáticamente, la parábola está representada por la siguiente ecuación.

Y = βo + βtX + β2X²

que se denomina función cuadrática ó, más generalmente, un polinomio de segundo grado en la variable X - la mayor potencia de X representa el grado del polinomio (si se agregara un X³ a la función anterior, sería un polinomio de tercer grado y así sucesivamente).

Ejemplo La función de producción COBB-Douglas: más sobre la forma funcional (IV)

Suponiendo que el modelo (7.10.2) satisface los supuestos del modelo clásico de regresión lineal, se obtuvo la siguiente regresión lineal, se obtuvo la siguiente regresión por el método MCO:


De la ecuación (7.10.4), se ve que en el sector agrícola taiwanés durante el períoo 1958-1972, las elasticidades del producto con respecto al trabajo y al capital fueron 1.4988 y 0.4899 respectivamente. En otras palabras, durante el período en estudio, manteniendo constante el insumo capital, un incremento de 1% en el insumo trabajo condujo en promedio a un incremento de cerca del 1.5% en el producto. En forma similar, manteniendo constante el insumo de trabajo, un incremento del 1% en el insumo capital condujo en promedio a un incremento de cerca del 0.5% en el producto. Sumando las dos elasticidades del producto, se obtiene 1.9887, que da el valor del parámetro de rendimientos a escala. Como es evidente, durante el período en estudio, el sector agrícola taiwanés se caracterizó por rendimientos crecientes a escala.

Dese el punto de vista puramente estadístico, la línea de regresión estimada se ajusta a los datos bastante bien. El valor R² de 0.8890 significa que cerca del 89% de la variación en el (log del) producto es explicado por el (log del) trabajo y el (log del) capital.

Ejemplo La función de producción COBB-Douglas: más sobre la forma funcional (III)

Antes de continuar obsérvese que siempre que se tenga un modelo de regresión log-lineal con cuálquier número de variables, el coeficiente de cada una de las variables X mide la elasticidad (parcial) de la variable dependiente Y con respecto a esa variable. Así, si se tiene un modelo log-lineal con k variables.

ln Yi = βo + β2lnX2i + β3lnX3i + .........+βklnXki + ui

cada uno de los coeficientes de regresión (parcial), β2 hasta βk, es la elasticidad (parcial) de Y con respecto a las variables de X2 hasta X.

Para ilustrar la función de producción de Cobb-Douglas, se obtuvo la información que aparece en la tabla 7.3; esta información se refiere al sector agrícola de Taiwan durante 1958-1972.

Ejemplo La función de producción COBB-Douglas: más sobre la forma funcional (II)

EScrito de esta forma, el modelo es lineal en los parámetros βo, β2 y β3 y por consiguiente es un modelo de regresión líneal. Obsérvese, sin embargo, que es no lineal en las variables Y y X aunque sí lo es en los logaritmos de éstas. En resumen, (7.10.2) es un modelo log-log, doble-log o log-lineal, el equivalente en la regresión múltiple al modelo log-lineal con dos variables (6.4.3).

Las propiedades e la función de producción de Cobb-Douglas son bien conocidas:

1. β2 es la elasticidad (parcial) del producto  con respecto al insumo trabajo, es decir, mide el cambio porcentual en la producción debido, a una variación del 1% en el insumo trabajo, manteniendo el insumo capital constante (véase ejercicio 7.10).
2. De igual forma, β3 es la elasticidad (parcial) el producto con respecto al insumo capital, manteniendo constante el ínsumo trabajo.
3. La suma (β2 + β3) nos da información sobre los rendimientos de escala, es decir, la respuesta del producto a un cambio proporcional en los insumos. Si esta suma es 1, entonces existen rendimientos constantes a estaca, es decir, la duplicación de los insumos duplicará el producto, la triplicación de los insumos triplicará el producto y así sucesivamente. Si la suma es menor que 1, existen rendimientos decrecientes a escala -duplicando los insumos, el producto crecerá en menos del doble. Finalmente, si la suma es mayor que 1, habrá rendimientos crecientes a escala- la duplicación de los insumos aumentará el producto en más del doble.

Ejemplo La función de producción COBB-Douglas: más sobre la forma funcional (I)

En la sección 6.4 se demostró cómo, mediante transformaciones apropiadas, se pueden convertir relaciones no lineales en relaciones lineales de tal forma que podamos trabajar dentro del marco del modelo clásico de regresión lineal. Las diversas transformaciones analizadas allí en el contexto del caso de dos variables pueden ampliarse fácilmente a los modelos de regresión múltiple. Se demostraron las transformaciones en esta sección haciendo uso de una extensión multivariable del modelo log-lineal de dos variables, pueden encontrarse otras en los ejercicios y en los ejemplos ilustrativos estudiados en el resto de este blog. El ejemplo especifíco que tratamos es la conocida función de producción de Cobb-Douglas de la teoría de producción.


La función de producción de Cobb-Douglas, en su forma estocástica, puede expresarse como

Interpretación de los coeficientes de correlación simple y parcial (VI)

Antes de continuar, obsérvese las siguientes relaciones entre el R², los coeficientes de correlación simple y los coeficientes de correlación parcial:

Para terminar esta sección, considérese lo siguiente: Se planteó anteriormente que R² no disminuirá si se introduce una variable explicativa adicional en el modelo, lo cual puede verse claramente de (7.9.7). Esta ecuación afirma que la proporción de la variación en Y explicada por X2 y X3 conjuntamente es la suma de dos partes: la parte explicada solamente por X2 (=r²12) y la parte no explicada por X2 (=1 - r²12) veces la proporción que es explicada por X3 después de mantener constante la influencia de X2. Ahora R² > r²12 siempre que r²13.2 > 0. En el peor de los casos, r²13.2 será cero, en cuyo caso R² = r²12.

Interpretación de los coeficientes de correlación simple y parcial (V)

5. Supóngase que r13 = r23 = 0. Significa esto que r12 es también cero? La respuestas es obvia y  se desprende de (7.9.5). El hecho de que Y y X3 y X2 y X3 no estén correlacionadas no significa que Y y X2 no lo estén.

A propósito, obsérvese que la expresión r²12.3 puede denominarse el coeficiente de determinanción parcial y puede ser interpretado como la proporción de la variación en Y no explicada por la variable X3 que ha sido explicada por la inclusión de X2 en el modelo (véase ejercicio 7.6) Conceptualmente es similar a R².

Interpretación de los coeficientes de correlación simple y parcial (IV)

4. En el caso de dos variables, hemos viso que r² se encuentra entre 0 y 1. La misma propiedad se cumple para los coeficientes de correlación parcial cuadráticos. Haciendo uso de este hecho, el lector debe verificar que es posible obtener la siguiente expresión a partir de (7.9.2)

0 ≤ r²12 + r²13 + r²23 - 2r12r13r23 ≤ 1

que da las interrelaciones entre los tres coeficientes de correlación de orden cero. Expresiones similares pueden derivarse a partir e las ecuaciones (7.9.3) y (7.9.4).

Interpretación de los coeficientes de correlación simple y parcial (III)

3. Los términos r12.3 y r12 (y comparaciones similares) no necesitan tener el mismo signo.

Interpretación de los coeficientes de correlación simple y parcial (II)

2. Si r12 = 0 y r13 y r23 son diferentes de cero y tienen el mismo signo, r12.3 será negativo, mientras que si son de signos opuestos, será positivo. Un ejemplo hará más claro este punto. Sea Y = producto de la cosecha, X2 = la lluvia y X3 = la temperatura. Supóngase que r12 = 0, es decir, no hay asociación entre el producto de la cosecha y la lluvia. Téngase en cuenta, además que r13 es positivo y 323 es negativo. Entonces, como lo indica (7.9.2). r12.3 será positivo; es decir, manteniendo la temperatura constante, existe una asociación positiva entre la cosecha y la lluvia. Sin embargo, este resultado, aparentemente paradójico, no es sorprendente. Puesto que la temperatura X3 afecta la producción Y y también afecta la lluvia X2 con el fin de encontrar la relación neta entre producto de la cosecha y lluvia, debemos eliminar la influencia de la "molesta" variable temperatura. Este ejemplo muestra cómo el coeficiente de correlación simple puede llevar a resultados equivocados.

Interpretación de los coeficientes de correlación simple y parcial (I)

En el caso de dos variables, el r simple tenía un significado directo: medía el grado de asociación (líneal) (no causación) entre la variable dependiente Y y la variable explicativa X. Pero, una vez se sale del caso de dos variables, se debe prestar cuidadosa atención a la interpretación del coeficiente de correlación simple. De (7.9.2), por ejemplo, se observa lo siguiente:

1. Aún si r12 = 0, r12.3 no será cero a menos que r13 o r23 o ambos sean cero.

Coeficientes de Correlación parcial - Explicación de los coeficientes de correlación simple y parcial (III)

En realidad, no es necesario pasar por el procedimiento de tres etapas para calcular las correlaciones parciales porque éstas pueden obtenerse fácilmente de los coeficientes de correlación simple o de orden cero de la manera siguiente (paara las demosatraciones, véase los ejercicios).

Las correlaciones parciales dadas en las ecuaciones (7.9.2) (7.9.4) se denominan coeficientes de correlación de primero orden. Por orden se quiere decir el número de subíndices secundarios. Así r12.34 sería el coeficiente de correlación de orden dos, r12.345 sería el coeficiente de correlación de orden tres, y así sucesivamente. Como se anoto anteriormente, r12, r13 y así sucesivamente se denominan correlaciones simples de orden cero. La interpretación de r12.34, por ejemplo es que éste da el coeficiente de correlación entre Y y X2, manteniendo constante X3 y X4.

Coeficientes de Correlación parcial - Explicación de los coeficientes de correlación simple y parcial (II)

Una forma de calcular los coeficientes de correlación parcial anteriores es la siguiente: Recuérdese el procedimiento de tres etapas estudiado en la sección 7.3. En la tercera etapa se realiza la regresión de ûti sobre û2i que eran Yi y X2i depurados, es decir depurados de la influencia lineal de X3. Por consiguiente, si ahora se calcula el coeficiente de correlación simple entre û1i y û2i, se debe obtener r12.3 porque la variable X3 se mantiene ahora constante. Simbólicamente.

donde se hace uso del hecho de que ût = û2 = 0 Por qué?

Del análisis anterior, es claro que la correlación parcial entre Y y X2, manteniendo X3 constante, no es otra cosa que el coeficiente de correlación simple (o de orden cero) entre los residuales de la regresión de Y sobre X3 y de X2 sobre X3, respectivamente. Los términos r13.2 y r23.1 deben ser interpretados en forma similar.