10.4.2.- Pruebas de los Coeficientes de Regresión Individuales y de Grupos de Coeficientes

Muchas veces el interés se centra en probar hipótesis sobre los coeficientes de regresión individuales. Estas pruebas serían útiles para determinar el valor de cada uno de los regresares del modelo de regresión. Por ejemplo, el modelo podría ser más eficaz con la inclusión de variables adicionales o quizá con la eliminación de una o más de las variables que están ya en el modelo.

Agregar una variable al modelo de regresión ocasiona siempre que la suma de cuadrados de regresión se incremente y que la suma de cuadrados del error se decremente. Es necesario decidir si el incremento de la suma de cuadrados de regresión es suficiente para garantizar el uso de la variable adicional en el modelo. Además, agregar una variable no importante al modelo en realidad puede incrementar el cuadrado medio del error, reduciéndose así la utilidad del modelo.

Las hipótesis para probar la significación de cualquier coeficiente de regresión individual, por ejemplo β_j, son

Si H₀:β_j = 0 no se rechaza, entonces esto indica que x_j puede eliminarse del modelo. El estadístico de prueba para esta hipótesis es

donde C_jj es el elemento de la diagonal de (X'X)^-1 correspondiente a β_j. La hipótesis nula H₀:β_j = 0 se rechazasi |t₀|>t_{α/2, n-k-1}.Observe que se trata en realidad de una prueba parcial o marginal, ya que el coeficiente de regresión β_j depende de todos los demás regresares x_i(i≠j) que están en el modelo.

Al denominador de la ecuación 10-28, √(σ²C_jj),se le llama con frecuencia error estándar (se) del coeficiente de regresión β_j. Es decir,

Por lo tanto, una manera equivalente de escribir el estadístico de prueba de la ecuación 10-28 es

La mayoría de los programas de computadora de regresión proporcionan la prueba t para cada parámetro del modelo. Por ejemplo, considere la tabla 10-4, la cual contiene la salida de Minitab para el ejemplo 10-1. En la sección superior de esta tabla se da la estimación de mínimos cuadrados de cada parámetro, el error estándar, el estadístico t y el valor P correspondiente. Se concluiría que ambas variables, la temperatura y la velocidad de alimentación, contribuyen de manera significativa en el modelo.

También puede examinarse directamente la contribución de una variable particular, por ejemplo x_j, ala suma de cuadrados de regresión, dado que otras x_i variables (i≠j) están incluidas en el modelo. El procedimiento para hacer esto es la prueba general de la significación de la regresión o, como se denomina con frecuencia, el método de suma de cuadrados extra. Este procedimiento también puede usarse para investigar la contribución de un subconjunto de los regresores al modelo. Considere el modelo de regresión con k regresores:

donde y es (n x 1), X es(n x p), β es(p x 1), Ɛ es(n x 1) y p =k+ 1. Querría determinarse si el subconjunto de regresares x₁, x₂, ..., x_r (r < k) contribuye significativamente al modelo de regresión. Sea que se haga la partición del vector de los coeficientes de regresión de la siguiente manera:

donde β₁ es (r x 1) y β₂ es [(p - r) X 1]. Quieren probarse las hipótesis

El modelo puede escribirse como

donde X₁ representa las columnas de X asociadas con β₁ y X₂ representa las columnas de X asociadas con β₂.

Para el modelo completo (incluyendo tanto a β₁como a β₂) se sabe que β = (X'X)^-1X'y. Además, la suma de cuadrados de regresión para todas las variables incluyendo la ordenada al origen es 

y

A SS_R (β) se le llama la suma de cuadrados de regresión debida a β. Para encontrar la contribución de los términos en β₁ a la regresión, se ajusta el modelo suponiendo que la hipótesis nula H₀:β₁ = 0 es verdadera. 

El modelo reducido se encuentra a partir de la ecuación 10-32 con β₁ = 0:

El estimador de mínimos cuadrados de β₂ es β'₂ = (X'₂X₂)^-1X'₂y, y

La suma de cuadrados de regresión debida a β₁ dado que β₂ está ya en el modelo es

Esta suma de cuadrados tiene r grados de libertad. Es la "suma de cuadrados extra" debida a β₁. Observe que SS_R(β₁|β₂) es el incremento en la suma de cuadrados de regresión debido a la inclusión de las variables x₁, x₂, ..., x_r en el modelo.

Ahora bien, SS_R(β₁|β₂) es independiente de MS_E, y la hipótesis nula β₁ = 0 puede probarse con el estadístico

Si F₀ > F_α,r,n-p, se rechaza H₀, y se concluye que al menos uno de los parámetros en β₁ es diferente de cero y, por consiguiente, al menos una de las variables x₁, x₂, ..., x_r en X₁ contribuye significativamente al modelo de regresión. Algunos autores llaman a la prueba de la ecuación 10-36 la prueba F parcial.

La prueba F parcial es muy útil. Puede usarse para medir la contribución de x_j como si fuera la últimavariable que se agregó al modelo, calculando

Éste es el incremento en la suma de cuadrados de regresión debido a que se agrega x_j a un modelo que ya contiene a x₁, ..., x_j-1, x_j+1, ..., x_k. Observe que la prueba F parcial de una sola variable x_j es equivalente a la prueba t de la ecuación 10-28. Sin embargo, la prueba F parcial es un procedimiento más general por cuanto puede medir el efecto de conjuntos de variables.

EJEMPLO 1O-6

Considere los datos de la viscosidad del ejemplo 10-1. Suponga que se quiere investigarla contribución de la variable x₂ (velocidad de alimentación) al modelo. Es decir, las hipótesis que quieren probarse son

Esto requerirá la suma de cuadrados extra debida a β₂, o

Entonces, por la tabla 10-4, donde se probó la significación de la regresión, se tiene

a la que se llamó en la tabla la suma de cuadrados del modelo. Esta suma de cuadrados tiene dos grados de libertad.

El modelo reducido es

El ajuste de mínimos cuadrados de este modelo es

y la suma de cuadrados de regresión para este modelo (con un grado de libertad) es

Observe que SS_R(β₁|β₀) se muestra en la parte inferior de la salida de Minitab de la tabla 10-4 bajo el encabezado "Seq SS". Por lo tanto,

con 2-1 = 1 grado de libertad. Éste es el incremento en la suma de cuadrados de regresión que resulta de agregar x₂ a un modelo que contenía ya a x₁, yse muestra en la parte inferior de la salida de Minitab en la tabla 10-4. Para probar H₀:β₂ = 0, por el estadístico de prueba se obtiene

Observe que en el denominador de F₀ se usa MS_E del modelo completo (tabla 10-4). Entonces, puesto que F_{0.05, 1, 13} = 1.67, se rechazaría H₀:β₂ = 0 y se concluiría que x₂ (velocidad de alimentación) contribuye significativamente al modelo.

Debido a que esta prueba F parcial incluye un solo regresor, es equivalente a la prueba t porque el cuadrado de una variable aleatoria t con v grados de libertad es una variable aleatoria F con 1 y v grados de libertad. Para ver esto, observe, por la tabla 10-4, que el estadístico t para H₀:β₂ = 0 dio como resultado t₀ = 3.5203 y que t²₀ = (3.5203)²=12.3925 = F₀.