Estimación puntual: sesgo, eficiencia y consistencia

1. La pregunta

El INE quiere estimar la tasa de paro. Tiene una muestra de 60 000 personas. Podría usar la proporción de parados en la muestra. O podría usar la proporción entre los menores de 55 años, o una media ponderada por comunidades, o la mediana de las proporciones provinciales.

Todas son fórmulas legítimas y todas dan números distintos. ¿Con qué criterio se elige una? Este tema da los tres criterios que usa toda la estadística —insesgadez, eficiencia y consistencia— y explica por qué la media muestral no es la respuesta obvia sino la respuesta demostrablemente buena.

2. Intuición

Un estimador es como una diana en la que no ves dónde has dado: solo puedes evaluar tu puntería por las propiedades del método, no por el resultado de un tiro.

Insesgadez: apuntar al centro. Si repitieras el muestreo infinitas veces, ¿el promedio de tus estimaciones daría en el blanco? Un estimador sesgado desvía sistemáticamente hacia un lado: por muchos datos que acumules, no se corrige. Es el error de método, no de suerte.

Eficiencia: agrupar los tiros. Entre dos estimadores que apuntan al centro, el mejor es el que menos se dispersa. Uno con varianza grande puede dar muy lejos del blanco en una muestra concreta, aunque en promedio acierte. Y solo tienes una muestra: te juegas todo a un tiro.

Consistencia: mejorar con más datos. Un estimador consistente se acerca al valor real cuando la muestra crece. Es un mínimo exigible: si añadir datos no ayuda, algo va mal.

El compromiso. A veces un estimador con un pequeño sesgo tiene mucha menos varianza que uno insesgado. En ese caso puede ser preferible, y por eso existe una medida que combina las dos cosas: el error cuadrático medio. Es el mismo dilema que reaparecerá en el tema 33 al decidir si conviene omitir una variable.

3. Formalización

Planteamiento

Se quiere conocer un parámetro poblacional $\theta$ —puede ser $\mu$, ${\sigma }^2$, $p$ o cualquier otra constante desconocida—.

Un estimador $\hat{\theta }$ es una función de la muestra, y por tanto una variable aleatoria con su propia distribución. Una estimación es el valor concreto que toma en una muestra dada.

La distinción importa: $\hat{\theta }$ es aleatorio y tiene propiedades; la estimación es un número y no las tiene.

Sesgo

$$\mathrm{Sesgo}(\hat{\theta })=E[\hat{\theta }]-\theta$$

$\hat{\theta }$ es insesgado si su sesgo es cero, es decir, si $E[\hat{\theta }]=\theta$.

Resultados que hay que conocer:

$$E[\bar{X}]=\mu \text{siempre: }\bar{X}\text{ es insesgado}$$ $$E\left[\frac{1}{n-1}\sum (X_i-\bar{X}{)}^2\right]={\sigma }^2\text{la cuasivarianza es insesgada}$$ $$E\left[\frac{1}{n}\sum (X_i-\bar{X}{)}^2\right]=\frac{n-1}{n}{\sigma }^2<{\sigma }^2\text{la varianza con }n\text{ subestima}$$

De ahí sale el $n-1$. No es una convención: al usar $\bar{X}$ en lugar del verdadero $\mu$, las desviaciones salen artificialmente pequeñas —$\bar{X}$ es, por construcción, el punto que minimiza $\sum (x_i-a{)}^2$— y dividir por $n-1$ corrige exactamente ese defecto. El $n-1$ son los grados de libertad: una vez conocida $\bar{X}$ y $n-1$ desviaciones, la última queda determinada porque suman cero.

Aviso. $s^2$ es insesgado para ${\sigma }^2$, pero $s$ no lo es para $\sigma$, porque la raíz cuadrada es cóncava y la desigualdad de Jensen del tema 22 hace que $E[s]<\sigma$. El sesgo es pequeño y suele ignorarse.

Eficiencia

Entre dos estimadores insesgados, es más eficiente el de menor varianza.

Eficiencia relativa:

$$\mathrm{ER}({\hat{\theta }}_1,{\hat{\theta }}_2)=\frac{\mathrm{Var}({\hat{\theta }}_2)}{\mathrm{Var}({\hat{\theta }}_1)}$$

Un valor mayor que 1 indica que el primero es mejor.

Cota de Cramér-Rao. Bajo condiciones de regularidad, existe una cota inferior para la varianza de cualquier estimador insesgado. Un estimador que la alcanza se llama eficiente en sentido absoluto, y no puede mejorarse. La media muestral la alcanza cuando la población es normal.

Error cuadrático medio

Permite comparar estimadores aunque no sean insesgados:

$$\mathrm{ECM}(\hat{\theta })=E\left[(\hat{\theta }-\theta {)}^2\right]=\mathrm{Var}(\hat{\theta })+{\left[\mathrm{Sesgo}(\hat{\theta })\right]}^2$$

Descompone el error en dos fuentes: la variabilidad y la desviación sistemática. Un estimador ligeramente sesgado pero mucho más estable puede tener menor ECM, y en la práctica ser preferible.

Consistencia

$\hat{\theta }$ es consistente si converge en probabilidad a $\theta$:

$$\underset{n\to \infty }{\lim }P\left(|\hat{\theta }-\theta |>\epsilon \right)=0\text{para todo }\epsilon >0$$

Condición suficiente práctica: si el sesgo tiende a cero y la varianza tiende a cero, el estimador es consistente. Equivalentemente, si $\mathrm{ECM}\to 0$.

$\bar{X}$ es consistente porque es insesgado y $\mathrm{Var}(\bar{X})={\sigma }^2/n\to 0$.

Un estimador puede ser sesgado y consistente (el sesgo desaparece con $n$), o insesgado e inconsistente (si su varianza no baja). La consistencia es una propiedad asintótica; la insesgadez vale para cualquier $n$.

Métodos de construcción

Método de los momentos. Se igualan los momentos muestrales a los poblacionales y se despeja. Sencillo, siempre aplicable, pero no siempre eficiente.

Máxima verosimilitud. Se elige el valor del parámetro que hace más probable haber observado la muestra que se observó. Se maximiza la función de verosimilitud

$$L(\theta )=\prod _{i=1}^{n}f(x_i;\theta )$$

o, más cómodo, su logaritmo $\ell (\theta )=\ln L(\theta )$, que convierte el producto en suma y se deriva con las herramientas del tema 5. Sus estimadores son consistentes y asintóticamente eficientes, y es el método que sustenta los modelos logit y probit del tema 34.

Mínimos cuadrados. Se minimiza la suma de cuadrados de las discrepancias. Es el método de toda la econometría del bloque 7.

4. Ejemplo económico resuelto

Problema. Se quiere estimar el gasto medio $\mu$ en I+D de las empresas de un sector. Se toma una muestra aleatoria de $n$ empresas y se proponen tres estimadores:

$${\hat{\mu }}_1=\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$$ $${\hat{\mu }}_2=X_1\text{(el gasto de la primera empresa)}$$ $${\hat{\mu }}_3=\frac{1}{n+2}\sum _{i=1}^n{X}_i$$

Se sabe que la población tiene media $\mu$ y varianza ${\sigma }^2$. Analiza los tres con $n=25$ y $\sigma =40$ (miles de €).

Paso 1. Insesgadez.

$$E[{\hat{\mu }}_1]=\frac{1}{n}\sum E[X_i]=\frac{1}{n}(n\mu )=\mu ⟹\text{insesgado}$$ $$E[{\hat{\mu }}_2]=E[X_1]=\mu ⟹\text{insesgado}$$ $$E[{\hat{\mu }}_3]=\frac{1}{n+2}(n\mu )=\frac{n}{n+2}\mu =\frac{25}{27}\mu =0,926\mu$$ $$\mathrm{Sesgo}({\hat{\mu }}_3)=0,926\mu -\mu =-0,074\mu ⟹\text{sesgado a la baja}$$

Sorpresa parcial: el segundo estimador —usar una sola empresa e ignorar las otras 24— es insesgado. La insesgadez, por sí sola, no basta para elegir.

Paso 2. Varianzas.

$$\mathrm{Var}({\hat{\mu }}_1)=\frac{{\sigma }^2}{n}=\frac{1600}{25}=64$$ $$\mathrm{Var}({\hat{\mu }}_2)={\sigma }^2=1600$$ $$\mathrm{Var}({\hat{\mu }}_3)=\frac{n{\sigma }^2}{(n+2{)}^2}=\frac{25\times 1600}{729}=54,87$$

Paso 3. Eficiencia relativa entre los insesgados.

$$\mathrm{ER}({\hat{\mu }}_1,{\hat{\mu }}_2)=\frac{1600}{64}=25$$

La media muestral es 25 veces más eficiente que usar una sola observación, que es exactamente $n$. Tiene sentido: es el efecto ${\sigma }^2/n$ del tema 24.

Paso 4. Comparar con el sesgado, vía ECM. Supongamos $\mu =300$ mil € para poner números.

$$\mathrm{ECM}({\hat{\mu }}_1)=64+0=64$$ $$\mathrm{ECM}({\hat{\mu }}_3)=54,87+(-0,074\times 300{)}^2=54,87+(-22,2{)}^2=54,87+492,84=547,71$$

El tercero es mucho peor, pese a tener menor varianza: el sesgo, al elevarse al cuadrado, domina completamente.

Paso 5. ¿Cuándo compensaría un estimador sesgado? El tercero sería mejor si

$$\frac{n{\sigma }^2}{(n+2{)}^2}+{\left(\frac{-2\mu }{n+2}\right)}^2<\frac{{\sigma }^2}{n}$$

Con $n=25$, la condición se reduce a $492,84<64-54,87=9,13$ para el sesgo al cuadrado, es decir,

$${\left(\frac{2\mu }{27}\right)}^2<9,13⟹\frac{2\mu }{27}<3,02⟹\mu <40,8$$

Solo si la media fuera muy pequeña en relación con $\sigma$ compensaría. Con $\mu =300$ y $\sigma =40$, ni de lejos.

Paso 6. Consistencia.

$$\mathrm{Var}({\hat{\mu }}_1)=\frac{{\sigma }^2}{n}\to 0\text{y sesgo }0⟹\text{consistente}$$ $$\mathrm{Var}({\hat{\mu }}_2)={\sigma }^2\text{ no depende de }n⟹\text{NO consistente}$$ $$\mathrm{Sesgo}({\hat{\mu }}_3)=\frac{-2\mu }{n+2}\to 0,\mathrm{Var}\to 0⟹\text{consistente}$$

El caso más instructivo es el segundo: es insesgado pero no consistente. Por muchos datos que se recojan, si solo se mira la primera empresa la estimación no mejora nunca. La insesgadez no garantiza nada sobre la calidad práctica.

Conclusión. El ganador es $\bar{X}$: insesgado, el más eficiente de los insesgados, y consistente. No es la elección obvia por costumbre, sino la elección demostrablemente mejor. Y bajo normalidad alcanza la cota de Cramér-Rao, de modo que ningún estimador insesgado puede superarla.

5. Errores típicos

Confundir estimador y estimación. El estimador es la fórmula, es aleatoria y tiene propiedades. La estimación es el número que sale de una muestra concreta y no tiene propiedades: no se puede decir «esta estimación es insesgada».

Creer que insesgado implica bueno. El ejemplo lo desmonta: $X_1$ es insesgado y es malísimo. Hay que mirar también la varianza.

Creer que insesgado implica consistente, o al revés. Son propiedades independientes. $X_1$ es insesgado e inconsistente; ${\hat{\mu }}_3$ es sesgado y consistente.

Dividir la varianza muestral por $n$ en inferencia. El divisor $n-1$ es lo que la hace insesgada. Con $n$ grande da casi igual; con $n=8$, la subestimación es del 12,5 %.

Olvidar elevar el sesgo al cuadrado en el ECM. La fórmula es $\mathrm{Var}+{\mathrm{Sesgo}}^2$. Sumar el sesgo sin elevar da unidades incoherentes.

Juzgar un estimador por lo que dio en una muestra. No se puede: no se conoce $\theta$. Se juzga por sus propiedades bajo muestreo repetido, que son teóricas.

Suponer que máxima verosimilitud da estimadores insesgados. Son consistentes y asintóticamente eficientes, pero pueden tener sesgo con muestras pequeñas. El estimador máximo-verosímil de ${\sigma }^2$ es precisamente el que divide por $n$: sesgado.

6. Ejercicios

Ejercicio 1 · Comprobar insesgadez

básico

De una población con media $\mu$ y varianza ${\sigma }^2$ se toma una muestra de 3 observaciones. Se propone

$${\hat{\mu }}_A=\frac{X_1+X_2+X_3}{3},{\hat{\mu }}_B=\frac{X_1+2X_2+X_3}{4}$$

Comprueba si son insesgados y cuál es más eficiente.

Ver solución

Insesgadez.

$$E[{\hat{\mu }}_A]=\frac{\mu +\mu +\mu }{3}=\mu ✓$$$$E[{\hat{\mu }}_B]=\frac{\mu +2\mu +\mu }{4}=\frac{4\mu }{4}=\mu ✓$$

Los dos son insesgados. Lo son porque en ambos los coeficientes suman 1, que es la condición general: $\sum a_i{X}_i$ es insesgado si y solo si $\sum a_i=1$.

Eficiencia. Con observaciones independientes, $\mathrm{Var}(\sum a_i{X}_i)={\sigma }^2\sum a_i^2$:

$$\mathrm{Var}({\hat{\mu }}_A)={\sigma }^2\left(\frac{1}{9}+\frac{1}{9}+\frac{1}{9}\right)=\frac{{\sigma }^2}{3}=0,3333{\sigma }^2$$$$\mathrm{Var}({\hat{\mu }}_B)={\sigma }^2\left(\frac{1}{16}+\frac{4}{16}+\frac{1}{16}\right)=\frac{6}{16}{\sigma }^2=0,375{\sigma }^2$$

${\hat{\mu }}_A$ es más eficiente, con una eficiencia relativa de $0,375/0,3333=1,125$.

El resultado general. Entre todos los estimadores lineales insesgados, el de mínima varianza es el que reparte los pesos por igual: minimizar $\sum a_i^2$ sujeto a $\sum a_i=1$ da $a_i=1/n$ para todo $i$. Es un problema de Lagrange del tema 14, y su solución es exactamente la media muestral.

Ejercicio 2 · Por qué n menos 1

básico

Una muestra de 5 datos da: $12,15,11,14,13$.

1. Calcula la varianza dividiendo por $n$ y por $n-1$.
2. Si la varianza poblacional real fuera ${\sigma }^2=2,5$, ¿cuál estaría más cerca en promedio?

Ver solución

1.

$$\bar{x}=\frac{12+15+11+14+13}{5}=\frac{65}{5}=13$$$$\sum (x_i-\bar{x}{)}^2=1+4+4+1+0=10$$$$S^2=\frac{10}{5}=2,0s^2=\frac{10}{4}=2,5$$

2. El estimador con divisor $n$ tiene esperanza

$$E[S^2]=\frac{n-1}{n}{\sigma }^2=\frac{4}{5}(2,5)=2,0$$

Subestima sistemáticamente en un 20 %. El de divisor $n-1$ tiene esperanza exactamente ${\sigma }^2=2,5$.

En esta muestra concreta los valores coinciden con las esperanzas, lo cual es casualidad. Lo que no es casualidad es que en promedio sobre muchas muestras el primero se quede corto y el segundo acierte.

Por qué ocurre. Las desviaciones se calculan respecto de $\bar{x}$, no del verdadero $\mu$. Y $\bar{x}$ es, por construcción, el valor que minimiza $\sum (x_i-a{)}^2$: la suma de cuadrados respecto de la media muestral es siempre menor o igual que respecto de cualquier otro punto, incluido $\mu$. Dividir por $n-1$ en lugar de $n$ compensa exactamente esa reducción.

Ejercicio 3 · Estimador sesgado que gana

medio

Para estimar la varianza ${\sigma }^2$ de una población normal se comparan

$${\hat{\sigma }}_A^2=\frac{1}{n-1}\sum (X_i-\bar{X}{)}^2,{\hat{\sigma }}_B^2=\frac{1}{n+1}\sum (X_i-\bar{X}{)}^2$$

Se sabe que, con población normal, $\mathrm{Var}\left(\sum (X_i-\bar{X}{)}^2\right)=2(n-1){\sigma }^4$.

Calcula el ECM de cada uno con $n=10$ y di cuál es preferible.

Ver solución

Sea $Q=\sum (X_i-\bar{X}{)}^2$, con $E[Q]=(n-1){\sigma }^2$ y $\mathrm{Var}(Q)=2(n-1){\sigma }^4$. Con $n=10$: $E[Q]=9{\sigma }^2$ y $\mathrm{Var}(Q)=18{\sigma }^4$.

Estimador A ($÷9$):

$$E[{\hat{\sigma }}_A^2]=\frac{9{\sigma }^2}{9}={\sigma }^2⟹\text{sesgo }=0$$$$\mathrm{Var}({\hat{\sigma }}_A^2)=\frac{18{\sigma }^4}{81}=0,2222{\sigma }^4$$$${\mathrm{ECM}}_A=0,2222{\sigma }^4$$

Estimador B ($÷11$):

$$E[{\hat{\sigma }}_B^2]=\frac{9{\sigma }^2}{11}=0,8182{\sigma }^2⟹\text{sesgo }=-0,1818{\sigma }^2$$$$\mathrm{Var}({\hat{\sigma }}_B^2)=\frac{18{\sigma }^4}{121}=0,1488{\sigma }^4$$$${\mathrm{ECM}}_B=0,1488{\sigma }^4+(0,1818{\sigma }^2{)}^2=0,1488{\sigma }^4+0,0331{\sigma }^4=0,1818{\sigma }^4$$

Comparación:

	Sesgo	Varianza	ECM
A (insesgado, $÷n-1$)	0	0,2222	0,2222
B (sesgado, $÷n+1$)	$-0,18{\sigma }^2$	0,1488	0,1818

El estimador sesgado tiene menor ECM: 0,182 frente a 0,222, un 18 % mejor.

Interpretación. B subestima sistemáticamente la varianza, pero lo hace de forma tan estable que su error total es menor. Si el criterio es «acercarse lo más posible a ${\sigma }^2$ en una muestra concreta», B es preferible.

Por qué se usa A de todas formas. Tres razones:

• La insesgadez tiene valor cuando se agregan muchas estimaciones: los errores se cancelan si no hay sesgo, y se acumulan si lo hay.
• Toda la teoría de intervalos de confianza y contrastes del bloque 6 está construida sobre $s^2$, y cambiar de estimador obligaría a rehacerla.
• La ventaja de B se desvanece con $n$ grande: con $n=100$ la diferencia de ECM baja al 2 %.

Y el aviso importante: la elección de B depende de conocer la distribución (normal) y la forma del sesgo. Con datos reales que no sean normales, esa ventaja puede evaporarse. Este ejercicio muestra que el dilema sesgo-varianza es real, no que haya que abandonar el $n-1$.

Ejercicio 4 · Máxima verosimilitud

avanzado

El tiempo entre averías de una máquina sigue una distribución exponencial de parámetro $\lambda$, con densidad $f(t)=\lambda e^{-\lambda t}$ para $t>0$ y media $1/\lambda$.

Se observan 5 tiempos: $2,1;3,4;1,8;5,2;2,5$ (en meses).

1. Obtén el estimador de máxima verosimilitud de $\lambda$.
2. Aplícalo a los datos.
3. ¿Es insesgado?

Ver solución

1. Función de verosimilitud. Al ser las observaciones independientes, la densidad conjunta es el producto:

$$L(\lambda )=\prod _{i=1}^n\lambda e^{-\lambda t_i}={\lambda }^n{e}^{-\lambda \sum t_i}$$

Logaritmo —que convierte el producto en suma y no cambia dónde está el máximo, porque $\ln$ es creciente—:

$$\ell (\lambda )=n\ln \lambda -\lambda \sum _{i=1}^n{t}_i$$

Condición de primer orden, con las herramientas del tema 5:

$$\frac{d\ell }{d\lambda }=\frac{n}{\lambda }-\sum t_i=0⟹\hat{\lambda }=\frac{n}{\sum t_i}=\frac{1}{\bar{t}}$$

Condición de segundo orden:

$$\frac{d^2\ell }{d{\lambda }^2}=-\frac{n}{{\lambda }^2}<0✓$$

Negativa para todo $\lambda >0$: la log-verosimilitud es estrictamente cóncava y el punto crítico es el máximo global (tema 13).

El estimador máximo-verosímil es el inverso de la media muestral. Tiene sentido: como $E[T]=1/\lambda$, es natural estimar $\lambda$ por $1/\bar{t}$.

2. Aplicación.

$$\sum t_i=2,1+3,4+1,8+5,2+2,5=15,0$$$$\bar{t}=3,0\text{ meses}⟹\hat{\lambda }=\frac{1}{3}=0,3333\text{ averıˊas/mes}$$

Una avería cada tres meses de media, o cuatro al año.

3. ¿Es insesgado? No.

$\bar{T}$ sí es insesgado para $1/\lambda$, porque $E[\bar{T}]=E[T]=1/\lambda$. Pero el estimador es $1/\bar{T}$, y la función $g(x)=1/x$ es convexa para $x>0$. Por la desigualdad de Jensen del tema 22:

$$E\left[\frac{1}{\bar{T}}\right]>\frac{1}{E[\bar{T}]}=\lambda$$

El estimador sobreestima $\lambda$ sistemáticamente.

De hecho, se puede demostrar que para la exponencial

$$E[\hat{\lambda }]=\frac{n}{n-1}\lambda$$

Con $n=5$, sobreestima un 25 %. El estimador insesgado sería $\frac{n-1}{n}\hat{\lambda }=\frac{4}{5}(0,3333)=0,2667$.

Pero es consistente, porque el factor $n/(n-1)\to 1$: el sesgo desaparece al crecer la muestra. Con $n=100$ sería solo del 1 %.

La moraleja. Máxima verosimilitud garantiza consistencia y eficiencia asintótica, no insesgadez en muestras pequeñas. Es la razón de que en econometría se distinga cuidadosamente entre propiedades de muestras finitas y propiedades asintóticas, distinción que reaparece en el tema 34 con las variables instrumentales.

7. Qué desbloquea

Necesitas antes:

• Teorema central del límite y distribuciones muestrales — tema 24

Te abre la puerta a:

• Intervalos de confianza para distintos parámetros — tema 26

8. Recursos externos

• Inferencia Estadística — Luis Rincón (UNAM). A partir de aquí sí procede: los vídeos del canal LuisRinconUNAM cubren estimación puntual con el rigor de un curso universitario. Exigían el cálculo de probabilidades del bloque 5, que ya está hecho.
• Sanabria, Comprendiendo la Estadística Inferencial (PDF libre). Presenta las propiedades de los estimadores con intuición antes que con demostraciones.
• Apuntes UGR — Estadística II, tema 4. Compacto y bien organizado para repasar sesgo, eficiencia y consistencia.
• Gretl. Simular muestras repetidas de una población conocida y ver el histograma de las estimaciones es la forma más directa de entender qué significa «insesgado»: el histograma se centra en el valor real.