Forum Docentis - Sección IN, Vol. 2024, Núm. 3 (2024)
ISSN: 2952-3052
doi: https://doi.org/10.33732/FD.v2024.n3.20
Recepción: 27/09/2024, Aceptación: 15/10/2024

Introducción a la Estimación Puntual

Daniel Martín-Cudero^1*

¹ Departamento de Economía Financiera y Contabilidad, Área de Didáctica de la Matemática, Universidad Rey Juan Carlos, Madrid.

^*Autor de correspondencia: daniel.mcudero@urjc.es

© 2025 Los autores. Publicado por URJC. Este es un artículo de acceso abierto con licencia CC BY.
Cómo citar este artículo: Martín-Cudero, D. Introducción a la Estimación Puntual. Forum Docentis - IN vol. 2025, (3), e20, 2025

Índice

Introducción

1. Conceptos básicos

1.1 Población y distribución teórica

1.1.1 Distribuciones discretas

1.1.2 Distribuciones continuas

1.2 Muestra aleatoria

1.3 Estadísticos y su distribución en el muestreo

2. Estimación puntual

2.1 Error Cuadrático Medio de un estimador

2.2 Propiedades de los estimadores

2.2.1 Estimador insesgado

2.2.2 Estimador eficiente

2.2.3 Estimador consistente

2.2.4 Estimador suficiente

2.3 Métodos de estimación

2.3.1 Método de los Momentos

2.3.2 Método de la Máxima Verosimilitud

3. Ejercicios

Referencias

Introducción

La Teoría de la Probabilidad es la rama de las matemáticas que estudia las propiedades de los fenómenos aleatorios, es decir, aquellos fenómenos en los que interviene el azar y, por tanto, no se pueden predecir, como por ejemplo, el lanzamiento de un dado o de una moneda. Los fenómenos aleatorios se obtienen a partir de experimentos llevados a cabo bajo el mismo conjunto aparente de condiciones iniciales, pudiéndose arrojar diferentes resultados en cada uno de ellos. En consecuencia, en Teoría de la Probabilidad, se dice que los resultados de un determinado fenómeno aleatorio tiene una distribución de probabilidad bien definida, capaz de aproximar de manera adecuada un conjunto de datos que se comportan de manera aleatoria.

Los procesos que se modelizan mediante distribuciones de probabilidad corresponden a leyes de probabilidad donde no se conocen, a priori, todos los parámetros que intervienen. Así, si se desea ahondar en la forma de adaptar una ley o modelo probabilístico concreto a cada situación aleatoria extraída de la realidad, va a ser necesario llevar a cabo observaciones del fenómeno que se pretende analizar. Por ejemplo, la mejor opción para inferir si un dado está bien equilibrado es realizar un número elevado de lanzamientos y verificar, a partir de los resultados obtenidos, la confirmación o invalidez de la corrección del dado; o, por ejemplo, si se desea estudiar la distribución de la estatura de los individuos de una población, no cabe más alternativa que conocer la altura de un gran número de ellos. En este sentido, disponer de un conjunto de observaciones acerca del fenómeno a estudiar, permite obtener información sobre su modelo de probabilidad. De esta forma, dejamos a un lado el campo de la Teoría de la Probabilidad para introducirnos en la rama de la Inferencia Estadística o Estadística Matemática.

Se pueden plantear diversos problemas de Inferencia Estadística en base a la situación aleatoria que se considere. Por ejemplo, estimar un intervalo numérico para un parámetro desconocido de una distribución (intervalos de confianza); aceptar o rechazar una afirmación acerca de la distribución de probabilidad del fenómeno estudiado (contrastes de hipótesis); o utilizar la información proporcionada por las observaciones para obtener una estimación acerca del parámetro desconocido de la distribución (estimación puntual). Es justamente esta última situación la que se va a desarrollar a lo largo de este documento, pero no sin antes repasar algunas nociones básicas que el lector debe conocer y tener bien asumidas para abordar adecuadamente los conceptos posteriores sobre estimación puntual que se van a explicar.

La estimación puntual es un tema que se imparte tanto en grados de Ciencias y Ciencias Sociales como en Ingeniería e Informática. Obviamente, suele introducirse de manera más o menos compleja, según los objetivos marcados para cada grado. Por esta razón, se ha optado por una presentación tradicional de los contenidos evitando, en la medida de lo posble, formalismos y tecnicismos que puedan dificultar la lectura a estudiantes con escaso rigor matemático. El objetivo es que estas notas puedan servir como referencia a estudiantes de cualquier grado en el que la Estadística Matemática forme parte de su progreso académico. Asimismo, para aquellos estudiantes que necesiten ampliar sus conocimientos sobre este tema, se proponen para su consulta algunas referencias algo más técnicas y formalistas (consultar [1-4]).

1. Conceptos básicos

1.1 Población y distribución teórica

Como ya se adelantó en la introducción, todo problema de Inferencia Estadística se origina por el desconocimiento del modelo de probabilidad que sigue un determinado fenómeno aleatorio. La distribución desconocida F de la variable aleatoria X involucrada en dicho problema se denomina distribución teórica; sin embargo, puesto que la Inferencia Estadística se utiliza para sacar conclusiones acerca de la distribución de alguna característica de los elementos de una población, también suele denominarse distribución de la población. Entiéndase el concepto población como el conjunto de los elementos sometidos a estudio o conjunto de posibles resultados de un experimento aleatorio.

El mayor o menor grado de desconocimiento acerca de la distribución de la población se manifiesta en los modelos de Inferencia a partir de la familia $\mathcal{F}$ de distribuciones que se postulan a ser la distribución teórica real. Nos centramos aquí en la familia compuesta por distribuciones dependientes de un parámetro θ (valor representativo de la población), de una o más dimensiones, que varía dentro de un subconjunto Θ de ℝ^k que denominamos espacio paramétrico. Esto es,

$$\mathcal{F}=\{F_{\mathrm{\Theta }}:\theta \in \mathrm{\Theta }\subset {\mathrm{ℝ}}^k\}.$$

Las familias de distribuciones que se presentan en los problemas de Inferencia Estadística que vamos a tratar aquí van a ser: familias de distribuciones discretas, si la variable aleatoria o característica poblacional que se desea estudiar es discreta, es decir, únicamente puede tomar valores finitos o contables (como el número de resultados al lanzar un dado, el número de incendios al año en una ciudad, etc.); o bien familias de distribuciones continuas, si la variable aleatoria o característica poblacional objeto de análisis es continua, es decir, que puede tomar infinitos valores dentro de un intervalo de números reales (como la estatura, el peso, la duración, etc.). Mientras que las primeras están caracterizadas por su función de probabilidad, las segundas lo están por su función de densidad.

Ambas son funciones matemáticas que describen la probabilidad de que una variable aleatoria X tome un determinado valor x. Escribiremos f_X(x) para definirlas, independientemente de que sean discretas o continuas. Así, si F_X(x) es la distribución teórica asociada a X, se tiene que:

■$F_X\left(x\right)=P(X\le x)=\sum _{k=0}^{\left[x\right]}{f}_X\left(k\right)$, si X es discreta.

■$F_X\left(x\right)=P(X\le x)={\int }_{-\mathrm{\infty }}^x{f}_X\left(t\right)dt$, si X es continua.

1.1.1 Distribuciones discretas

Las distribuciones de probabilidad para variables discretas más habituales son la binomial, la binomial negativa, la geométrica y la distribución de Poisson. En la tabla 1 se describen las funciones de probabilidad, media y varianza de cada una de ellas.

Distribución Binomial: Familia de distribuciones de probabilidad para variables aleatorias discretas que cuentan el número de éxitos que se obtienen al realizar n experimentos independientes y dicotómicos (con dos posibles resultados, éxito o fracaso) con una probabilidad de éxito p constante. Por ejemplo, una variable aleatoria que sigue este tipo de distribución puede ser el número de veces que se obtiene un número par al lanzar un dado n veces. El parámetro de la distribución binomial es θ = (n, p) y su espacio paramétrico $\mathrm{\Theta }=(0,\mathrm{\infty })\times [0,1]\subset \mathrm{\mathbb{N}}\times \mathrm{ℝ}$. Además, la suma de m variables aleatorias independientes $X_1,X_2,\dots ,X_m$ tal que $X_i~\mathrm{Bin}(n_i,p)$, es una variable aleatoria con distribución $\mathrm{Bin}(\sum _{i=1}^n{n}_i,p)$).

Distribución Binomial Negativa: Familia de distribuciones de probabilidad para variables aleatorias discretas que cuentan el número de fracasos que se observan antes de obtener un número fijo n de éxitos al realizar experimentos dicotómicos independientes, con una probabilidad de éxito p constante en cada uno. Por ejemplo, una variable aleatoria que sigue este tipo de distribución puede ser el número de tiros fallidos que se tienen antes de encestar 5 veces en una serie de lanzamientos al aro. El parámetro de la distribución binomial negativa es θ = (n, p) y su espacio paramétrico $\mathrm{\Theta }=(0,\mathrm{\infty })\times [0,1]\subset \mathrm{\mathbb{N}}\times \mathrm{ℝ}$.

Distribución Geométrica: Familia de distribuciones de probabilidad para variables aleatorias discretas que cuentan el número de fracasos antes del primer éxito cuando se realizan experimentos dicotómicos e independientes con una probabilidad de éxito p constante. Por ejemplo, una variable aleatoria que sigue este tipo de distribución puede ser el número de lanzamientos de un dado que se tienen que realizar hasta obtener el número 5. El parámetro de la distribución geométrica es $\theta =p$ su espacio paramétrico $\mathrm{\Theta }=[0,1]\subset \mathrm{ℝ}$. La distribución geométrica es un caso particular de la distribución binominal negativa con parámetro n = 1. Esto es, $\mathrm{Geo}\left(p\right)=BN(1,p)$. Además, la suma de n variables aleatorias independientes e idénticamente distribuidas $X_1,X_2,\dots ,X_n~\mathrm{Geo}\left(p\right)$, es una variable aleatoria con distribución BN(n, p).

Distribución de Poisson: Familia de distribuciones de probabilidad para variables aleatorias discretas que describen el número de veces que se repite un cierto evento en un intervalo de tiempo dado. En general, se utiliza para describir sucesos cuya probabilidad de éxito es muy baja. Por ejemplo, una variable aleatoria que sigue este tipo de distribución puede ser el número de llamadas que recibe una central telefónica en un minuto. El parámetro de la distribución de Poisson es θ = λ y su espacio paramétrico $\mathrm{\Theta }=(0,\mathrm{\infty })\subset \mathrm{ℝ}$. Además, la suma de n variables aleatorias independientes e idénticamente distribuidas $X_1,X_2,\dots ,X_n~\mathrm{Poi}\left(\lambda \right)$, es una variable aleatoria con distribución Poi(nλ).

1.1.2 Distribuciones continuas

Las distribuciones de probabilidad para variables continuas más habituales son la normal, la exponencial y la distribución gamma. En la tabla 2 se describen las funciones de densidad, media y varianza de cada una de ellas.

Distribución Uniforme Continua: Familia de distribuciones de probabilidad para variables aleatorias continuas que toman valores en un intervalo finito de manera equiprobable. Esto es, todos los resultados con valores en un intervalo finito tiene la misma probabilidad de ocurrir. La distribución uniforme continua queda definida por el intervalo [a, b] de equiprobabilidad. Por ejemplo, si el resultado de un experimento aleatorio puede tomar cualquier valor real en el intervalo [2, 7] y todos los posibles resultados tienen la misma probabilidad de ocurrir, el experimento se puede modelizar con una distribución uniforme continua U(2, 7). El parámetro de la distribución es θ = (a, b) y su espacio paramétrico $\mathrm{\Theta }=\mathrm{ℝ}\times \mathrm{ℝ}={\mathrm{ℝ}}^2$.

Distribución Normal: Familia de distribuciones de probabilidad para variables aleatorias continuas que modelizan fenómenos reales de características muy diferentes (fenómenos naturales, sociales y psicológicos). La gráfica de su función de densidad tiene forma de campana, es simétrica respecto de su media μ y tiene puntos de inflexión en $x=\mu \mp \sigma$. Asimismo, es útil para aproximar otros tipos de distribuciones bajo ciertas condiciones. El parámetro de la distribución normal es $\theta =(\mu ,\sigma )$ y su espacio paramétrico $\mathrm{\Theta }=\mathrm{ℝ}\times (0,\mathrm{\infty })\subset {\mathrm{ℝ}}^2$.

Distribución Exponencial: Familia de distribuciones de probabilidad para variables aleatorias continuas que modelizan el tiempo de espera para la ocurrencia de un fenómeno aleatorio determinado. En particular, permite describir el tiempo de espera entre dos fenómenos que siguen una distribución de Poisson. Una variable aleatoria que sigue este tipo de distribución puede ser el tiempo transcurrido en una central telefónica hasta recibir la primera llamada del día, o el tiempo que transcurre entre dos llamadas consecutivas. El parámetro de la distribución exponencial es θ = λ y su espacio paramétrico $\mathrm{\Theta }=(0,\mathrm{\infty })\subset \mathrm{ℝ}$.

Distribución Gamma: Familia de distribuciones de probabilidad para variables aleatorias continuas que habitualmente se utilizan para modelizar datos que son asimétricos a la derecha de la gráfica de la función de densidad, existiendo así una mayor concentración de datos en su parte izquierda. Por ejemplo, la distribución Gamma se utiliza para modelar la fiabilidad de componentes eléctricos. El parámetro de la distribución es $\theta =(\alpha ,\lambda )$, donde α es el parámetro característico de forma y λ el de escala. El espacio paramétrico es $\mathrm{\Theta }=(0,\mathrm{\infty })\times (0,\mathrm{\infty })\subset \mathrm{ℝ}\times \mathrm{ℝ}={\mathrm{ℝ}}^2$. Además, como propiedades importantes de esta distribución podemos destacar las siguientes: (a) si α = 1, entonces $\mathrm{\Gamma }(1,\lambda )=\mathrm{Exp}\left(\lambda \right)$; (b) la suma de n variables aleatorias independientes e idénticamente distribuidas $X_1,X_2,\dots ,X_n~\mathrm{Exp}\left(\lambda \right)$, es una variable aleatoria con distribución $\mathrm{\Gamma }(n,\lambda )$; (c) la suma de n variables aleatorias independientes $X_1,X_2,\dots ,X_n$ tal que $X_i~\mathrm{\Gamma }({\alpha }_i,\lambda )$, es una variable aleatoria con distribución $\mathrm{\Gamma }(\sum _{i=1}^n{\mathrm{\alpha }}_i,\lambda )$.

1.2 Muestra aleatoria

Una vez conocemos los conceptos básicos involucrados en una población y los modelos de probabilidad más habituales que esta puede seguir, centrémonos ahora en las observaciones que nos van a permitir disminuir el desconocimiento de la distribución teórica de la variable aleatoria X objeto de estudio. Dichas observaciones pueden obtenerse realizando n repeticiones del experimento aleatorio y anotando los valores de X en cada una de ellas. De esta forma, se obtiene lo que denominamos muestra aleatoria de X de tamaño n, la cual está constituida por el conjunto de valores numéricos (x₁, x₂, …, x_n). A este respecto, lo ideal es que la muestra sea un subconjunto representativo de la población. Esta sería fácil de seleccionar si se conociese la distribución de la población; sin embargo, cuando esta es desconocida la única solución es esperar que el azar suministre una muestra con unas características similares a las de la población. En este caso, lo más simple para precisar la distribución teórica es realizar n repeticiones independientes del experimento aleatorio observando en cada una el valor de la variable X que se quiere estudiar. En este caso, diremos que la muestra ha sido seleccionada por muestreo aleatorio simple.

Muestra aleatoria simple: Una muestra aleatoria simple, de tamaño n, de una variable aleatoria X con distribución teórica F, son n variables aleatorias (X₁, X₂, …, X_n), independientes e igualmente distribuidas. De estas forma, la función de distribución conjunta de una muestra aleatoria simple correspondiente a la distribución F, es

$$F_{(X_1,X_2,\dots ,X_n)}(x_1,x_2,\dots ,x_n)=\prod _{i=1}^n{F}_{X_i}\left(x_i\right).$$

Ejemplo 1. Consideremos la variable aleatoria X que describe el número de incendios que se producen por unidad de tiempo en un determinado país. En este caso, todo apunta a que la distribución teórica F es la de una Poisson de parámetro θ > 0. A este respecto, podemos aceptar que el número de incendios que se producen en unidades de tiempo distintas son independientes entre sí. En consecuencia, para obtener una muestra aleatoria simple de tamaño n basta con observar el número de incendios que se producen durante n días. Entonces, la probabilidad de que la muestra (X₁, X₂, …, X_n) tome cada uno de los valores (x₁, x₂, …, x_n) es

$$f_{(X_1,X_2,\dots ,X_n)}(x_1,x_2,\dots ,x_n)=\prod _{i=1}^n{f}_{X_i}\left(x_i\right)=\prod _{i=1}^n\frac{{\theta }^{x_i}{e}^{-\theta }}{x_i!}=\frac{{\theta }^{\sum _{i=1}^n{x}_i}{e}^{-n\theta }}{\prod _{i=1}^n{x}_i!},(x_i\in \mathrm{\mathbb{N}}\cup \{0\left\}\right).$$

Ejemplo 2. A diferencia del ejemplo anterior, podemos considerar una variable aleatoria X cuya distribución a priori sea desconocida. Por ejemplo, supongamos que queremos conocer la probabilidad de extraer una bola negra de una urna que contiene bolas blancas y negras. La variable, en este caso, es

$$X=\{\begin{array}{ll}1,& \text{si se extrae una bola negra}\\ 0,& \text{si se extrae una bola blanca}\end{array},$$

donde la probabilidad de éxito es P{X = 1} = θ y la de fracaso P{X = 0} = 1 − θ, es decir, la distribución de X dependerá del parámetro θ ∈ [0,1]. Supongamos también que únicamente se puede realizar 3 extracciones con reemplazamiento. Es claro que cada extracción es independiente de las otras y por tanto, podemos obtener una muestra aleatoria simple (X₁, X₂, X₃) de tamaño 3 que tome los valores (x₁, x₂, x₃), con x_i ∈ {0,1}. Esto nos va a permitir disminuir el desconocimiento de la distribución teórica F de X. Los resultados de todas las muestras posibles se dan en la tabla 3.

Nótese, por ejemplo, como la probabilidad de obtener 2 bolas negras y 1 blanca es θ²(1 — θ) sin importar el orden de extracción. La independencia entre las extracciones hace que la probabilidad de cada muestra sea el producto de las probabilidades de los resultados que la componen. Esto nos va a permitir determinar la distribución de la muestra a partir de su función de probabilidad. Para hallar la función de probabilidad de la población, para este caso concreto, basta con visualizar las expresiones de las probabilidades de la tabla para darse cuenta que ha de tener la forma

$$f_X\left(x\right)={\theta }^x(1-\theta {)}^{1-x},(x=\mathrm{0\hspace{1em}}\text{ó}\mathrm{\hspace{1em}1}).$$

Puede verse como $f_X\left(0\right)=P\{X=0\}=1-\theta$ si x = 0 y $f_X\left(1\right)=P\{X=1\}=\theta$ si x = 1. Por tanto, la función de probabilidad de la muestra la podemos expresar como sigue:

$$f_{(X_1,X_2,X_3)}(x_1,x_2,x_3)={\theta }^{x_1}(1-\theta {)}^{1-x_1}\cdot {\theta }^{x_2}(1-\theta {)}^{1-x_2}\cdot {\theta }^{x_3}(1-\theta {)}^{1-x_3}={\theta }^{x_1+x_2+x_3}(1-\theta {)}^{3-(x_1+x_2+x_3)}.$$

Es fácil comprobar que el problema se reduce a extraer una muestra aleatoria simple de tamaño 3 de una población que sigue una distribución Bin(1, p), con parámetro θ = p. Por tanto, cabe esperar, que si la muestra se ampliara a n extracciones, la función de probabilidad de la muestra sería:

$$f_{(X_1,X_2,\dots ,X_n)}(x_1,x_2,\dots ,x_n)=\prod _{i=1}^n{f}_{X_i}\left(x_i\right)={\theta }^{\sum _{i=1}^n{x}_i}(1-\theta {)}^{n-\sum _{i=1}^n{x}_i}.$$

Ejemplo 3. Sea X la variable aleatoria: tiempo t que transcurre hasta que se recibe la primera llamada del día en una central telefónica. En este caso, es claro que la mejor distribución que describe este suceso es una exponencial de parámetro θ > 0, con función de densidad f_X(t) = θe^-θt para t ≥ 0. Supongamos que se obtiene una muestra aleatoria simple (X₁, X₂, …, X_n) de tamaño n con valores t₁, t₂, …, t_n. La función de densidad de la muestra es

$$f_{(X_1,X_2,\dots ,X_n)}(t_1,t_2,\dots ,t_n)=\prod _{i=1}^n{f}_{X_i}\left(t_i\right)=\prod _{i=1}^n\theta e^{-\theta t_i}={\theta }^n{e}^{-\theta \sum _{i=1}^n{t}_i},(t_i\ge 0).$$

Para terminar con los conceptos relacionados con población y muestra, veamos un aspecto importante sobre convergencia de variables aleatorias: el Teorema Central del Limite. De manera intuitiva y operativa este teorema se puede describir de la siguiente manera:

Teorema Central del Límite: Sea la suma de n variables aleatorias X₁, X₂, …, X_n independientes e idénticamente distribuidas, con media E(X_i) y varianza V(X_i) finitas. El teorema establece que la función de distribución de la suma de estas n variables $\sum _{i=1}^n{X}_i$ converge a una variable aleatoria con distribución normal $N(nE\left(X_i\right),nV\left(X_i\right))$. El teorema es válido cuando la suma de estas variables es lo suficientemente grande (como norma general, n ≥ 30). Algunas consecuencias del Teorema Central del Límite pueden ser, entre otras:

■Si $X_i~\mathrm{Bin}(1,p)$, entonces $\sum _{i=1}^n{X}_i~\mathrm{Bin}(n,p)\cong N(E\left(\sum _{i=1}^n{X}_i\right),V\left(\sum _{i=1}^n{X}_i\right))\equiv N(np,np(1-p\left)\right)$.

■Si $X_i~\mathrm{Poi}\left(\lambda \right)$, entonces $\sum _{i=1}^n{X}_i~\mathrm{Poi}\left(n\lambda \right)\cong N(E\left(\sum _{i=1}^n{X}_i\right),V\left(\sum _{i=1}^n{X}_i\right))\equiv N(n\lambda ,n\lambda )$.

■Si $X_i~N(\mu ,\sigma )$, entonces $\sum _{i=1}^n{X}_i~N(n\mu ,n{\sigma }^2)\cong N(E\left(\sum _{i=1}^n{X}_i\right),V\left(\sum _{i=1}^n{X}_i\right))\equiv N(n\mu ,n{\sigma }^2).$

■Si $X_i~\mathrm{Exp}\left(\lambda \right)$, entonces $\sum _{i=1}^n{X}_i~\mathrm{\Gamma }(n,\lambda )\cong N(E\left(\sum _{i=1}^n{X}_i\right),V\left(\sum _{i=1}^n{X}_i\right))\equiv N(\frac{n}{\lambda },\frac{n}{{\lambda }^2}).$

Ahora bien, podemos aplicar el Teorema Central del Límite para estudiar la convergencia de la distribución de las medias muestrales. Esto es, la media de una muestra se aproxima por el Teorema Central del Límite a una distribución normal a medida que el tamaño de la muestra aumenta, independientemente de la distribución de probabilidad de la población. Como norma general, el tamaño de la muestra ha de ser como mínimo de 30 observaciones y el número de muestras extraídas de la población suficientemente grande, aunque esto dependerá también de las características de la variable aleatoria que se esté estudiando.

Así, si una población ξ tiene de media E(ξ) = μ y varianza V(ξ) = σ² y tomamos de ella un número de muestras lo suficientemente grande (n ≥ 30), el conjunto de las medias muestrales se aproxima a una distribución normal $N(\mu ,{\sigma }^2/n)$. En efecto, si X es la variable aleatoria objeto de estudio asociada a la población, por un lado,

$$E\left(\overline{X}\right)=E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\frac{1}{n}E\left(\sum _{i=1}^n{X}_i\right)=\frac{1}{n}[\underset{\mu }{\underbrace{E\left(X_1\right)}}+\underset{\mu }{\underbrace{E\left(X_2\right)}}+\stackrel{\left(n\right)}{\cdots }+\underset{\mu }{\underbrace{E\left(X_n\right)}}]=\frac{n\mu }{n}=\mu ,$$

y por otro,

$$V\left(\overline{X}\right)=V\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\frac{1}{n^2}V\left(\sum _{i=1}^n{X}_i\right)=\frac{1}{n^2}[\underset{{\sigma }^2}{\underbrace{V\left(X_1\right)}}+\underset{{\sigma }^2}{\underbrace{V\left(X_2\right)}}+\stackrel{\left(n\right)}{\cdots }+\underset{{\sigma }^2}{\underbrace{V\left(X_n\right)}}]=\frac{n{\sigma }^2}{n^2}=\frac{{\sigma }^2}{n}.$$

1.3 Estadísticos y su distribución en el muestreo

Para resolver cualquier problema de inferencia estadística es importante conocer la función de los valores muestrales (resultados observados de la muestra), sea cual sea el método que se utilice para resolverlo. Esta función se denomina estadístico y la denotamos T(x_i, x₂, …, x_n). Supuesta extraída una muestra aleatoria simple de tamaño n de una población, los estadísticos de uso más frecuente son:

■$T_1(x_1,x_2,\dots ,x_n)=\sum _{i=1}^n{x}_i$, el total de la muestra.

■$T_2(x_1,x_2,\dots ,x_n)=\frac{1}{n}\sum _{i=1}^n{x}_i$, la media aritmética de la muestra o media muestral, que denotamos $\overline{x}$.

■$T_3(x_1,x_2,\dots ,x_n)=\frac{1}{n}\sum _{i=1}^n{x}_i^r$, el momento muestral de orden r respecto al origen, que denotamos a_r.

■$T_4(x_1,x_2,\dots ,x_n)=\frac{1}{n}\sum _{i=1}^n{x}_i^2-{\overline{x}}^2$, la varianza de los valores muestrales, que denotamos s².

■$T_5(x_1,x_2,\dots ,x_n)=\frac{1}{n}\sum _{i=1}^n{x}_i^r-{\overline{x}}^r$, el momento muestral de orden r respecto a la media, que denotamos b_r.

■$T_6(x_1,x_2,\dots ,x_n)=\frac{n}{n-1}{s}^2$, la cuasivarianza de los valores muestrales, que denotamos $s_{n-1}^2$.

■$T_7(x_1,x_2,\dots ,x_n)=\frac{1}{n}\sum _{i=1}^n{I}_{\{X_i=k\}}$, la frecuencia observada del valor k en una muestra de tamaño n.

■$T_8(x_1,x_2,\dots ,x_n)=\mathrm{mín}(x_1,x_2,\dots ,x_n)$, el menor valor muestral, que denotamos x₍₁₎.

■$T_9(x_1,x_2,\dots ,x_n)=\mathrm{máx}(x_1,x_2,\dots ,x_n)$, el mayor valor muestral, que denotamos x_(n).

■$T_{10}(x_1,x_2,\dots ,x_n)=\sum _{i=1}^n\log x_i=\log \left(\prod _{i=1}^n{x}_i\right)$

Cuando se considera la muestra (X₁, X₂, …, X_n) como una variable aleatoria, el estadístico T(X₁, X₂, …, X_n) también es a su vez otra variable aleatoria, ya que no puede predecir el valor que tomará después de efectuar el muestreo aleatorio simple. Por esta razón, es importante considerar la distribución de probabilidad de T(X₁, X₂, …, X_n) que nos de la probabilidad con que se puede tomar cada valor (x₁, x₂, …, x_n) de la muestra. En concreto, se denomina distribución en el muestreo de un estadístico T a la distribución de la variable aleatoria T(X₁, X₂, …, X_n). Es decir, el estadístico presenta una distribución de probabilidad derivada de la distribución de la muestra, $\mathcal{P}$, la cual suele identificarse con su función de probabilidad o de densidad conjunta, según que la distribución de la población sea discreta o continua respectivamente.

Ejemplo 4. La muestra aleatoria simple del Ejemplo 1 está compuesta por n variables aleatorias discretas, independientes y con distribución de Poisson de parámetro $\lambda >0$. Supongamos que queremos determinar la distribución en el muestreo del estadístico media muestral. En este caso, la media muestral $\overline{X}$ es también una variable aleatoria discreta que puede tomar cada uno de los valores $r=0,1/n,2/n,\dots ,k/n,(k+1)/n,\dots$, según sea $\sum _{i=1}^n{X}_i=0,1,2,\dots ,k,k+1,\dots .$ Por tanto, la distribución en el muestreo de $\overline{X}$ se puede determinar a partir de su función de probabilidad:

$${\mathcal{P}}_{\lambda }\{\overline{X}=r\}={\mathcal{P}}_{\lambda }\{\frac{1}{n}\sum _{i=1}^n{X}_i=r\}={\mathcal{P}}_{\lambda }\{\sum _{i=1}^n{X}_i=nr\}=\frac{(n\lambda {)}^{nr}{e}^{-n\lambda }}{\left(nr\right)!},$$

pues la variable aleatoria $\sum _{i=1}^n{X}_i$ tiene una distribución de Poisson de parámetro nλ.

Ejemplo 5. Teniendo en cuenta la problemática del Ejemplo 2, vamos a determinar, suponiendo la extracción con reemplazamiento de n bolas de la urna, la distribución en el muestreo de la media y la varianza muestrales. Como ya se avanzó, la variable aleatoria X sigue una distribución binomial Bin(l, θ), con espacio paramétrico $\mathrm{\Theta }=[0,1]\subset \mathrm{ℝ}$, por lo que la media muestral $\overline{X}$, que en este caso proporciona la frecuencia de unos en la muestra, también va a ser una variable aleatoria discreta. Sabiendo que la suma $\sum _{i=1}^n{X}_i$ de n variables aleatorias binomiales Bin(1, θ) e independientes sigue una distribución binomial Bin(n, θ), es claro que

$${\mathcal{P}}_{\theta }\{\sum _{i=1}^n{X}_i=r\}=\left(\genfrac{}{}{0ex}{}{n}{r}\right){\theta }^r(1-\theta {)}^{n-r},(r=0,1,2,\dots ,n).$$

En consecuencia,

$${\mathcal{P}}_{\theta }\{\sum _{i=1}^n{X}_i=r\}={\mathcal{P}}_{\theta }\{\frac{1}{n}\sum _{i=1}^n{X}_i=\frac{r}{n}\}={\mathcal{P}}_{\theta }\{\overline{X}=\frac{r}{n}\}=\left(\genfrac{}{}{0ex}{}{n}{r}\right){\theta }^r(1-\theta {)}^{n-r},(r=0,1,2,\dots ,n).$$

En cuanto a la varianza muestral s², también va a ser una variable aleatoria discreta. Puede verse que como X_i únicamente toma valores 0 y 1, es claro que $\sum _{i=1}^n{X}_i=\sum _{i=2}^n{X}_i^2$ y por tanto, se tiene que

$$s^2=\frac{1}{n}\sum _{i=1}^n{X}_i^2-{\overline{X}}^2=\frac{\sum _{i=1}^n{X}_i}{n}-\frac{{\left(\sum _{i=1}^n{X}_i\right)}^2}{n^2}=\frac{n\sum _{i=1}^n{X}_i-{\left(\sum _{i=1}^n{X}_i\right)}^2}{n^2}=\frac{\sum _{i=1}^n{X}_i(n-\sum _{i=1}^n{X}_i)}{n^2}.$$

Nótese que s² va a tomar el mismo valor cuando sea $\sum _{i=1}^n{X}_i=r$ que cuando sea $\sum _{i=1}^n{X}_i=n-r$. En cualquier caso, la función de probabilidad de la varianza muestral es

$${\mathcal{P}}_{\theta }\{s^2=\frac{r(n-r)}{n^2}\}={\mathcal{P}}_{\theta }\{\sum _{i=1}^n{X}_i=r\}+{\mathcal{P}}_{\theta }\{\sum _{i=1}^n{X}_i=n-r\}=\left(\genfrac{}{}{0ex}{}{n}{r}\right){\theta }^r(1-\theta {)}^{n-r}+\left(\genfrac{}{}{0ex}{}{n}{n-r}\right){\theta }^{n-r}(1-\theta {)}^r.$$

Puesto que $\left(\genfrac{}{}{0ex}{}{n}{r}\right)=\left(\genfrac{}{}{0ex}{}{n}{n-r}\right)$, podemos escribir:

$${\mathcal{P}}_{\theta }\{s^2=\frac{r(n-r)}{n^2}\}=\left(\genfrac{}{}{0ex}{}{n}{r}\right)\left[{\theta }^r\right(1-\theta {)}^{n-r}+{\theta }^{n-r}(1-\theta {)}^r],(r=0,1,2,\dots ,n).$$

Para comprobar que las distribuciones halladas funcionan correctamente podemos particularizar el tamaño de la muestra a n = 3, tal y como hicimos en el Ejemplo 2. De acuerdo con los datos de la tabla 3, los valores de los estadísticos $\overline{X}$ y S² se especifican junto con sus probabilidades en la tabla 4. La distribución en el muestreo de la media muestral es:

$${\mathcal{P}}_{\theta }\{\overline{X}=\frac{r}{n}\}=\{\begin{array}{ll}(1-\theta {)}^3,& \text{si}r=0\\ 3\theta (1-\theta {)}^2,& \text{si}r=1\\ 3{\theta }^2(1-\theta ),& \text{si}r=2\\ {\theta }^3,& \text{si}r=3\end{array},$$

y de la varianza muestral:

$${\mathcal{P}}_{\theta }\{S^2=\frac{r(n-r)}{n^2}\}=\{\begin{array}{lll}{\theta }^3+(1-\theta {)}^3,& \text{si}& r=0\\ {\theta }^2(1-\theta )+\theta (1-\theta {)}^2,& \text{si}& r=1\\ {\theta }^2(1-\theta )+\theta (1-\theta {)}^2,& \text{si}& r=2\\ {\theta }^3+(1-\theta {)}^3,& \text{si}& r=3\end{array}.$$

Ejemplo 6. Consideremos el caso poblacional del Ejemplo 3 y obtengamos la distribución en el muestreo del estadístico media muestral. Es conocido que la suma de n variables aleatorias exponenciales Exp(θ) e independientes es una variable aleatoria con distribución Gamma $\mathrm{\Gamma }(n,\theta )$. En consecuencia, la distribución en el muestreo del estadístico $T(X_1,X_2,\dots ,X_n)=\sum _{i=1}^n$ es

$${\mathcal{P}}_{\theta }\{\sum _{i=1}^n{X}_i=t\}=\frac{\theta (\theta t{)}^{n-1}{e}^{-\theta t}}{\mathrm{\Gamma }\left(n\right)}=\frac{{\theta }^n{t}^{n-1}{e}^{-\theta t}}{(n-1)!},(t>0),$$

pues recordemos que, para $n\in {\mathrm{\mathbb{Z}}}^{+}$, la función gamma $\mathrm{\Gamma }\left(n\right)$ se relaciona con el factorial de la forma $\mathrm{\Gamma }\left(n\right)=(n-1)$!. Por tanto,

$${\mathcal{P}}_{\theta }\{\sum _{i=1}^n{X}_i=t\}={\mathcal{P}}_{\theta }\{\frac{1}{n}\sum _{i=1}^n{X}_i=\frac{t}{n}\}={\mathcal{P}}_{\theta }\{\overline{X}=\frac{t}{n}\}=\frac{{\theta }^n{t}^{n-1}{e}^{-\theta t}}{(n-1)!},(t>0)$$

2. Estimación puntual

Partimos del problema estadístico de evaluar el parámetro característico que identifica a la distribución de una población dentro de una familia $\mathcal{F}=\{F_{\theta }\mid \theta \in \mathrm{\Theta }\}$. En este caso, es preciso asignar un valor de Θ que constituya una predicción individual sobre el parámetro de la población, utilizando únicamente información muestral y considerando el parámetro un valor fijo desconocido. En Inferencia Estadística, a esta técnica se le denomina Estimación Puntual, pues lo que se pretende con ella es reducir el desconocimiento acerca del valor paramétrico a un único punto (el más próximo al valor desconocido del parámetro).

Para obtener una estimación puntual del valor paramétrico de una población basta con extraer una muestra (aleatoria simple, en este caso), seleccionar un estadístico $T(X_1,X_2,\dots ,X_n)$ y tomar como estimación el valor de T calculado a partir de la muestra. Evidentemente, la estimación puntual del parámetro va a ser función de la muestra observada. A partir de ahora, a los estadísticos (independientes del parámetro) cuyos valores son utilizados para hacer una estimación puntual del parámetro poblacional desconocido, los vamos a llamar estimadores. Por ejemplo, la media muestral (estadístico) es un buen estimador de la media poblacional (parámetro).

Sin embargo, cabe señalar que cuando se particulariza el estimador para una muestra concreta no se puede saber, a priori, si la estimación obtenida se aproxima al valor verdadero del parámetro poblacional. Esto es debido, entre otras cosas, a la aleatoriedad del muestreo y al desconocimiento del valor real del parámetro. Por tanto, para conseguir una buena estimación puntual del parámetro, es fundamental que los estimadores seleccionados satisfagan ciertas condiciones de insesgadez, eficiencia, consistencia y suficiencia, las cuales vamos a explicar en esta sección.

Por otro lado, otra de las cuestiones que hay que abordar en Estimación Puntual es cómo seleccionar los estimadores más adecuados para luego evaluar sus propiedades. Es claro que cualquier función de la muestra puede ser un posible estimador para el parámetro, pero sólo unos pocos son aptos para considerarse objeto de estudio. Por ello, es importante disponer de métodos objetivos que permitan obtener, de entre las infinitas posibilidades, los estimadores más razonables (los que tengan mejores propiedades). En particular, los métodos que vamos a explicar en esta sección van a ser el método de los momentos y el método de la máxima verosimilitud.

2.1 Error Cuadrático Medio de un estimador

Para estudiar si un estadístico $T(X_1,X_2,\dots ,X_n)$ es un buen estimador de un parámetro θ desconocido de una población se puede empezar analizando el error cometido en la estimación. El error de estimación se define como la diferencia entre la estimación que se realiza, que denotamos $T=\hat{\theta }$, y el valor real del parámetro θ. Para obtener una medida más práctica se procede a elevar al cuadrado el error de estimación (para eliminar la influencia del signo) y tomar su esperanza matemática. A esta medida se le denomina Error Cuadrático Medio del estimador $\hat{\theta }$, y se denota $\mathrm{ECM}\left(\hat{\theta }\right)$. Por tanto, lo podemos expresar como

$$\mathrm{ECM}\left(\hat{\theta }\right)=E\left[\right(\hat{\theta }-\theta {)}^2].$$

El error cuadrático medio supone una medida de la dispersión del estimador $\hat{\theta }$ alrededor del valor de θ; así, si un estimador tiene un error cuadrático medio pequeño, significa que su distribución está muy concentrada alrededor de la cantidad a estimar, es decir, tal estimador está muy próximo (en media) al parámetro desconocido. Para hacerlo más operativo, expresemos el error cuadrático medio del estimador en función de su media y su varianza. Esto es,

$$\begin{array}{rl}\mathrm{ECM}\left(\hat{\theta }\right)& =E\left[\right(\hat{\theta }-\theta {)}^2]=E\left[\right(\hat{\theta }-E\left(\hat{\theta }\right)+E\left(\hat{\theta }\right)-\theta {)}^2]=\\ & =E\left[\right(\hat{\theta }-E\left(\hat{\theta }\right){)}^2+2(\hat{\theta }-E(\hat{\theta }\left)\right)\left(E\right(\hat{\theta })-\theta )+\left(E\right(\hat{\theta })-\theta {)}^2]=\\ & =\underset{\left(1\right)}{\underbrace{E\left[\right(\hat{\theta }-E\left(\hat{\theta }\right){)}^2]}}+2\cdot \underset{\left(2\right)}{\underbrace{E(\hat{\theta }-E(\hat{\theta }\left)\right)}}\cdot E\left(E\right(\hat{\theta })-\theta )+\underset{\left(3\right)}{\underbrace{E\left[\right(E\left(\hat{\theta }\right)-\theta {)}^2]}}=\\ & =V\left(\hat{\theta }\right)+\left(E\right(\hat{\theta })-\theta {)}^2,\end{array}$$

puesto que:

(1)$E\left[\right(\hat{\theta }-E\left(\hat{\theta }\right){)}^2]=V\left(\hat{\theta }\right)$.

(2)$E\left(\hat{\theta }\right)-E\left[E\right(\hat{\theta }\left)\right]=E\left(\hat{\theta }\right)-E\left(\hat{\theta }\right)=0.$

(3)$E\left[\right(E\left(\hat{\theta }\right)-\theta {)}^2]=\left[E\right(\hat{\theta })-\theta {]}^2$

La descomposición del error cuadrático medio en dos sumandos positivos sugiere la necesidad de minimizar ambos simultáneamente si queremos encontrar un buen estimador, pero esto no es posible, en general. Por tanto, una solución consiste en buscar estimadores cuyo error cuadrático medio sea igual a su varianza, es decir, estimadores que satisfagan la igualdad $E\left(\hat{\theta }\right)-\theta =0$, minimizando así al menos el segundo sumando. De esta forma, tiene sentido pensar que, entre varios estimadores con esta propiedad, será mejor aquel que tenga menor varianza.

Ejemplo 7. De una población normal de media μ desconocida y varianza 4, se extrae una muestra aleatoria simple (X₁, X₂, …, X_n) de tamaño n y se propone el estadístico $\hat{\mu }=(3X_1+2X_n)/4$ como estimador de μ. Veamos cuál es el error cuadrático medio de dicho estimador y si este podría ser o no un buen estimador para μ. En primer lugar, hallemos el valor de la esperanza matemática de $\hat{\mu }$:

$$E\left(\hat{\mu }\right)=E\left(\frac{3X_1+2X_n}{4}\right)=\frac{3}{4}E\left(X_1\right)+\frac{2}{4}E\left(X_n\right)=\frac{3}{4}\mu +\frac{2}{4}\mu =\frac{5}{4}\mu ,\text{pues}E\left(X_i\right)=\mu .$$

Se puede observar que $E\left(\hat{\mu }\right)-\mu =\mu /4\ne 0$, por lo que, a priori, no es el mejor estimador para μ. Hay otros mejores, como, por ejemplo, la media muestral. Por otro lado, para hallar el error cuadrático medio de μ necesitamos calcular previamente su varianza:

$$V\left(\hat{\mu }\right)=V\left(\frac{3X_1+2X_n}{4}\right)={\left(\frac{3}{4}\right)}^{2}V\left(X_1\right)+{\left(\frac{2}{4}\right)}^{2}V\left(X_n\right)=\frac{9}{16}\cdot 4+\frac{4}{16}\cdot 4=\frac{13}{4},\text{pues}V\left(X_i\right)=4.$$

Por tanto, el error cuadrático medio de μ es

$$\mathrm{ECM}\left(\hat{\mu }\right)=\frac{13}{4}+{\left(\frac{5}{4}\mu \right)}^2=\frac{13}{4}+\frac{25}{16}{\mu }^2.$$

Ahora bien, si proponemos como estimador la media muestral $\overline{X}$, se tiene que

$$E\left(\overline{X}\right)=E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\frac{1}{n}E\left(\sum _{i=1}^n{X}_i\right)=\frac{1}{n}\cdot n\mu =\mu ,$$

y, en consecuencia, $E\left(\overline{X}\right)-\mu =0$, lo que nos lleva a pensar que efectivamente la media muestral es un buen estimador para μ. La varianza, en este caso, es

$$V\left(\overline{X}\right)=V\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\frac{1}{n^2}V\left(\sum _{i=1}^n{X}_i\right)=\frac{1}{n^2}\cdot 4n=\frac{4}{n},$$

y, por tanto, $\mathrm{ECM}\left(\overline{X}\right)=V\left(\overline{X}\right)$. Nótese, que si $n\to \mathrm{\infty }$, entonces $\mathrm{V}\left(\overline{\mathrm{X}}\right)\to 0$, corroborando la bondad del estimador.

Ejemplo 8. Volviendo al Ejemplo 2., supuesto que se realicen n extracciones de la urna, es claro que si cada extracción X_i se distribuye de forma binomial Bin(1, p), entonces la distribución del total de las extracciones es $\sum _{i=1}^n{X}_i~\mathrm{Bin}(n,p)$. Se quiere estimar el parámetro desconocido $p\in [0,1]$ tomando como posibles estimadores los múltiplos de la media muestral, esto es, $T_k(X_1,X_2,\dots ,X_n)={\hat{p}}_k=k\overline{X}$, con k > 0. Como antes, hallemos la media y la varianza de ${\hat{p}}_k$, en función de k:

$$E\left({\hat{p}}_k\right)=E\left(k\overline{X}\right)=E\left(\frac{k}{n}\sum _{i=1}^n{X}_i\right)=\frac{k}{n}E\left(\sum _{i=1}^n{X}_i\right)=\frac{k}{n}\cdot np=kp,\text{pues}E\left(X_i\right)=p.$$

$$V\left({\hat{p}}_k\right)=E\left(k\overline{X}\right)=V\left(\frac{k}{n}\sum _{i=1}^n{X}_i\right)=\frac{k^2}{n^2}V\left(\sum _{i=1}^n{X}_i\right)=\frac{k^2}{n^2}\cdot np(1-p)=\frac{k^{2}p(1-p)}{n},\text{pues}V\left(X_i\right)=p(1-p).$$

En consecuencia el error cuadrático medio de ${\hat{p}}_k$ es

$$\begin{array}{rl}\mathrm{ECM}\left({\hat{p}}_k\right)& =\mathrm{ECM}\left(k\overline{X}\right)=\frac{k^{2}p(1-p)}{n}+(kp-p{)}^2=\frac{k^{2}p-k^2{p}^2+n(kp-p{)}^2}{n}=\frac{k^{2}p-k^2{p}^2+n{p}^2(k-1{)}^2}{n}=\\ & =\frac{p^2\left[n\right(k-1{)}^2-k^2]}{n}+\frac{k^{2}p}{n}=\left[\right(k-1{)}^2-\frac{k^2}{n}]p^2+\frac{k^2}{n}p.\end{array}$$

El error cuadrático medio de ${\hat{p}}_k$ visto como una función de p, que denotamos ECM_k(p), es una parábola cuya pendiente en p = 0, $p=0,{\mathrm{ECM}}_k^{\prime }\left(0\right)=k^2/n$ aumenta a medida que k crece (ver figura 1). Evidentemente, el mejor estimador para ${\hat{p}}_k$ es ${\hat{p}}_1=\overline{X}$, pues es claro que $E\left({\hat{p}}_1\right)-p=0$ y ademós, $\mathrm{ECM}\left({\hat{p}}_1\right)=V\left({\hat{p}}_1\right)=p(1-p)/n\to 0$, cuando $n\to 0$. En consecuencia, el estimador ${\hat{p}}_1$ es preferible a todos los demás estimadores ${\hat{p}}_{\mathrm{k}}$ cuando k > 1. Así, para el caso k > 1 evidentemente, el estimador ${\hat{p}}_k$ será mejor estimador que ${\hat{p}}_{k+1}$, pues la función vale $(k-1{)}^2$ tomando p = 1 fijo, lo cual indica que para ese valor de p, la función va a ir tomando valores cada vez más altos a medida que k crece. Ahora bien, cuando $0\le k<1$, ningún estimador va a ser preferible al resto, pues el valor mínimo¹ de ECM_k(p) se alcanza para $k=np/(np-p+1)$, con $k\in [0,1)$ y, consecuentemente, el estimador ${\hat{p}}_k$ que minimiza el error cuadrático medio va a ser uno distinto para cada valor de p. Para que se entienda de una manera más sencilla, en la figura 1 se justifica de manera visual la bondad de los estimadores a partir de las gráficas que generan las funciones ECM_k(p).

2.2 Propiedades de los estimadores

2.2.1 Estimador insesgado

Ya avanzamos en la sección anterior que una de las condiciones deseables que tiene que satisfacerse para que un estadístico T(X₁, X₂, …, X_n) sea un buen estimador de un parámetro poblacional θ desconocido es que su error cuadrático medio sea igual a su varianza. Esto se verifica cuando la media del estimador $\hat{\theta }$ coincide con el valor verdadero del parámetro desconocido, esto es, $E\left(\hat{\theta }\right)=\theta$, o equivalentemente, $E\left(\hat{\theta }\right)-\theta =0$. En Inferencia Estadística, un estimador que satisface esta condición se dice que es un estimador insesgado. En consecuencia, si un estimador no es insesgado, entonces $E\left(\hat{\theta }\right)-\theta \ne 0$ y, en este caso, diremos que el estimador tiene un sesgo, función de θ, de valor $b\left(\theta \right)=E\left(\hat{\theta }\right)-\theta$, para cada $\theta \in \mathrm{\Theta }$. Así, podemos expresar el error cuadrático medio de $\hat{\theta }$ como $\mathrm{ECM}\left(\hat{\theta }\right)=V\left(\hat{\theta }\right)+b^2\left(\theta \right)$.

Entre las propiedades de los estimadores insesgados se encuentran las siguientes:

1.De entre dos estimadores sesgados, será mejor aquel cuyo sesgo sea menor en valor absoluto.

2.De entre varios estimadores insesgados, o varios estimadores sesgados con el mismo sesgo en valor absoluto, será mejor aquel estimador cuya varianza sea menor. En este caso, diremos que el estimador con menor varianza será el más eficiente de todos.

3.Un estimador se dice asintóticamente insesgado si su sesgo tiende a cero a medida que el tamaño de la muestra crece. Esto es, ${lim}_{n\to \mathrm{\infty }}b\left(\theta \right)=0$. Evidentemente, si un estimador es insesgado, también será asintóticamente insesgado.

4.Sea θ un parámetro desconocido de una población. Consideremos m estimadores ${\hat{\theta }}_1{\hat{\theta }}_2,\dots ,{\hat{\theta }}_m$ con la misma esperanza $E\left({\hat{\theta }}_i\right)=k\theta (k\in \mathrm{ℝ}\mathrm{\setminus }\{0\left\}\right)$ y escribamos otro estimador como combinación lineal de los anteriores:

$$T=a_1{\hat{\theta }}_1+a_2{\hat{\theta }}_2+\cdots +a_m{\hat{\theta }}_m=\sum _{i=1}^m{a}_i{\hat{\theta }}_i,(a_i\in \mathrm{ℝ}\mathrm{\setminus }\{0\left\}\right).$$

La esperanza de T es

$$E\left(T\right)=E\left(\sum _{i=1}^m{a}_i{\hat{\theta }}_i\right)=\sum _{i=1}^{m}E\left(a_i{\theta }_i\right)=\sum _{i=1}^m{a}_{i}E\left({\theta }_i\right)=k\theta \sum _{i=1}^m{a}_i,(k\in \mathrm{ℝ}\mathrm{\setminus }\{0\left\}\right).$$

Se puede comprobar que basta que se satisfaga la igualdad $k\sum _{i=1}^m{a}_i=1$ para que T sea un estimador con el mismo sesgo que los ${\hat{\theta }}_i$ anteriores. Por tanto, se podrán obtener infinitos estimadores de esta forma: sesgados, con sesgo $b\left(\theta \right)=k\theta -\theta =\theta (k-1)$, si $k\ne 1$ e insesgados, si k = 1.

Cabe señalar que los estimadores insesgados, o con un sesgo muy próximo a cero, es frecuente utilizarlos cuando el tamaño de las muestras es muy elevado. Esto es porque para muestras grandes la varianza del estimador generalmente tiende a ser muy pequeña y, por tanto, su distribución en el muestreo va a estar muy concentrada alrededor de la esperanza del estimador. Sin embargo, cuando el tamaño de las muestras es pequeño, hablar de estimadores insesgados no tendría mucho sentido, pues lo normal, en estos casos, es que la varianza de los estimadores tome valores lo suficientemente grandes como para que el sesgo se pueda despreciar.

2.2.2 Estimador eficiente

Ya pudimos adelantar en la sección anterior que, a igualdad de sesgo, será más eficiente aquel estimador que tenga menor varianza. Es decir, la mayor eficiencia se va a conseguir al disminuir el error cuadrático medio del estimador. Sin embargo, cuando existen muchos estimadores posibles para un mismo parámetro poblacional, encontrar el estimador con menor varianza de todos ellos se complica. Para simplificar la gran cantidad de cálculos que esto conllevaría, podemos recurrir a la Cota de Cramér-Rao (CCR). La Cota de Cramér-Rao se define como:

$$\mathrm{CCR}\left(\theta \right)=\frac{{[1+\frac{\partial }{\partial \theta }b(\theta \left)\right]}^2}{n\cdot E\left[{(\frac{\partial }{\partial \theta }\log f_X(x\left)\right)}^2\right]},(0<E\left[{(\frac{\partial }{\partial \theta }\log f_X(x\left)\right)}^2\right]<\mathrm{\infty }),$$

donde f_X(x) recordemos que es la función de probabilidad o de densidad de la muestra según que el caso sea discreto o continuo respectivamente.

La Cota de Cramér-Rao expresa una cota inferior para la varianza de un estimador del parámetro θ. Esto es $V\left(\hat{\theta }\right)\ge \mathrm{CCR}\left(\theta \right)$. Para poder obtener la Cota de Cramér-Rao se deben dar las condiciones de regularidad siguientes:

1.El espacio parámetrico Θ es un conjunto abierto, es decir, cada uno de los elementos que lo constituyen tiene un entorno que está incluido en el mismo conjunto.

2.El soporte de f_X(x) dado por el conjunto $\mathrm{sop}\left(f\right)=\{x:f_X(x)>0\}$ es finito y no depende del parámetro θ.

3.La función $\theta \in \mathrm{\Theta }\mapsto f_X\left(x\right)$ tiene segundas derivdas continuas.

4.La función $\theta \in \mathrm{\Theta }\mapsto \log f_X\left(x\right)$ es diferenciable respecto de θ, para todo x en el soporte de $f_X\left(x\right)$.

5.Para cada $\theta \in \mathrm{\Theta }$, se satisface

$${\int }_{\mathrm{sop}\left(f\right)}{|\frac{\partial }{\partial \theta }\log f_X\left(x\right)|}^2{f}_X\left(x\right)\mathit{dx}<\infty .$$

Bajo estas condiciones de regularidad, ha de satisfacerse siempre la siguiente igualdad:

$$E[\frac{\partial }{\partial \theta }\log f_X\left(x\right)]=0,\text{para todo}\theta \in \mathrm{\Theta }.$$

Comprobemos que esto es cierto, supuesta X una variable aleatoria continua (se razona de manera análoga para variables discretas utilizando el sumatorio en vez de la integral). Por un lado, es bien sabido que como toda función de densidad se ha de satisfacer que

$${\int }_{x\in \mathrm{sop}\left(f\right)}{f}_X\left(x\right)\mathit{dx}=1,(\theta \in \mathrm{\Theta }).$$

Se trata de una integral finita, pues el soporte de f_X(x) es, por hipótesis, finito. Así que, derivando a ambos lados de la igualdad con respecto a $\theta \in \mathrm{\Theta }$ resulta:

$${\int }_{x\in \mathrm{sop}\left(f\right)}\frac{{\displaystyle \partial }}{{\displaystyle \partial \theta }}{f}_X\left(x\right)\mathit{dx}={\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{{\displaystyle \frac{{\displaystyle \partial }}{{\displaystyle \partial \theta }}{f}_X\left(x\right)\mathit{dx}}}{{\displaystyle f_X\left(x\right)}}\right]f_X\left(x\right)\mathit{dx}={\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{{\displaystyle \partial }}{{\displaystyle \partial \theta }}\log f_X\left(x\right)\right]f_X\left(x\right)\mathit{dx}=0. \mathrm{(1)}$$

Por la definición de esperanza matemática, se concluye la demostración:

$${\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]f_X\left(x\right)\mathit{dx}=E\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]=0.$$

Asimismo, aplicando la definición de la varianza que relaciona la esperanza con el momento poblacional de segundo orden², se tiene que:

$$V\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]=E\left[{\left(\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right)}^2\right]-\underset{0}{\underbrace{{\left[E\left(\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right)\right]}^2}}=E\left[{\left(\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right)}^2\right]. \mathrm{(2)}$$

Por tanto, aplicando esta igualdad y haciendo que b(θ) = 0 (para estimadores insesgados), la Cota de Cramér-Rao, se reduce a la siguiente expresión:

$$V\left(\hat{\theta }\right)\ge \mathrm{CCR}\left(\theta \right)=\frac{1}{n\cdot V\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]},(0<V\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]<\infty ).$$

Ahora bien, podemos hacer aún más sencillo el cálculo de la Cota de Cramér-Rao si derivamos de nuevo respecto a θ en la última igualdad de (1). Aplicando, dentro de la integral, la definición de derivada de un producto entre dos funciones, tenemos que

$$\begin{array}{rll}0& =& {\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]f_X\left(x\right)\mathit{dx}=\\ & =& {\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)\right]f_X\left(x\right)\mathit{dx}+{\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]\underset{(\ast )}{\underbrace{\left[\frac{\partial }{\partial \theta }{f}_X\left(x\right)\right]}}\mathit{dx}=\\ & & (\ast )\frac{\partial }{\partial \theta }\log f_X\left(x\right)=\frac{1}{f_X\left(x\right)}\frac{\partial }{\partial \theta }{f}_X\left(x\right)⟹\frac{\partial }{\partial \theta }{f}_X\left(x\right)=\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]f_X\left(x\right)\mathrm{.}\\ & =& {\int }_{x\in \mathrm{sop}\left(f\right)}\left[\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)\right]f_X\left(x\right)\mathit{dx}+{\int }_{x\in \mathrm{sop}\left(f\right)}{\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]}^2{f}_X\left(x\right)\mathit{dx}=\\ & =& E\left[\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)\right]+\underset{\text{expresión (2)}}{\underbrace{E\left[{\left(\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right)}^2\right]}}=E\left[\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)\right]+V\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right].\end{array}$$

Por tanto, concluimos que:

$$V\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]=-E\left[\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)\right]⟹V\left(\hat{\theta }\right)\ge \mathrm{CCR}\left(\theta \right)=-\frac{1}{n\cdot E\left[\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)\right]}.$$

A la varianza de $\frac{\partial }{\partial \theta }\log f_X\left(x\right)$, o equivalentemente, la esperanza de $\frac{{\partial }^2}{\partial {\theta }^2}\log f_X\left(x\right)$, presentes en la Cota de Cramér-Rao, se le denomina Información de Fisher, y se denota $I_X\left(\theta \right)$. La conveniencia para decidir qué expresión de la Cota de Cramér-Rao es menos costosa de calcular dependerá, entre otras cosas, de la complejidad de la función de probabilidad o densidad de la población.

Por último, para medir cuán de eficiente es un estimador se utiliza la medida de eficiencia (ME) del estimador, que se define como el cociente entre CCR(θ) y $V\left(\hat{\theta }\right)$, con $0\le \mathrm{ME}\le 1$. Así, si la medida de eficiencia de un estimador toma valores próximos a 1 diremos que dicho estimador tiene buenas propiedades de eficiencia. Si ME = 1, o equivalentemente, $V\left(\hat{\theta }\right)=\mathrm{CCR}\left(\theta \right)$, y además $\hat{\theta }$ es insesgado, entonces diremos que $\hat{\theta }$ es un estimador insesgado de mínima varianza. Evidentemente, en este caso, estaremos ante el mejor estimador posible.

Ejemplo 9. Sea X una variable aleatoria continua con distribución $X~\mathrm{Exp}(1/\theta )$, con parámetro $\theta >0$ desconocido. Vamos a probar que $\hat{\theta }=\overline{X}$ es un estimador insesgado de mínima varianza para θ, esto es, $V\left(\hat{\theta }\right)=\mathrm{CCR}\left(\theta \right)$, con $\hat{\theta }$ insesgado. Recordemos que la función de densidad de una distribución exponencial de parámetro λ es $f_X\left(x\right)=\lambda e^{-\lambda x}$, con $x\ge 0$ y que su media y varianza son $E\left(X\right)=1/\lambda$ y $V\left(X\right)=1/{\lambda }^2$ respectivamente. Así, tomando $\lambda =1/\theta$, la función de densidad de la distribución $X~\mathrm{Exp}(1/\theta )$ es $f_X\left(x\right)=(1/\theta )e^{-x/\theta }$ de media $E\left(X\right)=\theta$ y varianza $V\left(X\right)={\theta }^2$. Veamos primero que $\overline{X}$ es insesgado, esto es, $E\left(\overline{X}\right)=\theta$.

$$E\left(\overline{X}\right)=E\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\frac{1}{n}E\left(\sum _{i=1}^n{X}_i\right)=\frac{1}{n}\cdot n\theta =\theta ,$$

Por otro lado, la varianza de $\overline{X}$ es

$$V\left(\overline{X}\right)=V\left(\frac{1}{n}\sum _{i=1}^n{X}_i\right)=\frac{1}{n^2}V\left(\sum _{i=1}^n{X}_i\right)=\frac{1}{n^2}\cdot n{\theta }^2=\frac{{\theta }^2}{n}.$$

Ademas,

$$\begin{array}{rl}V\left[\frac{\partial }{\partial \theta }\log f_X\left(x\right)\right]& =V\left[\frac{\partial }{\partial \theta }\log \left(\frac{1}{\theta }{e}^{-\frac{x}{\theta }}\right)\right]=V\left[\frac{\partial }{\partial \theta }(\log \left(\frac{1}{\theta }\right)-\frac{x}{\theta })\right]=V(-\frac{1}{\theta }+\frac{x}{{\theta }^2})=\\ & =\underset{0,\text{ ya que }V\left(a\right)=0,\forall a\in ℝ}{\underbrace{V(-\frac{1}{\theta })}}+V\left(\frac{x}{{\theta }^2}\right)=\frac{1}{{\theta }^4}V\left(x\right)=\frac{1}{{\theta }^4}\cdot {\theta }^2=\frac{1}{{\theta }^2}.\end{array}$$

En consecuencia,

$$\mathrm{CCM}\left(\theta \right)=\frac{1}{n\cdot \frac{1}{{\theta }^2}}=\frac{{\theta }^2}{n}=V\left(\overline{X}\right),$$

y, por tanto, $\overline{X}$ es un estimador insesgado de mínima varianza, como queríamos demostrar.

Ejemplo 10. Consideremos ahora una variable aleatoria continua X con función de densidad $f_X\left(x\right)=\frac{1}{\theta }{x}^{\frac{1}{\theta }-1}$, para $0<x<1$, donde $\theta >0$ es un parámetro de la distribución que se desconoce. Para estimarlo se propone el estimador $\hat{\theta }=T(X_1,X_2,\dots ,X_n)=\frac{1}{n}\sum _{i=1}^n\log \left(\frac{1}{X_i}\right)$. Vamos a ver $\hat{\theta }$ es un estimador insesgado de mánima varianza. En primer lugar, veamos qie $\hat{\theta }$ es insesgado. En efecto,