A Monte Carlo EM algorithm to estimate structural equation systems with unobserved information

Abstract

A Monte Carlo Expectation-Maximization algorithm for solving structural models with latent structures is formulated. It combines a Gibbs sampler to impute the unobserved information in the E-step, a sequential maximization procedure in the M-step and a stochastic version of Louis’ method to estimate the Information matrix. I show that such an algorithm has a number of advantages with respect to traditional methods. First, it does not require integrating the unobserved information out from the likelihood function, which reduces the estimation time dramatically and permits to solve problems involving more than three latent variables. Second, it reduces the estimation of the vector of slopes to the calculation of a GLS estimator and numerical optimization is required only to estimate the elements in the disturbance covariance matrix. Third, it can accommodate potentially any linear-in-parameters equation system including cross-sectional models with latent variables, panel data models and stochastic frontier models. Finally, the estimation of the standard errors by Louis’ method circumvents the limitations associated to the estimation of numerical Hessians by finite-difference methods.

En este paper se formula un algoritmo Monte Carlo EM para estimar modelos de ecuaciones estructurales con variables latentes. El algoritmo combina un simulador de Gibbs en la etapa E para simular la información no observada, un proceso de maximización secuencial en la etapa M, y una versión estocástica del método de Louis para estimar la matriz de información. El algoritmo tiene varias ventajas con respecto a los métodos tradicionales de estimación. Primero, no requiere del cálculo de integrales en la función de verosimilitud, lo cual reduce dramáticamente el tiempo de estimación y permite solucionar problemas que involucran más de tres variables latentes. Segundo, reduce la estimación del vector de pendientes al cálculo de estimador de MCG, y optimización numérica sólo es requerida para estimar los elementos en la matriz de covarianzas de las perturbaciones. Puede se usado para estimar potencialmente cualquier sistema con ecuaciones lineales en parametros, incluyendo modelos de corte transversal con variables latentes, modelos de panel, y modelos de frontera estocástica. Finalmente, la estimación de los errores estándar por el método de Louis evita los problemas asociados al cálculo del Hessiano mediante técnicas numéricas tradicionales.