Monte Carlo Methods and stochastic approximations
Algotithmes stochastiques et méthodes de Monte Carlo
Résumé
The objectiv of this work is to present new competitive variance reduction techniques for Monte Carlo simulations. The methods use importance sampling scheme. By an elementary change of variable, we introduce a drift term into the computation of an expectation via Monte Carlo simluations. Subsequently, the basic idea is to use a truncated version of the Robbins-Monro alogorithms to find the optimal drift that reduces the variance. First, we develop a seqential application of the method, in which the optimal drift is estimated separatly and is plugged in the Monte Carlo simulation. In the second part of our work we develop an adaptative version of the method, where the change of drift is selected dynamically through the Monte Carlo simulation. The last part of the work follows a similar idea but its main contribution is the introduction of a new minimisation criterion: the Kullback-Leibler entropy (or relative entropy) between two probability measures. We develop two applications of the procedure for variance reduction in Monte Carlo computation in finance an in reliability.
Dans cette thèse,nous proposons de nouvelles techniques de réduction de variance, pourles simultions Monté Carlo. Par un simple changement de variable, nous modifions la loi de simulation de façon paramétrique. L'idée consiste ensuite à utiliser une version convenablement projetée des algorithmes de Robbins-Monro pour déterminer le paramètre optimal qui "minimise" la variance de l'estimation. Nous avons d'abord développé une implémentation séquentielle dans laquelle la variance est réduite dynamiquement au cours des itératons Monte Carlo. Enfin, dans la dernière partie de notre travail, l'idée principale a été d'interpréter la réduction de variance en termes de minimisation d'entropie relative entre une mesure de probabilité optimale donnée, et une famille paramétrique de mesures de probabilité. Nous avons prouvé des résultats théoriques généraux qui définissent un cadre rigoureux d'utilisation de ces méthodes, puis nous avons effectué plusieurs expérimentations en finance et en fiabilité qui justifient de leur efficacité réelle.