Sử dụng thuật toán Entropy chéo và chọn mẫu Gibbs để ước lượng xác suất sự kiện hiếm
* Tác giả liên hệ (tvly@ctu.edu.vn)
Abstract
In this study, Monte-Carlo simulation samples are generated by the periodic Gibbs sampling algorithm. The probability of a rare event will be estimated from these simulated samples. By using the Naïve Monte Carlo method to estimate the very small probability of rare events, it is necessary to create very large simulation samples that take a long time to initialize. This limitation was significantly improved by combining the cross-entropy method with the Gibbs sampling algorithm to create Monte-Carlo simulation samples. Using the technique of probability measure change in the cross-entropy method, rare events will occur in the simulation sample at a higher frequency according to the new probability measure. The probability of these rare events can be well estimated by returning the results for the initial probability measure.
Keywords:
Cross-entropy, Gibbs sampler, Monte-Carlo simulation, probability measure change, rare events
Tóm tắt
Trong nghiên cứu này, các mẫu mô phỏng Monte Carlo được khởi tạo bởi thuật toán chọn mẫu Gibbs quét tuần tự. Xác suất của sự kiện hiếm sẽ được ước lượng từ các mẫu mô phỏng này. Khi sử dụng phương pháp Monte Carlo đơn giản, để ước lượng được các xác suất rất bé của sự kiện hiếm thì cần phải tạo các mẫu mô phỏng có kích thước rất lớn, mất nhiều thời gian khởi tạo. Hạn chế này được cải thiện đáng kể khi phương pháp Entropy chéo đượcsử dụng kết hợp với thuật toán Gibbs để tạo các mẫu mô phỏng Monte Carlo. Với kỹ thuật đổi độ đo xác suất trong phương pháp Entropy chéo, các sự kiện hiếm sẽ xuất hiện trong mẫu mô phỏng với tần số cao hơn theo độ đo xác suất mới, nhờ đó không cần khởi tạo mẫu có kích thước quá lớn cũng có thể ước lượng tốt được xác suất của các sự kiện hiếm này khi trả ngược các kết quả tính toán về độ đo xác suất ban đầu.
Từ khóa:
Chọn mẫu Gibbs, đổi độ đo xác suất, Entropy chéo, mô phỏng Monte Carlo, sự kiện hiếm
Article Details
Tài liệu tham khảo
Brémaud, P., 1999. Markov chains – Gibbs Fields, Monter Carlo Simulation and Queues. Spinger – New York, 444 pages.
De Boer, P.T., Kroese, D.P., Mannor, S. and Rubinstein, R.Y, 2005. A Tutorial on the Cross-Entropy Method. Annals of Operations Research, 134:19-67.
Levine, R.A. and Casella, G., 2006. Optimizing random scan Gibbs samplers. Journal of Multivariate Analysis, 97(10):2071-2100.
Liu, J.S., Wong, W.H. and Kong, A., 1995. Covariance Structure and Convergence Rate of the Gibbs Sampler with Various Scans. J. R. Statist. Soc. B, 57(1):157-169.