Nguyễn Thanh Ngọc , Thái Văn Thành * , Nguyễn Ngọc Nhi , Nguyễn Tố Phương , Bùi Thị Kim Huệ , Lưu Thị Kiều Hương và Thạch Hồng Sơn

* Tác giả liên hệ (thanhtv92@vlute.edu.vn)

Abstract

This study proposes an automatic fuzzy clustering algorithm for point data based on the combination of the elbow method and the Gaussian Mixture Model. In this algorithm, the within-cluster sum of squared errors is employed as the objective function to determine the appropriate number of clusters using the elbow method. This number of clusters is then used as input to estimate the cluster membership probabilities of the elements through the Gaussian Mixture Model. By combining these methods, an effective clustering algorithm is established. Experiments on several benchmark datasets show that the proposed model achieves superior performance compared to many well-known and widely used models. Furthermore, the proposed model can be conveniently applied to real-world data through an implemented Matlab program.

Keywords: Elbow method, fuzzy cluster analysis, Gaussian mixture model, point data

Tóm tắt

Trong nghiên cứu này, thuật toán phân tích chùm mờ tự động cho dữ liệu điểm đã được đề xuất dựa trên sự kết hợp của phương pháp khuỷu tay và mô hình hỗn hợp Gauss. Trong thuật toán này, tổng bình phương sai số trong chùm như hàm mục tiêu đã được sử dụng để xác định số chùm thích hợp dựa trên  phương pháp khuỷu tay. Sau đó, số chùm nàyđược sử dụng làm đầu vào để xác định xác suất thuộc vào chùm của các phần tử qua mô hình hỗn hợp Gauss. Thông qua việc kết hợp các phương pháp này, một thuật toán phân tích chùm hiệu quả được thiết lập. Từ việc thực nghiệm trên một số tập dữ liệu đối chứng, mô hình đề nghị cho kết quả tốt, vượt qua nhiều mô hình nổi tiếng, được sử dụng phổ biến hiện nay. Mô hình đề nghị có thể được áp dụng thuận lợi cho dữ liệu thực bởi một chương trình Matlab được thiết lập.

Từ khóa: Dữ liệu điểm, hỗn hợp Gauss, phân tích chùm mờ, phương pháp khuỷu tay

Article Details

Tài liệu tham khảo

Bezdek, J. C. (1981). Pattern recognition with fuzzy objective function algorithms. Springer. https://doi.org/10.1007/978-1-4757-0450-1

Chen, T. L., & Shiu, S. Y. (2007). An efficient automatic clustering algorithm based on a self-updating process. Intelligent Data Analysis, 11(5), 473–490

Chen, J. H., & Hung, W. L. (2015). An automatic clustering algorithm for probability density functions. Journal of Statistical Computation and Simulation, 85(15), 3047–3063. https://doi.org/10.1080/00949655.2014.949715

Chen, T. L., & Shiu, S. Y. (2016). A new clustering algorithm based on self-updating process. In JSM Proceedings, Section on Statistical Computing (pp. 2034–2038). American Statistical Association.Devi, S. S., & Devi, M. R. (2013). Partition coefficient and partition entropy in fuzzy C-means clustering. International Journal of Computer Trends and Technology, 4(10), 1554–1558.

Fisher, R. A. (1936). The use of multiple measurements in taxonomic problems. Annals of Eugenics, 7(2), 179–188. https://doi.org/10.1111/j.1469-1809.1936.tb02137.x

Fraley, C., & Raftery, A. E. (2002). Model-based clustering, discriminant analysis, and density estimation. Journal of the American Statistical Association, 97(458), 611–631. https://doi.org/10.1198/016214502760047131

Hubert, L., & Arabie, P. (1985). Comparing partitions. Journal of Classification, 2(1), 193–218.
https://doi.org/10.1007/BF01908075

Hung, W. L., Chang-Chien, S. J., & Yang, M. S. (2015). An intuitive clustering algorithm for spherical data with application to extrasolar planets. Journal of Applied Statistics, 42(10), 2220–2232. https://doi.org/10.1080/02664763.2015.1023271

Hung, W. L., & Yang, J. H. (2015). Automatic clustering algorithm for fuzzy data. Journal of Applied Statistics, 42(7), 1503–1518. https://doi.org/10.1080/02664763.2014.1001326

Hung, W. L., Yang, J. H., & Shen, K. F. (2016). Self-updating clustering algorithm for interval-valued data. In 2016 IEEE International Conference on Fuzzy Systems (FUZZ-IEEE) (pp. 1494–1500).
https://doi.org/10.1109/FUZZ-IEEE.2016.7737867

Jain, A. K. (2010). Data clustering: 50 years beyond k-means. Pattern Recognition Letters, 31(8), 651–666. https://doi.org/10.1016/j.patrec.2009.09.011

Johnson, S. C. (1967). Hierarchical clustering schemes. Psychometrika, 32(3), 241–254. https://doi.org/10.1007/BF02289588

Kaufman, L., & Rousseeuw, P. J. (1990). Finding groups in data: An introduction to cluster analysis. New York, NY: John Wiley & Sons. https://doi.org/10.1002/9780470316801

Kodinariya, T. M., & Makwana, P. R. (2013). Review on determining number of clusters in k-means clustering. International Journal of Advanced Research in Computer Science and Management Studies, 1(6), 90–95.

Kuchaki, M. R., Asghari, Z. V., & Emami, C. (2012). A survey of hierarchical clustering algorithms. The Journal of Mathematics and Computer Science, 5(3), 229–240. https://doi.org/10.22436/jmcs.05.03.11

Shiu, S. Y., & Chen, T. L. (2016). On the strengths of the self-updating process clustering algorithm. Journal of Statistical Computation and Simulation, 86(5), 1010–1031. https://doi.org/10.1080/00949655.2015.1049605

Syakur, M. A., Khotimah, B. K., Rochman, E. M. S., & Satoto, B. D. (2018). Integration k-means clustering method and Elbow method for identification of the best customer profile cluster. IOP Conference Series: Materials Science and Engineering, 336, 012017. https://doi.org/10.1088/1757-899X/336/1/012017

Vovan, T., Nguyenhoang, Y., & Danh, S. (2023). An automatic fuzzy clustering algorithm for discrete elements. Journal of the Operations Research Society of China, 11(2), 309–325. https://doi.org/10.1007/s40305-021-00388-z

Xuetong, L., Jing, Z., & Hansheng, W. (2024). Gaussian mixture models with rare events. Journal of Machine Learning Research, 25, 1–40.
https://doi.org/10.5555/3666122