Đánh giá ảnh hưởng của các tham số giải thuật BO-GP cho mô hình LightGBM đối với dự báo phụ tải ngắn hạn

Abstract

This paper proposes an algorithm flowchart to evaluate the impact of parameters in the Bayesian Optimization using the Gaussian Process (BO-GP) algorithm on the LightGBM model for short-term load forecasting. The investigated hyperparameters include learning_rate, n_estimators, max_depth, subsample, and colsample_bytree. The performance of the BO-GP algorithm is assessed based on two primary parameters: the number of optimization iterations (n_iter) and the number of folds in cross-validation (k-fold). To assess the model's stability, the coefficient of dispersion (CD%) is calculated by repeating the BO-GP process n = 30 times. The study utilizes daily peak load data from Victoria, Australia. The experiments revealed that the optimal n_iter value was 80, compared to the default of 50. Similarly, optimal performance for k-fold was observed at values of 4, 6, and 7, while the default was 3. The study highlights the importance of selecting appropriate parameters of the BO-GP algorithm to optimize the LightGBM model for load forecasting.

Tóm tắt

Lưu đồ giải thuật được đề xuất trong bài báo nhằm đánh giá ảnh hưởng của các tham số trong giải thuật Bayesian Optimization với Gaussian Process (BO-GP) đối với mô hình LightGBM trong bài toán dự báo phụ tải ngắn hạn. Các siêu tham số được khảo sát bao gồm: learning_rate, n_estimators, max_depth, subsample và colsample_bytree. Hiệu suất của giải thuật BO-GP được đánh giá dựa trên hai tham số chính: số vòng lặp tối ưu hóa (n_iter) và số lần chia tập dữ liệu huấn luyện (k-fold). Để kiểm tra độ ổn định của mô hình, hệ số phân tán CD% được tính toán bằng cách lặp lại BO-GP n = 30 lần. Tập dữ liệu phụ tải đỉnh hàng ngày từ bang Victoria, Úc được sử dụng trong nghiên cứu. Kết quả thực nghiệm cho thấy, giá trị tối ưu của n_iter là 80, trong khi giá trị mặc định là 50. Tương tự, k-fold đạt hiệu suất tốt nhất tại 4, 6 và 7, trong khi giá trị mặc định là 3. Tầm quan trọng của việc lựa chọn tham số phù hợp được nhấn mạnh trong nghiên cứu nhằm tối ưu hóa mô hình LightGBM khi áp dụng vào dự báo phụ tải.