39619 126311 1 pb 3638

SCIENCE TECHNOLOGY XỬ LÝ DỮ LIỆU THIẾU BẰNG BIỂU ĐỒ CHUẨN HÓA ĐƠN VỊ (SLP) VÀ SUPPORT VECTOR REGRESSION (SVR) HANDLING MISSING DATA USING STANDARDIZED LOAD PROFILE (SLP) AND SUPPORT VECTOR REGRESSION (SVR) Nguyễn Tuấn Dũng1,*, Nguyễn Thanh Phương2 TÓM TẮT Trong năm gần đây, việc nghiên cứu ứng dụng kỹ thuật khai thác liệu gặp phải nhiều khó khăn, thách thức lớn, có vấn đề thiếu giá trị thuộc tính liệu Có nhiều nguyên nhân khác dẫn tới vấn đề này: thiết bị thu thập bị hỏng, có từ chối cung cấp liệu nhằm bảo vệ tính riêng tư, có sai sót nhập liệu có cố xảy q trình truyền liệu, Trong đó, việc thiếu liệu phục vụ công tác nghiên cứu, dự báo phụ tải điện vấn đề nan giải ngành điện Hiện Công ty điện lực thực việc cách nội suy từ giá trị đo đếm ngày trước, trước cách thủ công, không chuẩn xác làm ảnh hưởng không nhỏ đến kết phân tích, xử lý liệu trình nghiên cứu, dự báo phụ tải Bài báo đề xuất phương pháp xử lý liệu thiếu cách xây dựng Biểu đồ chuẩn hóa đơn vị (SLP) sở liệu phụ tải điện khứ (chu kỳ 60 phút), kết hợp giải thuật học máy SVR (NN/RD) để xây dựng lại đường đặc tuyến phụ tải từ ước lượng liệu không ghi nhận q trình đo đếm Từ khóa: Thiếu liệu; ước lượng; số liệu đo đếm; phụ tải điện; Biểu đồ chuẩn hóa đơn vị; SVR ABSTRACT In recent years, the research and application of data mining techniques encountered many difficulties and major challenges, including the lack of attribute values of data There are many different reasons for this problem: the device is broken, the data is refused to protect the privacy, data entry mistakes or incidents occur during data transmission In particular, the lack of data for electricity load research and forecasting is one of the problems for the electricity industry Currently, the power companies are doing this by interpolating from the measured values of previous days and hours manually, which significantly affects the results of data analysis during the load forecasting process The paper proposes a method of processing missing data by building a Standardized Chart (SLP) based on past load data (60-minute cycle), combining machine learning algorithms SVR (NN / RD) to rebuild the load curve, thereby we can estimate the data missed or not recorded during the measurement Keywords: Missing data; estimation; measured data; electrical load; Standardized load profile; SVR Tổng Công ty Điện lực TP.HCM Trường Đại học Công nghệ TP.HCM * Email: dungnt@hcmpc.com.vn Ngày nhận bài: 20/10/2018 Ngày nhận sửa sau phản biện: 20/01/2019 Ngày chấp nhận đăng: 25/02/2019 ĐẶT VẤN ĐỀ 1.1 Dữ liệu thiếu trình khai thác sở liệu (CSDL) Cho đến nay, có nhiều phương pháp xử lý giá trị thiếu đề xuất áp dụng [1, 2] Các phương pháp cho phép xử lý trực tiếp giá trị thiếu, nhiên chúng mang thơng tin nhiễu vào tập liệu xét Việc xử lý giá trị thiếu cần phải cân nhắc thực cách thận trọng, nhà nghiên cứu sử dụng phương pháp xử lý liệu bị mà không cẩn trọng xem xét giả định cần thiết phương pháp họ có nguy có kết sai lệch gây hiểu nhầm [2] Cho đến nay, việc xử lý giá trị thiếu CSDL đề tài thu hút quan tâm nhiều nhà nghiên cứu ứng dụng Một nhiệm vụ vô quan trọng xây dựng phương pháp xử lý giá trị thiếu phải hiểu chế sinh giá trị thiếu CSDL cần xử lý Nắm bắt chế sinh giá trị thiếu tình cụ thể giúp xây dựng phương pháp xử lý thích hợp hiệu 1.2 Dữ liệu thiếu nghiên cứu phụ tải điện Hình Các lỗi thường gặp ghi nhận liệu Trong trình vận hành, thu thập liệu xuất nhiều cố làm gián đoạn việc ghi nhận liệu đo đếm như: cố truyền dẫn tín hiệu từ công tơ đo đếm Kho liệu làm gói liệu truyền về; lỗi thiết bị đo đếm; lỗi nguồn điện; lỗi cài đặt thiết bị đo đếm không đúng; lỗi xử lý liệu phương pháp thủ Số 50.2019 ● Tạp chí KHOA HỌC & CƠNG NGHỆ 21 KHOA HỌC CƠNG NGHỆ cơng; việc thu thập liệu thủ công, dẫn đến liệu ghi nhận khơng phù hợp như: liệu có có giá trị (Fasse Zero); trùng lặp liệu (Inconsistent/Duplicate); thiếu chuỗi liệu (Missing Data); liệu thiếu xác, cao thấp bất thường (Too High/Too Low) CÁC PHƯƠNG PHÁP NGHIÊN CỨU Cho đến chưa có phương pháp khuyên sử dụng riêng cho việc xử lý liệu thiếu ứng dụng khai thác liệu Đặc biệt, làm để xử lý giá trị thiếu CSDL liệu khổng lồ 2.1 Một số phương pháp xử lý liệu thiếu nghiên cứu [3, 4, 5] 2.1.1 Phương pháp loại bỏ: Nếu xảy trường hợp thiếu liệu cho biến đó, giải pháp đơn giản loại bỏ thuộc tính bị thiếu liệu khỏi qua q trình phân tích đánh giá chuỗi liệu Phương pháp có ưu điểm đơn giản, tốn thời gian phương pháp khác Nhưng lại có hai điểm hạn chế quan trọng: i) thứ áp dụng vào thực tế gây mát nhiều đặc tính liệu; ii) thứ hai phân bố liệu thiếu tập liệu không thuộc trường hợp (MCAR) việc loại bỏ tất liệu có giá trị thiếu làm sai lệch nghiêm trọng kết 2.1.2 Phương pháp gán ghép: Phương pháp thay giá trị bị thiếu giá trị dự đoán xem hợp lý sau thực phân tích cho chuỗi liệu bổ sung Gán ghép trung bình: Tính giá trị trung bình liệu X cách sử dụng giá trị không bị sử dụng để gán ghép cho giá trị thiếu 2.1.3 Phương pháp hồi quy tuyến tính Khi hai thuộc tính định lượng có mối quan hệ tuyến tính với nhau, xây dựng phương trình hồi quy tuyến tính, thuộc tính có giá trị thiếu biến phụ thuộc, biến lại biến độc lập sử dụng phương trình hồi quy cho việc dự đốn giá trị thiếu biến phụ thuộc thông qua giá trị biết biến độc lập Phương pháp hồi quy tuyến tính thường gặp phải hai vấn đề: i) thứ nhất, mơ hình quan hệ thuộc tính có phải tuyến tính khơng Nếu mối quan hệ khơng tuyến tính, giá trị thiếu ước lượng bị sai lệch lớn so với giá trị thực; ii) thứ hai, thường liệu, thuộc tính có quan hệ chặt với thuộc tính có giá trị thiếu có giá trị thiếu 2.2 Phương pháp xử lý liệu thiếu nghiên cứu phụ tải điện Một số phương pháp ước lượng số liệu đo đếm phụ tải điện bị lỗi trình thu thập liệu Công ty điện lực thường sử dụng [12]: - Nội suy tuyến tính: nội suy từ đường đặc tính xu tiêu thụ điện; 22 Tạp chí KHOA HỌC & CƠNG NGHỆ ● Số 50.2019 - Ngày tương đồng: sử dụng liệu ngày tương đồng tuần tuần trước; - Tự động ước lượng: sử dụng trường hợp liệu bị thiếu không bảy (07) ngày; - Kiểm tra trực quan đồ thị: để biết liệu bị sai định liệu ước lượng; - Hiệu chỉnh ước lượng số liệu thủ công: sử dụng liệu bị thiếu nhiều bảy (07) ngày; - Hiệu chỉnh ước lượng giá trị trung bình tuần ngày tham chiếu: dựa vào liệu bốn (04) tuần gần Tuy nhiên, cách làm thực cách thủ công phụ thuộc nhiều vào lực kinh nghiệm chuyên gia thực việc ước lượng 2.3 Bộ hồi quy dựa theo vector hỗ trợ - Support vector regression (SVR) Ý tưởng SVR ánh xạ không gian đầu vào sang không gian đặc trưng nhiều chiều mà đó, ta áp dụng hồi qui tuyến tính (mà ta áp dụng trực tiếp hồi qui tuyến tính khơng hiệu quả) Đặc điểm SVR cho ta giải pháp thưa (sparse solution); nghĩa để xây dựng hàm hồi qui, ta không cần phải sử dụng hết tất điểm liệu huấn luyện Những điểm có đóng góp vào việc xây dựng hàm hồi qui gọi Support Vector Việc phân lớp cho điểm liệu phụ thuộc vào support vector Hình Biến đổi khơng gian liệu sang không gian đặc trưng (thủ thuật Kernel) Hàm hồi qui cần tìm có dạng: y = f(x) = wTΦ(x) + b Trong đó: w ∈ Rm vector trọng số; T kí hiệu chuyển vị; b ∈ R số; x ∈ Rn vector đầu vào; Φ(x) ∈ Rm vector đặc trưng; Φ làm hàm ánh xạ từ không gian đầu vào sang không gian đặc trưng [6, 7, 8] Như vậy, mục tiêu việc huấn luyện SVR tìm w b Cho tập huấn luyện {(x1, t1), (x2, t2), …, (xN, tN)}  Rn x R Với tốn hồi qui đơn giản, để tìm w b ta phải tối thiểu hóa hàm lỗi chuẩn hóa: N  yn  tn 2  w với  số chuẩn hóa  n 1 Để có giải pháp thưa, ta thay hàm lỗi hàm lỗi ε-insensitive Đặc điểm hàm lỗi trị tuyệt đối sai khác giá trị dự đoán y(x) giá trị đích nhỏ ε (với ε > 0) coi độ lỗi SCIENCE TECHNOLOGY Như bây giờ, ta phải tối thiểu hóa hàm lỗi chuẩn hóa sau: N C E ( y ( xn )  t n )  w n 1 Cực đại hóa với ràng buộc:  an  C  aˆ n  C N T Với yn  w (x n )  b , C số chuẩn hóa giống  (a n  aˆ n )  n 1  nhân với hàm lỗi thay w Từ đây, ta có hàm hồi qui SVR: Để cho phép số điểm nằm ống ε, ta đưa thêm biến lỏng (slack variable) vào Đối với điểm liệu xn, ta cần hai biến lỏng n  ˆn  , n  ứng với điểm mà tn > y(xn) + ε (nằm ngồi phía ống) ˆ  ứng với điểm mà tn < y(xn) - ε (nằm y (x )   (an  aˆ n )k (xn , xm )  b n ngồi phía ống) Hình Minh họa cho biến lỏng ξn Điều kiện để điểm đích nằm ống là: yn    tn  y n   với yn = y(xn) Với việc sử dụng biến lỏng, ta cho phép các điểm đích nằm ngồi ống (ứng với biến lỏng > 0) điều kiện là: t n  y n    n t  y    ˆ n n n Như vậy, ta có hàm lỗi cho SVR: N C ( n  ˆn  n1 w )2 Mục tiêu ta tối thiểu hóa hàm lỗi với ràng buộc:  n  0; ˆn  t n  y n    n N n 1 Như vậy, với SVR sử dụng hàm lỗi ε-insensitive hàm nhân Gaussian ta có ba tham số cần tìm: hệ số chuẩn hóa C, tham số  hàm nhân Gaussian độ rộng ống ε [9] Cả ba tham số ảnh hưởng đến độ xác dự đốn mơ hình cần phải chọn lựa kỹ Nếu C lớn ưu tiên vào phần độ lỗi huấn luyện, dẫn đến mơ hình phức tạp, dễ bị q khớp Cịn C nhỏ lại ưu tiên vào phần độ phức tạp mơ hình, dẫn đến mơ hình q đơn giản, giảm độ xác dự đốn Ý nghĩa ε tương tự C Nếu ε lớn có vectơ hỗ trợ, làm cho mơ hình q đơn giản Ngược lại, ε q nhỏ có nhiều vectơ hỗ trợ, dẫn đến mơ hình phức tạp, dễ bị khớp Tham số  phản ánh mối tương quan vectơ hỗ trợ nên ảnh hưởng đến độ xác dự đốn mơ hình 2.4 Biểu đồ chuẩn hóa đơn vị (SLP) Quan sát đồ thị phụ tải ngày tuần số ngày lễ đặc biệt năm khu vực thành phố Hồ Chí Minh (hình 4) ta thấy: biến đổi ngày thường (từ thứ đến thứ 6) khơng có nhiều biến động có kiểu biểu đồ phụ tải Đối với đồ thị phụ tải ngày thứ có biến đổi khác biệt với ngày thường khoảng thời từ 0h00 đến 9h00, có chuyển tiếp nhu cầu từ ngày chủ nhật Đối với đồ thị phụ tải ngày thứ có biến đổi khơng nhiều so với ngày thường, chủ yếu nhu cầu phụ tải suy giảm vào buổi chiều tối, bắt đầu cho ngày nghỉ cuối tuần Riêng đồ thị phụ tải ngày Chủ nhật hồn tồn khác với ngày thường (nhu cầu sử dụng điện xuống thấp) t n  y n    ˆn Dùng hàm Lagrange điều kiện Karush-Kuhn-Tucker, ta có tốn tối ưu hóa tương đương:  N N  (an  aˆ n )(am  aˆ m )k (xn , xm ) n1 m1 N N   (an  aˆ n )   (an  aˆ n )t n n 1 n 1 Với k hàm nhân: k(x, x’) = Φ(x)TΦ(x’) Bất kỳ hàm thỏa điều kiện Mercer dùng làm hàm nhân Hàm nhân sử dụng phổ biến hàm Gaussian: k(xi ,x j )  exp( x j  x j ) Số 50.2019 ● Tạp chí KHOA HỌC & CƠNG NGHỆ 23 KHOA HỌC CƠNG NGHỆ Hình Đồ phụ tải số ngày năm Khi quan sát biểu đồ phụ tải ngày Tết Dương lịch Tết Âm lịch thấy khác biệt hoàn toàn, đồ thị gần phẳng nhu cầu phụ tải xuống thấp ngày nghỉ Riêng ngày Tết Âm lịch nhu cầu phụ tải xuống thấp nhất, kỳ nghỉ kéo dài năm (có thể từ - ngày) Biểu đồ phụ tải chuẩn hóa đơn vị (Standardized Load Profiles - SLP) xây dựng cách lấy giá trị công suất thu thập theo chu kỳ 60 phút chia cho cơng suất cực đại Cần phải xây dựng SLP cho 365 ngày/ năm Một số SLP điển hình: Hình SLP số ngày năm Qua quan sát, biểu đồ phụ tải chuẩn hóa đơn vị thể hết tất đặc tính tải theo thời điểm, mùa vụ ngày lễ, Tết (Dương lịch, Nguyên Đán),… thấy mức độ tương đồng SLP mặt hình dáng, độ lớn chu kỳ Do đó, Biểu đồ phụ tải chuẩn hóa đơn vị (SLP) điểm đặc biệt thông số đầu vào quan trọng q trình huấn luyện thuật tốn học máy SVR (NN) để xây dựng lại đường đặc tuyến phụ tải từ ước lượng liệu khơng ghi nhận q trình đo đếm  Lưu đồ giải thuật: Bài báo đề xuất phương pháp xử lý liệu thiếu cách xây dựng Biểu đồ chuẩn hóa đơn vị (SLP) 24 Tạp chí KHOA HỌC & CƠNG NGHỆ ● Số 50.2019 SCIENCE TECHNOLOGY sở liệu phụ tải điện khứ chu kỳ 60 phút/lần 03 năm trước Đồng thời, kết hợp giải thuật SVR (NN) để xây dựng lại hàm hồi qui (đường đặc tuyến phụ tải) từ ước lượng liệu khơng ghi nhận q trình đo đếm Trên sở SLP chu kỳ liệu khứ, xây dựng liệu SLP cho chu kỳ cần dự báo tương lai cần chuẩn xác đến chu kỳ, loại ngày (ngày lễ, ngày thường, ngày làm việc, ngày nghỉ,…), tuần, tháng Hình Lưu đồ giải thuật xử lý liệu thiếu Biểu đồ phụ tải chuẩn hóa đơn vị (SLP) đưa vào modules xây dựng hàm hồi qui theo giải thuật SVR (Support Vector Regression), NN (Neural Network) để xây dựng hàm hồi qui Sau sử dụng liệu nêu để kiểm tra, đánh giá sai số hàm hồi qui, từ lựa chọn hàm hồi qui có sai số thấp nhât để làm hàm hồi qui ước lượng liệu thiếu KẾT QUẢ NGHIÊN CỨU 3.1 Dữ liệu đầu vào Dữ liệu đo đếm phụ tải sử dụng việc xây dựng thuật toán gồm: số liệu công suất (Pmax), điện tiêu thụ (Atổng) nhiệt độ (t0) theo giờ, ngày tháng phụ tải Tổng công ty Điện lực TP.HCM Xét chuỗi liệu đo đếm khoảng thời gian từ ngày 01/01/2014 đến 17/12/2018 Trong có số chu kỳ liệu điện tiêu thụ (Atổng) bị thiếu gián đoạn đo đếm (lỗi giá trị = 0) lỗi ghi nhận vượt (lớn bất thường), để phục vụ nghiên cứu cần phải hiệu chỉnh Hình Một số ngày liệu bị lỗi vài chu kỳ 3.2 Kết xử lý liệu thiếu Hình Đường cong phụ tải xây dựng lại Số 50.2019 ● Tạp chí KHOA HỌC & CÔNG NGHỆ 25 KHOA HỌC CÔNG NGHỆ Đặc điểm SVR cho ta giải pháp thưa (sparse solution); nghĩa để xây dựng hàm hồi qui, ta không cần phải sử dụng hết tất điểm liệu huấn luyện, điểm có đóng góp vào việc xây dựng hàm hồi qui gọi Support Vector (việc phân lớp cho điểm liệu phụ thuộc vào support vector) Dựa mối quan hệ tuyến tính ba thành phần số liệu công suất (Pmax), điện tiêu thụ (Atổng) nhiệt độ (t0), với SLP – SVR (NN) báo xây dựng lại dường cong phụ tải ngày bị lỗi Trên sở SLP chu kỳ năm 2018 xây dựng, chương trình xây dựng lại biểu đồ phụ tải theo chu kỳ ngày bị lỗi để xuất kết ước lượng liệu Hình Dữ liệu xây dựng lại ngày 04/11/2018 Hình 10 Dữ liệu xây dựng lại ngày 07/11/2018 Hình 11 Dữ liệu xây dựng lại ngày 09/11/2018 26 Tạp chí KHOA HỌC & CƠNG NGHỆ ● Số 50.2019 Hình 12 Dữ liệu xây dựng lại ngày 11/11/2018 KẾT LUẬN Dựa mối quan hệ tuyến tính ba thành phần số liệu cơng suất (Pmax), điện tiêu thụ (Atổng) nhiệt độ (t0), với SLP - SVR (NN), báo xây dựng công cụ tự động ước lượng liệu bị lỗi mà trước phải thực thực cách thủ cơng Biểu đồ chuẩn hóa đơn vị (SLP) góp phần khơng nhỏ kỹ thuật ước lượng lại liệu bị lỗi Tuy liệu ước lượng chưa hoàn toàn trùng khớp phần góp phần tạo cơng cụ nhằm nâng cao độ tin cậy việc phân tích, xử lý liệu trình nghiên cứu phụ tải điện TÀI LIỆU THAM KHẢO [1] J W Grzymala-Busse and M Hu, 2000 A comparison of several approaches to missing attribute values in data mining Proceedings of the Second International Conference on Rough Sets and Current Trends in Computing RSCTC'2000, October 16-19, 2000, Canada, 340-347 [2] Jochen Hardt, Max Herke, Tamara Brian, Wilfried Laubach, 2013 Multiple Imputation of Missing Data: A Simulation Study on a Binary Response Open Journal of Statistics, 3, 370-378 [3] SAS Institute, 2005 Multiple Imputation for Missing Data: Concepts and New Approaches [4] Yuan Yang C., 2011 Multiple imputation for Missing Data: Concepts and New Development (SAS Version 9.0) SAS Institute Inc., Rockville, MA) [5] Nakai M and Weiming Ke., 2011 Review of Methods for Handling Missing Data in Longitudinal Data Analysis Int Journal of Math Analysis Vol 5, no.1, -13 [6] V.Vapnik, 1995 “The nature of statistical learning theory” Springer, NY [7] S.R Gunn, 1998: Support Vector Machines for Classification and Regression, Technical Report, Image Speech and Intelligent Systems Research Group, University of Southampton [8] V Cherkassky, Y Ma, 2002 Selection of Meta-parameters for Support Vector Regression International Conference on Artificial Neural Networks, Madrid, Spain, Aug pp 687 - 693 [9] D Basak, S Pal, D.C Patranabis, Oct 2007: Support Vector Regression, Neural Information Processing – Letters and Reviews, Vol 11, No 10, pp 203 – 224 [10] A.J Smola, B Schölkopf, Aug 2004: A Tutorial on Support Vector Regression, Statistics and Computing, Vol 14, No 3, pp 199 – 222 [11] Understanding Support Vector Machine Regression and Support Vector Machine Regression, http://www.mathworks.com [12] Thông tư số 33/2011/TT-BCT ngày 06/09/2011 Bộ Công Thương Quy định nội dung, phương pháp, trình tự thủ tục nghiên cứu phụ tải điện ... xây dựng lại ngày 07 /11 /2 018 Hình 11 Dữ liệu xây dựng lại ngày 09 /11 /2 018 26 Tạp chí KHOA HỌC & CƠNG NGHỆ ● Số 50.2 019 Hình 12 Dữ liệu xây dựng lại ngày 11 /11 /2 018 KẾT LUẬN Dựa mối quan hệ tuyến... 2 018 xây dựng, chương trình xây dựng lại biểu đồ phụ tải theo chu kỳ ngày bị lỗi để xuất kết ước lượng liệu Hình Dữ liệu xây dựng lại ngày 04 /11 /2 018 Hình 10 Dữ liệu xây dựng lại ngày 07 /11 /2 018 ... and Reviews, Vol 11 , No 10 , pp 203 – 224 [10 ] A.J Smola, B Schölkopf, Aug 2004: A Tutorial on Support Vector Regression, Statistics and Computing, Vol 14 , No 3, pp 19 9 – 222 [11 ] Understanding