Short-Term User Load Forecasting Based on Deep Random Forest: Take Jinhua City as an Example

用户负荷数据为金华市中小企业2020年1月1日—2020年12月31日全年366天的数据，数据包括供电单位、供电所、户名、用户地址、台区、终端局号、是否高危用户、受电容量(kVA)、电压等级(kV)以及每小时的功率(kW)。用户数量每天约3500户，找出全年都在数据集中的用户用于研究和预测用户负荷。

用户负荷与天气之间存在较强的关联，但上述数据中并不包含天气数据。为此，通过python网络爬虫，获取了相应的天气数据。天气数据包括日期、温度、天气、风力风向、空气质量信息。

1) 天气数据预处理。把最高温和最低温去掉摄氏度符号得到数值数据。天气、风力风向、空气质量指数3个特征，根据类别进行数值化处理。如天气有3类，那么将它们分别转换为0，1，2。同理，风力风向有两类，分别转换为0和1。空气质量指数只有一类，用数值0代替。

2) 用户负荷数据预处理。找出全年都在数据集中的用户，最后剩2449个。对于缺失的用户功率/负荷数据，采用后一个小时的数据进行填充。因为供电所、用户地址、台区、终端局号对预测结果没有影响，因此仅利用是否高危用户、受电容量、电压等级以及每小时的功率/负荷数据。

考虑到数据中数值的差异性，对数据进行标准化处理：

式中，$ {x_{ij}} $代表第$ i $个特征的第$ j $个值；$ {\bar x_{ij}} $为标准化后的值；$ \mu ({x_i}) $和$ \sigma ({x_i}) $分别为第$ i $个特征$ {x_i} $的均值和标准差。

负荷预测误差指的是用户负荷的真实值和预测模型得到的预测值之间的差值，为了评估预测准确度，本文使用4种常用的回归预测评估指标：RMSE(均方根误差)、MAE(平均绝对误差)、R²(决定系数)、MAPE(平均绝对百分误差)。

1) RMSE用于衡量真实值和预测值之间的偏差，受异常值的影响较大，其公式如下：

2) MAE表示真实值和预测值的绝对误差的平均值，其公式如下：

3) R²表示回归模型的拟合程度，反应了预测值有多少百分比能用输入值描述，该值为0～1之间的数值，值越大拟合程度越好：

4) MAPE表示真实值与预测值误差的百分比：

式中，n为样本数量；$ {y_i} $为真实值；$ {\hat y_i} $为预测值；$ \bar y $为样本真实值的平均值。RMSE、MAE对异常值敏感，通常使用R²来表示模型的拟合程度，采用MAPE来表示预测的误差，综合以上4个指标进行负荷预测误差的评价，更能体现模型的真实效果。

将金华市天气数据和用户历史负荷数据相结合，对用户负荷进行预测。把用户前1天负荷数据和天气数据作为输入特征，将当天用户负荷作为输出值，即365天的数据用于训练，最后1天的数据用于测试。输入数据为天气数据、受电容量、电压等级，输出数据为用户每小时对应的用电负荷数据。由于爬取的天气数据没有每小时的信息，将这一天的天气数据复制24份，即每小时的天气数据一致，从而构造出相同维度的输入特征。

为了对比深度随机森林算法的预测结果的准确度，本文引用几个经典的机器学习算法，包括SVM算法、KNN算法、Bayes算法、随机森林算法、以及BP和LSTM等深度神经网络算法。

对于SVM回归算法，本文选取高斯核函数作为SVM中的核函数，高斯核函数在处理较高维度的问题上有优异表现，相比于其他核函数有更高的泛用性。图1显示了不同松弛变量C值评价指标的变化，图2显示了不同容忍偏差$ \varepsilon $值评价指标的变化。可以看出，当C值在100附近时4种评估指标预测效果几乎都达到最优，$ \varepsilon >$0.35时评价指标呈抖动下降或上升，在部分指标上甚至优于取0.35的情况，在$ \varepsilon< $0.35时明显差于取0.35的情况。通过研究不同松弛变量C值和不同容忍偏差$ \varepsilon $值评价指标的变化，发现选取C约为100，$ \varepsilon $值约为0.35时SVM算法表现出最优的预测结果，此时相应的4个指标值分别为RMSE=2.955，MAE=2.152，R²=0.911，MAPE=17.715。

对于KNN算法，本文通过研究不同的参数k的用户负荷预测结果，发现k=6为最佳k参数取值，此时相应的4个指标值分别为RMSE=3.298，MAE=2.728，R²=0.899，MAPE=20.531。

对于贝叶斯岭回归算法，学习率参数$ \alpha $和正则化参数$ \lambda $采用默认值$ {10^{ - 6}} $，4个指标的预测结果分别为RMSE=4.306，MAE=3.561，R²=0.811，MAPE=23.186。

深度神经网络以神经元为基本单元，深度随机森林以随机森林为基本单元，整体结构又采取神经网络的结构，不仅有随机森林算力成本低的优点，而且有神经网络强大的特征提取能力。

本文分别利用随机森林和深度随机森林对用户负荷做出预测。首先设置随机森林内决策树的数量为200颗，改变叶子节点包含样本的最小数，预测结果如图3所示。

基于随机森林的用户负荷预测，当超参数叶结点包含最小样本为25左右为最佳，设置深度随机森林每层两个，每个随机森林由100颗决策树构成，预测结果如表1所示。从表中看出深度随机森林预测结果相对更加准确。

为了对比其他深度学习算法的预测结果，分别采用深度BP神经网络、LSTM和双向LSTM循环神经网络对用户负荷进行预测。本文采取4层神经网络结构，包含一个输入层、两个隐藏层、一个输出层，其中隐藏层每层由64个神经元组成，并分别采取Sigmoid、Relu、Elu、Tanh作为激活函数进行对比，在前向传播时随机使用80%的神经元，防止神经网络出现过拟合的现象，以MSE作为损失函数，并采用adam函数优化器对每次训练进行优化，每次训练随机采用80%的训练集数据，共循环训练100次，不同激活函数下预测结果如图4所示，表2为相应的预测结果值。

通过表2可以看出，LSTM在本实验的数据集上并没有表现出很好的预测效果，反而结构较为简单的BP神经网络表现更好。相比于其他激活函数，如Sigmoid函数和Tanh函数，当使用Elu激活函数时预测结果更准确。Sigmoid函数和Tanh函数属于软饱和函数，可能会出现梯度消失的现象，因此表现较差。尽管本文中LSTM预测用户负荷的表现不如BP，但采用双向LSTM激活函数为Elu时，除了MAPE较差外，其他指标都表现出了最好的预测性能。

最后，整体对比了上述几种机器学习算法的预测结果，如表3所示。可以看出，在均方根误差上仅有Bayes岭回归模型有较大误差，其余模型都有不错的表现，尤其是SVM回归和深度随机森林效果最佳；在平均绝对误差上，可以明显看出Bayes岭回归模型相较于其他模型误差更大，此外，SVM回归和深度随机森林效果远优于其他模型；在R²上，各模型均有不错的表现，其中SVM回归、随机森林、深度随机森林的分数超过0.9分，略优于其他模型；在平均绝对百分误差上仍是SVM回归、深度随机森林模型效果最好，Bayes岭回归和双向LSTM神经网络较差。此外，也对比了各种算法的训练时长，从表中可以看出岭回归和KNN算法训练时长非常短，神经网络算法训练时长较长，深度随机森林算法训练时间居中。电脑配置为：Inter(R) Core(TM) i7-7700 CPU，3.6 GHz，16 G RAM，64位Win10操作系统。

为了展示各种算法的预测结果与时间的变化关系，选择了两个用户，并在图5中给出了真实值和算法的预测值之间的关系。从图中看出白天负荷波动较大，尤其是8:00-20:00之间，此外，各类算法的预测趋势与真实值基本一致，难以看出哪种算法更准确，因此还需借助上述几个指标进行评估。

最后，为了研究本文算法的短期预测效果，给出了预测后3天和后5天的用户负荷的结果，如表4所示。

综上所述，在本实验数据集上深度随机森林效果最佳，其次是SVM回归和随机森林。Bayes岭回归各方面表现最差，不适用于本实验数据集的用户负荷预测。

本文以金华市用户负荷数据为例，通过爬取以及分析金华市天气信息和用户负荷数据，并借助RMSE、MAE、R²、MAPE这4个评价指标，使用深度随机森林算法对用户负荷进行预测。通过与其他多种预测算法结果对比，发现深度随机森林算法表现出更好的预测效果。

尽管本文爬取的天气数据没有每小时的信息，却能较好地预测用户负荷。如果能挖掘出每小时的天气数据，应该能得到更好的预测结果。不少研究发现混合多个机器学习算法有望获得更好的预测准确率，这也是我们下一步的研究方向。此外，如果将用户按行业分类，对每个行业分别训练和预测可能会提升预测结果。 最后，本文仅研究了用户在全年都有的数据，忽略了新用户稀疏数据的影响，采用对抗网络模型^[22]可以较好地解决这个问题。