NeuralProphet模型概述NeuralProphet是一款基于PyTorch的用户友好型时间序列预测工具，延续了脸书开源预测工具Prophet 2018年的主要功能，主要用于时间序列数据分析(个人经验:具有显著时间序列特征的数据优先) NeuralProphet是在完全模块化的架构中开发的，这使得在未来添加额外的组件成为可能，并且它是高度可扩展的。 项目拟保留Prophet原有的特性，如经典AR模型的可解释性和可配置性，并利用PyTorch背景对其进行优化，如梯度下降。此外，还介绍了AR-Net建模时间序列自相关、自设损失和指标、可配置非线性层与前馈神经网络等特点。 该项目由斯坦福大学的奥斯卡·特里贝(Oskar Triebe)、脸书公司的尼古拉·拉普捷夫(Nikolay Laptev)和斯坦福大学的拉姆·拉贾戈帕尔(Ram Rajagopal)发起，道达尔公司(Total SA)提供了部分赞助。与此同时，我们正与莫纳什大学克里斯托弗·伯格梅尔的学生Hansika Hewamalage密切合作。 开发团队来自世界各地。如果有人想投稿，可以直接通过邮件联系原Oskar:)开发团队PPT的细节也生动地描述了NeuralProphet、applied ML和传统时间序列模型之间的关系，起到了“桥梁”的作用，兼具建模和参数优化的功能。 PPT的时序部分是一个可分解的时序模型。与前一版本的FBProphet相比，相似的组件有趋势、季节性、自动回归和特殊事件。区别在于引入了未来回归量和延迟回归量。 未来已知回归是指在预测期内具有已知未来值的外部变量，而延迟回归是指只有观察期值的外部变量。 趋势可以建立一个线性模型，也可以通过设置变化点来组合多个线性趋势。 季节性的季节性用傅立叶项建模，所以可以解决高频数据的各种季节性。 自回归项通过AR-Net的实现来解决，AR-Net是用于时间序列的自回归前馈神经网络。 回归项也由单独的前馈神经网络建模。 未来回归项和特殊事件是模型的协变量，只要使用单一权重建模。 对于一个经典的AR模型，P阶自回归的建模过程可以理解为若干个过往数据的线性组合。对于本项目引入的AR-Net，在自回归建模的过程中，第一层直接模仿经典AR的表达式，然后加入几个隐层，实现更精确的预测(仅受ML模型启发)。 学习过程仍然使用MSE作为损失项，这也与经典AR一致。 在此基础上，AR-Net论文截图衍生出了稀疏AR-Net。很明显通过引入正则项r，给原来的同事引入了少量的稀疏性。 离散度S是一个需要人为设定的变量，正则化强度cλ可以人为设定，也可以通过估计模型中噪声的标准差来获得。 在论文原始截图的实验中发现，如果正则项简单地使用L1或L2，并不能达到模型的目的。因为这里需要保留实际的权重才能得到真实的AR-coefficients，“大的权重还是大的，小的权重降为0”，一些本该大的权重很可能正则化后归一化了。 所以在这里，对于归一化的数据，使用正则函数的剩余部分，并使用sigmoid函数来求解根号权重的绝对值。 对于那些没有归一化的数据，正则函数更简单，开根号权重绝对值。 论文经典-ar->:稀疏AR-Netp阶数越高，AR-Net的速度优势越明显。度量是老熟人了。 一种是使用sTPE将拟合的弧分量与真实值进行比较；；另一种是看提前一步的预测精度，用MSE。 截图如果在论文中设置不同的大小(p (p)，AR-Net仍然可以准确识别和预解数据。对于观察到的时间序列值，客户可以指定是否需要标准化。 默认情况下，Y值将按最小值-最大值进行归一化。 如果客户特别将normalize_y参数设置为true，数据将通过z-score进行规范化。 协变量也可以标准化。 协变量归一化的默认模式是自动。 在此模式下，除了事件等二进制要素之外，所有其他要素都通过z得分进行归一化。 如果数据中有缺失值，只有在模型中启用了自回归时，才会估计缺失值。 否则，丢失的值对回归模型并不重要。 只需将缺少的日期解析为“0”；对于数字数据，标准化是一个两步过程 首先用线性插值填补小的空隙，然后用滚动平均填补较大的空隙。 启用自动回归后，观察到的Y值将通过滚动平均值进行预解析，以便从滞后值中学习。 滞后回归因子也是如此。 模型的参数自动默认为自动模式。下图是可以自己设置的参数，用户可以根据需要进行调整，就像其他ML机型的微调过程一样。 下面文章会详细阐述几个具体的应用场景和动手笔记本。 最后祝大家初五快乐，新年富足！饺子vs家里人做的速冻饺子是降维打击。