时间序列预测系列1

本文是时间序列预测的第一篇，从最简单的使用LSTM来预测沪深300指数的收盘价。数据中只使用沪深300指数的收盘价，不考虑其他因素（开盘价，交易量等）。
本文没有使用到高级的技术，仅仅只是调用一下LSTM而已，但对刚刚入门的人来说，学习如何处理数据，如何利用Keras搭建模型，是非常有用的。
当熟悉了如何处理数据，如何搭建模型以后。后面很多实验就能很快实现了。

基本的LSTM预测

• 使用LSTM搭建模型，数据集使用沪深300指数的收盘价。
• 时间步长T（即由前T天的数据，预测T+1天），滑动窗口大小w（用于划分数据集）
• 关于模型：只用了两层LSTM+dropout

1. 数据预处理
   数据处理是解决问题的第一步。主要分为从.csv文件中读出数据（并进行标准化处理），然后将数据处理成（X,Y）的形式，即输入值X，标签Y。最后，分成训练集，测试集，验证集。
   下面是处理数据的代码，及其解释。

def load_data(filename, seq_len, normalise_window):f = open(filename, 'rb').read()data = f.decode().split('\n')#读取出来的是字符串，需要转换成floatreal_data = []   # 需要去除空字符串和0for i in data:if i=='' or i=='0\r':continueelse:real_data.append(i)data_float = [float(da) for da in real_data]#此处长度+1，是因为需要留下最后的一个时间点作为训练的标签，即最后一个时间点被拆分出来作为y。#构造出来的result数组，每一行都比上一行平移了一个时间点sequence_length = seq_len + 1result = [] window = 5 # 即每选一组，向右移动5个for index in range(0,len(data_float) - sequence_length+1,window):  # window值可以修改，也就是滑动窗口的移动值，目前设为5，可以设为1到49之间的整数#print(index) result.append(data_float[index: index + sequence_length]) # 51个一组# 更改滑动窗口大小#print(len(result[1]))if normalise_window:result = normalise_windows(result)result = np.array(result) # 将列表转为矩阵# print(result[1])#拆分出0.9作为训练集#print(result.shape[0]) # 返回各个维度的维数#print(result.shape[1])row = round(0.9 * result.shape[0])train = result[:int(row), :]  # 取前90%的数据作为训练集#将训练集的数据打乱顺序#np.random.shuffle(train)#保留最后一个时间点为标签x_train = train[:, :-1]  #最后1列不要y_train = train[:, -1] # 只要最后1列x_test = result[int(row):, :-1]y_test = result[int(row):, -1] x_train = np.reshape(x_train, (x_train.shape[0], x_train.shape[1], 1)) # 变成3维矩阵x_test = np.reshape(x_test, (x_test.shape[0], x_test.shape[1], 1))return [x_train, y_train, x_test, y_test]

2. 搭建模型
   用Keras搭建模型有两种常用的方式，目前使用的是第一种，Sequential()。后面会介绍第二种。

def build_model(layers):  #[1,50,100,1]model = Sequential()model.add(LSTM(input_shape=(layers[1], layers[0]), # 50,1 后面通过fit函数指定bach_size。步长是50，维度是1output_dim=layers[1],            # 输出维度是50，即将1维转为50维return_sequences=True))  # 50*50model.add(Dropout(0.2))  # 正则化，减少过拟合model.add(LSTM(   # 第二层,输出为100维,仅输出最后一个步长layers[2], return_sequences=False))model.add(Dropout(0.2)) model.add(Dense(              # 全连接层output_dim=layers[3]))   # 输出1维一个。即单个数值model.add(Activation("linear"))start = time.time()model.compile(loss="mse", optimizer="rmsprop",metrics=['acc'])print("> Compilation Time : ", time.time() - start) return model 

预测图：

这里打印的数据都是经过标准化的，正常来说可以先对标准化的数据进行还原，在后面的博客中，会提到对数据进行还原的操作。
总的来说，用Keras构建模型是非常简单的，当然前提是你必须熟悉它的用法。构建模型很重要的一步就是算清楚每次运算的维度关系。可以自己print一下程序里面的一些步骤。

完整代码

import os
import time
import warnings
import numpy as np
from numpy import newaxis
from keras.layers.core import Dense, Activation, Dropout
from keras.layers.recurrent import LSTM
from keras.models import Sequential
import matplotlib.pyplot as pltos.environ['TF_CPP_MIN_LOG_LEVEL'] = '3' #Hide messy TensorFlow warnings
warnings.filterwarnings("ignore") #Hide messy Numpy warnings
def load_data(filename, seq_len, normalise_window):f = open(filename, 'rb').read()data = f.decode().split('\n')#读取出来的是字符串，需要转换成floatreal_data = []   # 需要去除空字符串和0for i in data:if i=='' or i=='0\r':continueelse:real_data.append(i)data_float = [float(da) for da in real_data]#此处长度+1，是因为需要留下最后的一个时间点作为训练的标签，即最后一个时间点被拆分出来作为y。#构造出来的result数组，每一行都比上一行平移了一个时间点sequence_length = seq_len + 1result = [] window = 5 # 即每选一组，向右移动5个for index in range(0,len(data_float) - sequence_length+1,window):  # window值可以修改，也就是滑动窗口的移动值，目前设为5，可以设为1到49之间的整数#print(index) result.append(data_float[index: index + sequence_length]) # 51个一组# 更改滑动窗口大小#print(len(result[1]))if normalise_window:result = normalise_windows(result)result = np.array(result) # 将列表转为矩阵# print(result[1])#拆分出0.9作为测试集#print(result.shape[0]) # 返回各个维度的维数#print(result.shape[1])row = round(0.9 * result.shape[0])train = result[:int(row), :]  # 取前90%的数据作为训练集#将训练集的数据打乱顺序#np.random.shuffle(train)#保留最后一个时间点为标签x_train = train[:, :-1]  #最后1列不要y_train = train[:, -1] # 只要最后1列x_test = result[int(row):, :-1]y_test = result[int(row):, -1] x_train = np.reshape(x_train, (x_train.shape[0], x_train.shape[1], 1)) # 变成3维矩阵x_test = np.reshape(x_test, (x_test.shape[0], x_test.shape[1], 1))return [x_train, y_train, x_test, y_test]def normalise_windows(window_data):normalised_data = []for window in window_data:normalised_window = [((float(p) / float(window[0])) - 1) for p in window]normalised_data.append(normalised_window)return normalised_datadef build_model(layers):  #[1,50,100,1]model = Sequential()model.add(LSTM(input_shape=(layers[1], layers[0]), # 50,1 后面通过fit函数指定bach_size。步长是50，维度是1output_dim=layers[1],            # 输出维度是50，即将1维转为50维return_sequences=True))  # 50*50model.add(Dropout(0.2))  # 正则化，减少过拟合model.add(LSTM(   # 第二层,输出为100维,仅输出最后一个步长layers[2], return_sequences=False))model.add(Dropout(0.2)) model.add(Dense(              # 全连接层output_dim=layers[3]))   # 输出1维一个。即单个数值model.add(Activation("linear"))start = time.time()model.compile(loss="mse", optimizer="rmsprop",metrics=['acc'])print("> Compilation Time : ", time.time() - start) return model def predict_point_by_point(model, data):#Predict each timestep given the last sequence of true data, in effect only predicting 1 step ahead each timepredicted = model.predict(data) predicted = np.reshape(predicted, (predicted.size,)) return predicted def plot_results(predicted_data, true_data):plt.plot(true_data, 'o-',label='True Data')plt.plot(predicted_data,'*-', label='Prediction')plt.legend()plt.show()#Main Run Thread
if __name__=='__main__':global_start_time = time.time()epochs  = 20seq_len = 50print('> Loading data... ')X_train, y_train, X_test, y_test = load_data('./HuShen300.csv', seq_len,True)#X_train, y_train, X_test, y_test = lstm.load_data('./sinwave.csv', seq_len, False)print('> Data Loaded. Compiling...')model = build_model([1, 50, 100, 1])#每批512，分批输入history=model.fit(X_train,y_train,batch_size=512,nb_epoch=epochs,validation_split=0.1) loss = history.history['loss']val_loss = history.history['val_loss']ep = range(1,len(loss)+1)plt.plot(ep, loss, 'bo', label='Training loss')plt.plot(ep, val_loss, 'b', label='Validation loss')plt.title('Training and validation loss')plt.legend()plt.show()predicted = predict_point_by_point(model, X_test)print(np.array(predicted).shape)print(y_test.shape)print('Training duration (s) : ', time.time() - global_start_time)#plot_results_multiple(predictions, y_test, 50)plot_results(predicted[:100],y_test[0:100])