RError.com

RError.com Logo RError.com Logo

RError.com Navigation

  • 主页

Mobile menu

Close
  • 主页
  • 系统&网络
    • 热门问题
    • 最新问题
    • 标签
  • Ubuntu
    • 热门问题
    • 最新问题
    • 标签
  • 帮助
主页 / 问题 / 1436307
Accepted
venanen
venanen
Asked:2022-08-05 03:51:01 +0000 UTC2022-08-05 03:51:01 +0000 UTC 2022-08-05 03:51:01 +0000 UTC

如何在神经网络中正确缩放数据

  • 772

我正在训练一个神经网络。神经网络有三个输入——两个用于时间序列(LSTM 层)和一个纯数字(完全连接的密集层)。通过 .summary() 的神经网络结构:在此处输入图像描述

问题是这样的。目前,在数据准备过程中,我通过 MinMaxScaler(每个输入参数单独)在 0 到 1 的范围内缩放数据。因此,我从两个数组中得到一个输入,长度为 [0; 1] 范围内的 50 个数字和同一范围内的一个数字(即输入的维度为 (n, 50, 1); (n, 50 , 1) ;(n, 1))。必须说,神经元不仅在学习过程中收敛并显示出足够的结果,而且在根据其他数据进行测试时也显示出足够的结果。也就是说,从功能上看,一切似乎都是正确的。

现在的问题: 在准备数据集时,我一次获取大量数据(有条件地,10,000 次测量)并一次缩放整个系列:

data_close = scaler_close.fit_transform(gazp.filter(['close'])[100:])
data_proffit = scaler_proffit.fit_transform(gazp.filter(['proffit'])[100:])
data_rsi = scaler_rsi.fit_transform(rsi.values[100:].reshape(-1,1 ))
data_macd = scaler_macd.fit_transform(macdhist.values[100:].reshape(-1,1 ))
len(data_macd), len(data_close) 

事实是,神经网络本身是在具有 50 个样本窗口的样本上训练的,也就是说,用于预测(如果我理解正确的话)——它只需要 50 个样本。此外,神经网络必须动态处理新数据,但如果你先将数据集分成 50 个样本,然后应用缩放器,那么神经网络就会停止工作并发出废话。因此,我有一个问题——如果神经网络必须根据传入的数据预测动态结果,那么在这种情况下,将值缩放到所需范围的正确方法是什么?

нейронные-сети tensorflow
  • 1 1 个回答
  • 33 Views

1 个回答

  • Voted
  1. Best Answer
    CrazyElf
    2022-08-05T13:07:52Z2022-08-05T13:07:52Z
    data_close = scaler_close.fit_transform(gazp.filter(['close'])[100:])
    

    如果缩放器不是一次应用,而是应用于部分数据,则需要将其划分fit_transform为单独的阶段。理想情况下fit,您需要对所有数据执行此操作,然后您可以transform对其中的任何部分执行任意多次。如果不可能fit对所有数据执行此操作,请对当前可用的数据执行此操作。最重要的是固定规模。如果您每次都这样做fit_transform,那么您每次都更改转换比例,那么输出当然是无稽之谈。

    scaler_close.fit(gazp.filter(['close'])[100:])
    ...
    for i in range...
        data_close = scaler_close.transform(gazp.filter(['close'])[i:i+50])
        ...
    ...
    

    依此类推,分别针对您的每个特征缩放器。

    现在是幻灯片。我采用了数据一直均匀增长的退化情况。fit有了真实数据,有了一条数据,画面会更好,[0,1]在这种情况下,规模很可能会更接近。但在任何情况下,规模并不完全适合[0,1]神经网络的事实通常应该可以应付。但是,如果数据被破坏,那么它的结果就根本无法预料。

    但这里的主要问题是,fit_transform对于每一个单独的数据,这些数据在值方面的匹配度会很差,这就是我想要展示的。

    在此处输入图像描述

    在此处输入图像描述

    在此处输入图像描述

    在此处输入图像描述

    在此处输入图像描述

    幻灯片代码:

    from sklearn.preprocessing import MinMaxScaler
    import seaborn as sns
    import matplotlib.pyplot as plt
    import numpy as np
    
    n = 100
    k = 20
    x = np.arange(n)
    y = x
    
    plt.figure()
    sns.scatterplot(x=x, y=y)
    plt.title('Исходные данные')
    
    scaler = MinMaxScaler()
    
    y1 = scaler.fit_transform(y.reshape(-1,1))[:,0]
    plt.figure()
    sns.scatterplot(x=x, y=y1)
    plt.title('Масштабирование сразу всех данных')
    
    plt.figure()
    for i in range(0, n, k):
        x1 = range(i,i+k)
        y1 = y[x1]
        y1 = scaler.fit_transform(y1.reshape(-1,1))[:,0]
        sns.scatterplot(x=x1, y=y1)
    plt.title('Масштабирование частями через fit_transform')
    
    scaler.fit(y.reshape(-1,1))
    plt.figure()
    for i in range(0, n, k):
        x1 = range(i,i+k)
        y1 = y[x1]
        y1 = scaler.transform(y1.reshape(-1,1))[:,0]
        sns.scatterplot(x=x1, y=y1)
    plt.title('fit на всех данных, transform по частям')
    
    scaler.fit(y[:k].reshape(-1,1))
    plt.figure()
    for i in range(0, n, k):
        x1 = range(i,i+k)
        y1 = y[x1]
        y1 = scaler.transform(y1.reshape(-1,1))[:,0]
        sns.scatterplot(x=x1, y=y1)
    plt.title('fit на первой части данных, transform по частям')
    

    更多正弦波图片。

    y = np.sin(5*np.pi*x/n)
    

    可以看出,使用部分fit比例,[0,1]结果却是[-1,1],但图形被保留了。并且fit_transform每次正弦明显恶化。

    在此处输入图像描述

    在此处输入图像描述

    在此处输入图像描述

    • 1

相关问题

  • 在 MATLAB 中使用神经网络进行滑动窗口时间序列预测

  • 错误反向传播算法——神经网络的输出出现错误

  • 我们需要现成的神经网络来识别图片或视频序列中的对象,以及它们的描述

  • 帮助改写tensorflow 2.0的代码;图像人工智能;Python

  • 使用卷积网络的特征图

  • 将绝对值转移到归一化值的范围内,反之亦然

Sidebar

Stats

  • 问题 10021
  • Answers 30001
  • 最佳答案 8000
  • 用户 6900
  • 常问
  • 回答
  • Marko Smith

    我看不懂措辞

    • 1 个回答
  • Marko Smith

    请求的模块“del”不提供名为“default”的导出

    • 3 个回答
  • Marko Smith

    "!+tab" 在 HTML 的 vs 代码中不起作用

    • 5 个回答
  • Marko Smith

    我正在尝试解决“猜词”的问题。Python

    • 2 个回答
  • Marko Smith

    可以使用哪些命令将当前指针移动到指定的提交而不更改工作目录中的文件?

    • 1 个回答
  • Marko Smith

    Python解析野莓

    • 1 个回答
  • Marko Smith

    问题:“警告:检查最新版本的 pip 时出错。”

    • 2 个回答
  • Marko Smith

    帮助编写一个用值填充变量的循环。解决这个问题

    • 2 个回答
  • Marko Smith

    尽管依赖数组为空,但在渲染上调用了 2 次 useEffect

    • 2 个回答
  • Marko Smith

    数据不通过 Telegram.WebApp.sendData 发送

    • 1 个回答
  • Martin Hope
    Alexandr_TT 2020年新年大赛! 2020-12-20 18:20:21 +0000 UTC
  • Martin Hope
    Alexandr_TT 圣诞树动画 2020-12-23 00:38:08 +0000 UTC
  • Martin Hope
    Air 究竟是什么标识了网站访问者? 2020-11-03 15:49:20 +0000 UTC
  • Martin Hope
    Qwertiy 号码显示 9223372036854775807 2020-07-11 18:16:49 +0000 UTC
  • Martin Hope
    user216109 如何为黑客设下陷阱,或充分击退攻击? 2020-05-10 02:22:52 +0000 UTC
  • Martin Hope
    Qwertiy 并变成3个无穷大 2020-11-06 07:15:57 +0000 UTC
  • Martin Hope
    koks_rs 什么是样板代码? 2020-10-27 15:43:19 +0000 UTC
  • Martin Hope
    Sirop4ik 向 git 提交发布的正确方法是什么? 2020-10-05 00:02:00 +0000 UTC
  • Martin Hope
    faoxis 为什么在这么多示例中函数都称为 foo? 2020-08-15 04:42:49 +0000 UTC
  • Martin Hope
    Pavel Mayorov 如何从事件或回调函数中返回值?或者至少等他们完成。 2020-08-11 16:49:28 +0000 UTC

热门标签

javascript python java php c# c++ html android jquery mysql

Explore

  • 主页
  • 问题
    • 热门问题
    • 最新问题
  • 标签
  • 帮助

Footer

RError.com

关于我们

  • 关于我们
  • 联系我们

Legal Stuff

  • Privacy Policy

帮助

© 2023 RError.com All Rights Reserve   沪ICP备12040472号-5