首页 文章
  • 3 votes
     answers
     views

    尝试与Keras一起使用HDF5数据集时出错

    尝试使用带有keras的HDF5数据集时出现以下错误 . 在创建验证数据切片时,似乎Sequential.fit()遇到切片的键没有属性“stop” . 我不知道这是否是我的HDF5数据集或其他内容的格式问题 . 任何帮助,将不胜感激 . Traceback(最近一次调用最后一次):文件“autoencoder.py”,第73行,在模块validation_split = 0.2)文件“/hom...
  • 0 votes
     answers
     views

    并行h5py / hdf5写入大型数据集会跳过数据块

    我正在使用mpi和h5py / hdf5(Hdf5和h5py被编译为具有并行功能并且所有内容都在python 3.4上运行 . )在一个集群上缝合重叠磁贴的数据集(200或更多图像/ numpy数组2048x2048) .每个磁贴都有一个指定的索引号,它对应于应该写入的位置,所有索引都存储在一个数组中: 示例 tile_array : array([[ 0, 1, 2, 3], [ 4,...
  • 16 votes
     answers
     views

    使用h5py对hdf5进行增量写入

    我有一个关于如何使用python / h5py最好地写入hdf5文件的问题 . 我有以下数据: ----------------------------------------- | timepoint | voltage1 | voltage2 | ... ----------------------------------------- | 178 | 10 | 12 ...
  • 6 votes
     answers
     views

    使用h5py将光栅图像添加到HDF5文件

    如果这是一个新手问题我很抱歉,但我对Python和HDF5还不熟悉 . 我正在使用h5py,numpy和Python 2.7 . 我有来自各种文件的数据需要导入到一个HDF5文件中 . 每个文件的数据将存储在不同的组中 . 这些组中的每一个都需要包含1)来自文件的原始数据作为m×n矩阵和2)从归一化原始数据生成的图像栅格 . 我能够完成第1部分,并能够规范化数据,但我无法将此规范化数据写入光栅图像...
  • 1 votes
     answers
     views

    使用python在hdf5数据集之间插入数据的最佳方法是什么?

    想象一下,2016年2月和2016年4月有一个hdf5文件有浮动值(1天间隔;例如温度),我想在2016年3月之后添加数据 . 这看起来像这样(在hdf5数据集中): 01-02-2016 5.6 02-02-2016 6.6 ... 28-02-2016 7.0 01-04-2016 7.1 ... 30-04-2016 9.2 现在我想在使用带有python的h5py库之...
  • 12 votes
     answers
     views

    如何使用h5py将数据附加到hdf5文件中的一个特定数据集

    我正在寻找使用python(h5py)将数据附加到h5文件中的现有数据集的可能性 . 我项目的简短介绍:我尝试使用医学图像数据训练CNN . 由于在将数据转换为nparrays期间存在大量数据和大量内存,我需要将“转换”拆分为几个数据块 - >加载并预处理前100个医学图像并将nparray保存到hdf5 file - >加载下100个数据集并附加现有的h5文件 . 现在我尝试按如下...
  • 2 votes
     answers
     views

    使用h5py沿新轴向现有h5py文件添加数据

    我有一些生成3d Numpy数组的示例代码 - 然后我使用h5文件将此数据保存到h5py文件中 . 那么我怎么能沿着第四维度的第二个数据集"append"?或者,如何沿现有 .h5 文件的第4维(或新轴)编写另一个3d数据集?我已经阅读了我能找到的文档,但没有一个例子可以解决这个问题 . 我的代码如下所示: import h5py import numpy as np dat...
  • 3 votes
     answers
     views

    退出状态为2时,h5py安装错误失败

    我使用的是Windows 7和Python 2.7.9 . 我尝试用pip安装h5py,但是有以下错误: [c:\ users \ dell \ appdata \ local \ temp \ pip-build-j2msd9 \ h5py \ h5py \ api_compat.h(27):致命错误C1083:无法打开包括文件:“hdf5.h”:没有这样的文件或目录 错误:命令'd:\ vis...
  • 66 votes
     answers
     views

    使用HDF5进行大型阵列存储(而不是平面二进制文件)是否存在分析速度或内存使用优势?

    我正在处理大型3D阵列,我经常需要以各种方式进行切片以进行各种数据分析 . 典型的“立方体”可以是~100GB(将来可能会变大) 似乎python中大型数据集的典型推荐文件格式是使用HDF5(h5py或pytables) . 我的问题是:使用HDF5存储和分析这些立方体而不是将它们存储在简单的平面二进制文件中是否有任何速度或内存使用效益? HDF5是否更适合表格数据,而不像我正在使用的大型数组?我...

热门问题