首页 文章

“UnicodeDecodeError：'utf-8'编解码器无法解码字节0x80”，同时在google colaboratory上使用pydrive加载pickle文件

提问于
浏览 次
1

我是新手使用google colaboratory（colab）和pydrive . 我正在尝试使用colab将“CAS_num_strings”中的数据加载到我的google驱动器上的特定目录中的pickle文件中：

pickle.dump(CAS_num_strings,open('CAS_num_strings.p', 'wb'))
dump_meta = {'title': 'CAS.pkl', 'parents': [{'id':'1UEqIADV_tHic1Le0zlT25iYB7T6dBpBj'}]} 
pkl_dump = drive.CreateFile(dump_meta)
pkl_dump.SetContentFile('CAS_num_strings.p')
pkl_dump.Upload()
print(pkl_dump.get('id'))

其中'id'：'1UEqIADV_tHic1Le0zlT25iYB7T6dBpBj'确保它具有一个特定的父文件夹，该文件夹由此id给出 . 最后一个打印命令给出了输出：

'1ZgZfEaKgqGnuBD40CY8zg0MCiqKmi1vH'

因此，我能够创建和转储id为'1ZgZfEaKgqGnuBD40CY8zg0MCiqKmi1vH'的pickle文件 . 现在，我想在另一个colab脚本中加载这个pickle文件用于不同的目的 . 为了加载，我使用命令集：

cas_strings = drive.CreateFile({'id':'1ZgZfEaKgqGnuBD40CY8zg0MCiqKmi1vH'})
print('title: %s, mimeType: %s' % (cas_strings['title'], cas_strings['mimeType']))
print('Downloaded content "{}"'.format(cas_strings.GetContentString()))

这给了我输出：

title: CAS.pkl, mimeType: text/x-pascal

---------------------------------------------------------------------------
UnicodeDecodeError                        Traceback (most recent call last)
<ipython-input-9-a80d9de0fecf> in <module>()
     30 cas_strings = drive.CreateFile({'id':'1ZgZfEaKgqGnuBD40CY8zg0MCiqKmi1vH'})
     31 print('title: %s, mimeType: %s' % (cas_strings['title'], cas_strings['mimeType']))
---> 32 print('Downloaded content "{}"'.format(cas_strings.GetContentString()))
     33 
     34 

/usr/local/lib/python3.6/dist-packages/pydrive/files.py in GetContentString(self, mimetype, encoding, remove_bom)
    192                     self.has_bom == remove_bom:
    193       self.FetchContent(mimetype, remove_bom)
--> 194     return self.content.getvalue().decode(encoding)
    195 
    196   def GetContentFile(self, filename, mimetype=None, remove_bom=False):

UnicodeDecodeError: 'utf-8' codec can't decode byte 0x80 in position 0: invalid start byte

如您所见，它找到文件CAS.pkl但无法解码数据 . 我希望能够解决此错误 . 我知道正常的utf-8编码/解码在正常的pickle转储和使用'wb'和'rb'选项加载时运行顺畅 . 但是在目前的情况下，在倾销之后我似乎可以从这里找到（https://developers.google.com/drive/v2/reference/files#resource-representations）要修改的关键字/元数据标签 . 任何帮助表示赞赏 . 谢谢

python utf-8 pickle google-colaboratory pydrive

2 回答

  • 1

    问题是 GetContentString 仅在内容是有效的UTF-8字符串（docs）时才有效，而您的pickle不是 .

    不幸的是，你'll have to do a little extra work, since there' s没有 GetContentBytes - 您必须将内容保存到文件并将其读回 . 这是一个有效的例子：https://colab.research.google.com/drive/1gmh21OrJL0Dv49z28soYq_YcqKEnaQ1X

    回复于
  • 1

    实际上，我在朋友的帮助下找到了一个优雅的答案 . 我使用GetContentFile代替GetContentStrings，它是SetContentFile的对应物 . 这会将文件加载到当前工作空间中，我可以像任何pickle文件一样读取它 . 最后，数据很好地加载到cas_nums中 .

    cas_strings = drive.CreateFile({'id':'1ZgZfEaKgqGnuBD40CY8zg0MCiqKmi1vH'})
print('title: %s, mimeType: %s' % (cas_strings['title'], cas_strings['mimeType']))
cas_strings.GetContentFile(cas_strings['title'])
cas_nums = pickle.load(open(cas_strings['title'],'rb'))

    有关这方面的更多详细信息，请参阅下载文件内容部分中的pydrive文档 - http://pythonhosted.org/PyDrive/filemanagement.html#download-file-content

    回复于

相关问题