Python :UnicodeDecodeError :Кодек utf8 не может декодировать байт

Я читаю кучу файлов RTF в строки Python. В НЕКОТОРЫХ текстах я получаю эту ошибку:

Traceback (most recent call last):
  File "11.08.py", line 47, in <module>
    X = vectorizer.fit_transform(texts)
  File "C:\Python27\lib\site-packages\sklearn\feature_extraction\text.py", line
716, in fit_transform
    X = super(TfidfVectorizer, self).fit_transform(raw_documents)
  File "C:\Python27\lib\site-packages\sklearn\feature_extraction\text.py", line
398, in fit_transform
    term_count_current = Counter(analyze(doc))
  File "C:\Python27\lib\site-packages\sklearn\feature_extraction\text.py", line
313, in <lambda>
    tokenize(preprocess(self.decode(doc))), stop_words)
  File "C:\Python27\lib\site-packages\sklearn\feature_extraction\text.py", line
224, in decode
    doc = doc.decode(self.charset, self.charset_error)
  File "C:\Python27\lib\encodings\utf_8.py", line 16, in decode
    return codecs.utf_8_decode(input, errors, True)
UnicodeDecodeError: 'utf8' codec can't decode byte 0x92 in position 462: invalid
 start byte

Я пробовал:

  1. Копирование и вставка текста файлов в новые файлы
  2. сохранение файлов rtf в виде файлов txt
  3. Откройте файлы txt в Notepad++ и выберите «преобразовать в utf -8», а также установите кодировку в utf -8
  4. . Открытие файлов в Microsoft Word и сохранение их как новых файлов

Ничего не работает. Любые идеи?

Вероятно, это не связано, но вот код, если вам интересно:

f = open(dir+location, "r")
doc = Rtf15Reader.read(f)
t = PlaintextWriter.write(doc).getvalue()
texts.append(t)
f.close()
vectorizer = TfidfVectorizer(sublinear_tf=True, max_df=0.5, stop_words='english')
X = vectorizer.fit_transform(texts)     
13
задан Zach 11 August 2012 в 23:32
поделиться