Во-первых, некоторый фон: я разрабатываю веб-приложение с помощью Python. Весь мой (текст) файлы в настоящее время хранится в UTF-8 с BOM. Это включает все мои шаблоны HTML и файлы CSS. Эти ресурсы хранятся как двоичные данные (BOM и все) в моем DB.
Когда я получаю шаблоны от DB, я декодирую их использование template.decode('utf-8')
. Когда HTML прибывает в браузер, BOM присутствует в начале Текста ответа HTTP. Это генерирует очень интересную ошибку в Chrome:
Extra <html> encountered. Migrating attributes back to the original <html> element and ignoring the tag.
Chrome, кажется, генерирует <html>
отметьте автоматически, когда это будет видеть BOM и будет принимать его за содержание, делая реальное <html>
отметьте ошибку.
Так, использование Python, что лучший способ состоит в том, чтобы удалить BOM из моего UTF-8, закодировало шаблоны (если это будет существовать то - я не могу гарантировать это в будущем)?
Для других основанных на тексте файлов как CSS главные браузеры правильно интерпретируют (или проигнорируют), BOM? Они отправляются как простые двоичные данные без .decode('utf-8')
.
Примечание: Я использую Python 2.5.
Спасибо!
Поскольку вы заявляете:
Все мои (текстовые) файлы в настоящее время хранятся в UTF-8 с BOM
то для их декодирования используйте кодек 'utf-8-sig':
>>> s = u'Hello, world!'.encode('utf-8-sig')
>>> s
'\xef\xbb\xbfHello, world!'
>>> s.decode('utf-8-sig')
u'Hello, world!'
Он автоматически удаляет ожидаемый BOM, и работает корректно, если BOM отсутствует.
Вы можете использовать что-то подобное, чтобы удалить BOM:
import os, codecs
def remove_bom_from_file(filename, newfilename):
if os.path.isfile(filename):
# open file
f = open(filename,'rb')
# read first 4 bytes
header = f.read(4)
# check if we have BOM...
bom_len = 0
encodings = [ ( codecs.BOM_UTF32, 4 ),
( codecs.BOM_UTF16, 2 ),
( codecs.BOM_UTF8, 3 ) ]
# ... and remove appropriate number of bytes
for h, l in encodings:
if header.startswith(h):
bom_len = l
break
f.seek(0)
f.read(bom_len)
# copy the rest of file
contents = f.read()
nf = open(newfilename)
nf.write(contents)
nf.close()
Ранее принятый ответ НЕПРАВИЛЬНЫЙ.
u '\ ufffe'
не является персонажем. Если вы получите его в строке Unicode, кто-то сильно набросился.
Спецификация (также известная как ZERO WIDTH NO-BREAK SPACE): u '\ ufeff'
>>> UNICODE_BOM = u'\N{ZERO WIDTH NO-BREAK SPACE}'
>>> UNICODE_BOM
u'\ufeff'
>>>
Прочтите это (Ctrl-F поиск спецификации) и это и это (Ctrl-F поиск спецификации).
Вот правильный и устойчивый к опечаткам / логическим ошибкам ответ:
Расшифруйте введенные данные в unicode_str
. Затем сделайте следующее:
# If I mistype the following, it's very likely to cause a SyntaxError.
UNICODE_BOM = u'\N{ZERO WIDTH NO-BREAK SPACE}'
if unicode_str and unicode_str[0] == UNICODE_BOM:
unicode_str = unicode_str[1:]
Бонус: использование именованной константы дает вашим читателям немного больше подсказки о том, что происходит, чем набор кажущихся произвольными гексоглиф.
Обновление К сожалению, похоже, что в стандартной библиотеке Python нет подходящей именованной константы.
Увы, модуль кодеков предоставляет только «ловушку и заблуждение»:
>>> import pprint, codecs
>>> pprint.pprint([(k, getattr(codecs, k)) for k in dir(codecs) if k.startswith('BOM')])
[('BOM', '\xff\xfe'), #### aarrgghh!! ####
('BOM32_BE', '\xfe\xff'),
('BOM32_LE', '\xff\xfe'),
('BOM64_BE', '\x00\x00\xfe\xff'),
('BOM64_LE', '\xff\xfe\x00\x00'),
('BOM_BE', '\xfe\xff'),
('BOM_LE', '\xff\xfe'),
('BOM_UTF16', '\xff\xfe'),
('BOM_UTF16_BE', '\xfe\xff'),
('BOM_UTF16_LE', '\xff\xfe'),
('BOM_UTF32', '\xff\xfe\x00\x00'),
('BOM_UTF32_BE', '\x00\x00\xfe\xff'),
('BOM_UTF32_LE', '\xff\xfe\x00\x00'),
('BOM_UTF8', '\xef\xbb\xbf')]
>>>
Обновление 2 Если вы еще не декодировали свой ввод и хотите проверить его на наличие спецификации, вам нужно проверить ДВЕ разных спецификаций для UTF-16 и как минимум ДВЕ разных спецификаций для UTF-32. Если бы у каждого был только один путь, тогда вам не понадобилась бы спецификация, не так ли?
Вот дословно, не уточненное из моего собственного кода, мое решение этой проблемы:
def check_for_bom(s):
bom_info = (
('\xFF\xFE\x00\x00', 4, 'UTF-32LE'),
('\x00\x00\xFE\xFF', 4, 'UTF-32BE'),
('\xEF\xBB\xBF', 3, 'UTF-8'),
('\xFF\xFE', 2, 'UTF-16LE'),
('\xFE\xFF', 2, 'UTF-16BE'),
)
for sig, siglen, enc in bom_info:
if s.startswith(sig):
return enc, siglen
return None, 0
Входные s
должны быть по крайней мере, первые 4 байта вашего ввода. Он возвращает кодировку, которая может использоваться для декодирования части ввода после спецификации, плюс длина спецификации (если есть).
Если вы параноик, вы можете разрешить еще 2 (нестандартных) упорядочивания UTF-32, но Python не предоставляет для них кодировку, и я никогда не слышал о фактическом возникновении, поэтому я не беспокоить.
Проверьте первый символ после декодирования, чтобы убедиться, что это спецификация:
if u.startswith(u'\ufeff'):
u = u[1:]