Может ли .NET преобразовать Unicode в ASCII для удаления «умных кавычек» и т. Д.?

Некоторые из наших пользователей используют почтовые клиенты, которые не могут работать с Unicode, даже если кодировка и т. Д. Правильно установлена ​​в заголовках почты.

Я бы хотел «нормализовать» контент, который они получают. Самая большая проблема, с которой мы сталкиваемся, заключается в том, что пользователи копируют и вставляют контент из Microsoft Word в наше веб-приложение, которое затем пересылает этот контент по электронной почте, включая дроби, умные кавычки и все другие расширенные символы Unicode, которые Word любезно вставляет для вас. .

Я предполагаю, что для этого нет однозначного решения, но прежде чем я сяду и начну писать отличные большие таблицы поиска, есть ли какой-нибудь встроенный метод, который поможет мне начать?

В основном есть три этапа участвует.

Во-первых, удаление акцентов с обычных букв - решение этой здесь

This paragraph contains “smart quotes” and áccénts and ½ of the problem is fractions

переходит к

This paragraph contains “smart quotes” and accents and ½ of the problem is fractions

Во-вторых, заменяя отдельные символы Unicode их эквивалентами ASCII, чтобы получить:

This paragraph contains "smart quotes" and accents and ½ of the problem is fractions

Это та часть, где я надеюсь есть решение, прежде чем я буду реализовывать свое собственное. Наконец, замена определенных символов подходящей последовательностью ASCII - от ½ до 1/2 и т. Д. - которая, я почти уверен, изначально не поддерживается какой-либо магией Unicode, но кто-то мог написать подходящую таблицу поиска, которую я могу использовать повторно.

Есть идеи?

17
задан Community 23 May 2017 в 12:02
поделиться

1 ответ

Спасибо всем за некоторые очень полезные ответы. Я понимаю, что на самом деле вопрос не в том, «Как я могу преобразовать ЛЮБОЙ символ Юникода в его запасной вариант ASCII» - вопрос в том, «как я могу преобразовать символы Юникода , которые мои клиенты жалуются на , в свои запасные варианты ASCII»?

Другими словами - нам не нужно универсальное решение; нам нужно решение, которое будет работать в 99% случаев, чтобы англоязычные клиенты вставляли англоязычный контент из Word и других веб-сайтов в наше приложение. С этой целью я проанализировал восемь лет сообщений, отправленных через нашу систему в поисках символов, которые не могут быть представлены в кодировке ASCII, с помощью этого теста:

///<summary>Determine whether the supplied character is 
///using ASCII encoding.</summary>
bool IsAscii(char inputChar) {
    var ascii = new ASCIIEncoding();
    var asciiChar = (char)(ascii.GetBytes(inputChar.ToString())[0]);
    return(asciiChar == inputChar);
}

Я тогда прошел через полученный набор непредставляемых символов и вручную назначить соответствующую строку замены. Вся партия связана в методе расширения, поэтому вы можете вызвать myString.Asciify () для преобразования вашей строки в разумное приближение ASCII-кодирования.

public static class StringExtensions {
    private static readonly Dictionary<char, string> Replacements = new Dictionary<char, string>();
    /// <summary>Returns the specified string with characters not representable in ASCII codepage 437 converted to a suitable representative equivalent.  Yes, this is lossy.</summary>
    /// <param name="s">A string.</param>
    /// <returns>The supplied string, with smart quotes, fractions, accents and punctuation marks 'normalized' to ASCII equivalents.</returns>
    /// <remarks>This method is lossy. It's a bit of a hack that we use to get clean ASCII text for sending to downlevel e-mail clients.</remarks>
    public static string Asciify(this string s) {
        return (String.Join(String.Empty, s.Select(c => Asciify(c)).ToArray()));
    }

    private static string Asciify(char x) {
        return Replacements.ContainsKey(x) ? (Replacements[x]) : (x.ToString());
    }

    static StringExtensions() {
        Replacements['’'] = "'"; // 75151 occurrences
        Replacements['–'] = "-"; // 23018 occurrences
        Replacements['‘'] = "'"; // 9783 occurrences
        Replacements['”'] = "\""; // 6938 occurrences
        Replacements['“'] = "\""; // 6165 occurrences
        Replacements['…'] = "..."; // 5547 occurrences
        Replacements['£'] = "GBP"; // 3993 occurrences
        Replacements['•'] = "*"; // 2371 occurrences
        Replacements[' '] = " "; // 1529 occurrences
        Replacements['é'] = "e"; // 878 occurrences
        Replacements['ï'] = "i"; // 328 occurrences
        Replacements['´'] = "'"; // 226 occurrences
        Replacements['—'] = "-"; // 133 occurrences
        Replacements['·'] = "*"; // 132 occurrences
        Replacements['„'] = "\""; // 102 occurrences
        Replacements['€'] = "EUR"; // 95 occurrences
        Replacements['®'] = "(R)"; // 91 occurrences
        Replacements['¹'] = "(1)"; // 80 occurrences
        Replacements['«'] = "\""; // 79 occurrences
        Replacements['è'] = "e"; // 79 occurrences
        Replacements['á'] = "a"; // 55 occurrences
        Replacements['™'] = "TM"; // 54 occurrences
        Replacements['»'] = "\""; // 52 occurrences
        Replacements['ç'] = "c"; // 52 occurrences
        Replacements['½'] = "1/2"; // 48 occurrences
        Replacements['­'] = "-"; // 39 occurrences
        Replacements['°'] = " degrees "; // 33 occurrences
        Replacements['ä'] = "a"; // 33 occurrences
        Replacements['É'] = "E"; // 31 occurrences
        Replacements['‚'] = ","; // 31 occurrences
        Replacements['ü'] = "u"; // 30 occurrences
        Replacements['í'] = "i"; // 28 occurrences
        Replacements['ë'] = "e"; // 26 occurrences
        Replacements['ö'] = "o"; // 19 occurrences
        Replacements['à'] = "a"; // 19 occurrences
        Replacements['¬'] = " "; // 17 occurrences
        Replacements['ó'] = "o"; // 15 occurrences
        Replacements['â'] = "a"; // 13 occurrences
        Replacements['ñ'] = "n"; // 13 occurrences
        Replacements['ô'] = "o"; // 10 occurrences
        Replacements['¨'] = ""; // 10 occurrences
        Replacements['å'] = "a"; // 8 occurrences
        Replacements['ã'] = "a"; // 8 occurrences
        Replacements['ˆ'] = ""; // 8 occurrences
        Replacements['©'] = "(c)"; // 6 occurrences
        Replacements['Ä'] = "A"; // 6 occurrences
        Replacements['Ï'] = "I"; // 5 occurrences
        Replacements['ò'] = "o"; // 5 occurrences
        Replacements['ê'] = "e"; // 5 occurrences
        Replacements['î'] = "i"; // 5 occurrences
        Replacements['Ü'] = "U"; // 5 occurrences
        Replacements['Á'] = "A"; // 5 occurrences
        Replacements['ß'] = "ss"; // 4 occurrences
        Replacements['¾'] = "3/4"; // 4 occurrences
        Replacements['È'] = "E"; // 4 occurrences
        Replacements['¼'] = "1/4"; // 3 occurrences
        Replacements['†'] = "+"; // 3 occurrences
        Replacements['³'] = "'"; // 3 occurrences
        Replacements['²'] = "'"; // 3 occurrences
        Replacements['Ø'] = "O"; // 2 occurrences
        Replacements['¸'] = ","; // 2 occurrences
        Replacements['Ë'] = "E"; // 2 occurrences
        Replacements['ú'] = "u"; // 2 occurrences
        Replacements['Ö'] = "O"; // 2 occurrences
        Replacements['û'] = "u"; // 2 occurrences
        Replacements['Ú'] = "U"; // 2 occurrences
        Replacements['Œ'] = "Oe"; // 2 occurrences
        Replacements['º'] = "?"; // 1 occurrences
        Replacements['‰'] = "0/00"; // 1 occurrences
        Replacements['Å'] = "A"; // 1 occurrences
        Replacements['ø'] = "o"; // 1 occurrences
        Replacements['˜'] = "~"; // 1 occurrences
        Replacements['æ'] = "ae"; // 1 occurrences
        Replacements['ù'] = "u"; // 1 occurrences
        Replacements['‹'] = "<"; // 1 occurrences
        Replacements['±'] = "+/-"; // 1 occurrences
    }
}

Обратите внимание, что здесь есть несколько довольно странных откатов - как этот:

Replacements['³'] = "'"; // 3 occurrences
Replacements['²'] = "'"; // 3 occurrences

Это потому, что у одного из наших пользователей есть какая-то программа, которая преобразует умные кавычки открытия / закрытия в ² и ³ (например, он сказал «привет»), и никто никогда не использовал их для выражения возведения в степень, так что это, вероятно, будет работать очень хорошо для нас, но YMMV.

19
ответ дан 30 November 2019 в 13:11
поделиться
Другие вопросы по тегам:

Похожие вопросы: