Как убрать символьные сущности HTML в Java?

147

По сути, я хотел бы декодировать данный HTML-документ и заменить все специальные символы, такие как " "-> " ", ">"-> ">".

В .NET мы можем использовать HttpUtility.HtmlDecode.

Какая эквивалентная функция в Java?

yinyueyouge
источник
4
& NBSP; называется персонажем сущности. Отредактировал заголовок.
Юджин Йокота

Ответы:

182

Я использовал Apache Commons StringEscapeUtils.unescapeHtml4 () для этого:

Unescapes строка, содержащая сущность, экранируется в строку, содержащую фактические символы Unicode, соответствующие экранированию. Поддерживает сущности HTML 4.0.

Кевин Хакансон
источник
19
К сожалению, я только сегодня понял, что он не очень хорошо декодирует специальные символы HTML :(
Sid
1
грязный трюк состоит в том, чтобы сначала сохранить значение в скрытом поле, чтобы избежать его, затем целевое поле должно получить значение из скрытого поля.
Сетзамора
2
Класс StringEscapeUtils устарел и перенесен в Apache commons-text
Pauli
2
Я хочу преобразовать строку <p>&uuml;&egrave;</p>в <p>üé</p>, с StringEscapeUtils.unescapeHtml4()я получаю &lt;p&gt;üè&lt;/p&gt;. Есть ли способ сохранить существующие HTML-теги без изменений?
Nickkk
48

Библиотеки, упомянутые в других ответах, были бы хорошими решениями, но если вам уже приходилось копаться в реальных html-кодах в вашем проекте, Jsoupпроект может предложить гораздо больше, чем просто управлять «точками с запятой» .

// textValue: <p>This is a&nbsp;sample. \"Granny\" Smith &#8211;.<\/p>\r\n
// becomes this: This is a sample. "Granny" Smith –.
// with one line of code:
// Jsoup.parse(textValue).getText(); // for older versions of Jsoup
Jsoup.parse(textValue).text();

// Another possibility may be the static unescapeEntities method:
boolean strictMode = true;
String unescapedString = org.jsoup.parser.Parser.unescapeEntities(textValue, strictMode);

Кроме того, вы получаете удобный API для извлечения и обработки данных, используя лучшие методы DOM, CSS и jquery-подобные. Это лицензия с открытым исходным кодом и MIT.

Дол
источник
3
upvote +, но я должен указать, что более новые версии Jsoup используют .text()вместо.getText()
SourceVisor
4
Возможно, более прямым является использование org.jsoup.parser.Parser.unescapeEntities(String string, boolean inAttribute). API Docs: jsoup.org/apidocs/org/jsoup/parser/...
danneu
3
Это было прекрасно, так как я уже использую Jsoup в своем проекте. Кроме того, @danneu был прав - Parser.unescapeEntities работает точно так, как рекламируется.
MandisaW
42

Я пробовал Apache Commons StringEscapeUtils.unescapeHtml3 () в своем проекте, но не был удовлетворен его производительностью. Оказывается, он делает много ненужных операций. Во-первых, он выделяет StringWriter для каждого вызова, даже если в строке ничего нет. Я переписал этот код по-другому, теперь он работает намного быстрее. Любой, кто найдет это в Google, может использовать его.

Следующий код удаляет все символы HTML 3 и числовые экранированные символы (эквивалент Apache unescapeHtml3). Вы можете просто добавить больше записей на карту, если вам нужен HTML 4.

package com.example;

import java.io.StringWriter;
import java.util.HashMap;

public class StringUtils {

    public static final String unescapeHtml3(final String input) {
        StringWriter writer = null;
        int len = input.length();
        int i = 1;
        int st = 0;
        while (true) {
            // look for '&'
            while (i < len && input.charAt(i-1) != '&')
                i++;
            if (i >= len)
                break;

            // found '&', look for ';'
            int j = i;
            while (j < len && j < i + MAX_ESCAPE + 1 && input.charAt(j) != ';')
                j++;
            if (j == len || j < i + MIN_ESCAPE || j == i + MAX_ESCAPE + 1) {
                i++;
                continue;
            }

            // found escape 
            if (input.charAt(i) == '#') {
                // numeric escape
                int k = i + 1;
                int radix = 10;

                final char firstChar = input.charAt(k);
                if (firstChar == 'x' || firstChar == 'X') {
                    k++;
                    radix = 16;
                }

                try {
                    int entityValue = Integer.parseInt(input.substring(k, j), radix);

                    if (writer == null) 
                        writer = new StringWriter(input.length());
                    writer.append(input.substring(st, i - 1));

                    if (entityValue > 0xFFFF) {
                        final char[] chrs = Character.toChars(entityValue);
                        writer.write(chrs[0]);
                        writer.write(chrs[1]);
                    } else {
                        writer.write(entityValue);
                    }

                } catch (NumberFormatException ex) { 
                    i++;
                    continue;
                }
            }
            else {
                // named escape
                CharSequence value = lookupMap.get(input.substring(i, j));
                if (value == null) {
                    i++;
                    continue;
                }

                if (writer == null) 
                    writer = new StringWriter(input.length());
                writer.append(input.substring(st, i - 1));

                writer.append(value);
            }

            // skip escape
            st = j + 1;
            i = st;
        }

        if (writer != null) {
            writer.append(input.substring(st, len));
            return writer.toString();
        }
        return input;
    }

    private static final String[][] ESCAPES = {
        {"\"",     "quot"}, // " - double-quote
        {"&",      "amp"}, // & - ampersand
        {"<",      "lt"}, // < - less-than
        {">",      "gt"}, // > - greater-than

        // Mapping to escape ISO-8859-1 characters to their named HTML 3.x equivalents.
        {"\u00A0", "nbsp"}, // non-breaking space
        {"\u00A1", "iexcl"}, // inverted exclamation mark
        {"\u00A2", "cent"}, // cent sign
        {"\u00A3", "pound"}, // pound sign
        {"\u00A4", "curren"}, // currency sign
        {"\u00A5", "yen"}, // yen sign = yuan sign
        {"\u00A6", "brvbar"}, // broken bar = broken vertical bar
        {"\u00A7", "sect"}, // section sign
        {"\u00A8", "uml"}, // diaeresis = spacing diaeresis
        {"\u00A9", "copy"}, // © - copyright sign
        {"\u00AA", "ordf"}, // feminine ordinal indicator
        {"\u00AB", "laquo"}, // left-pointing double angle quotation mark = left pointing guillemet
        {"\u00AC", "not"}, // not sign
        {"\u00AD", "shy"}, // soft hyphen = discretionary hyphen
        {"\u00AE", "reg"}, // ® - registered trademark sign
        {"\u00AF", "macr"}, // macron = spacing macron = overline = APL overbar
        {"\u00B0", "deg"}, // degree sign
        {"\u00B1", "plusmn"}, // plus-minus sign = plus-or-minus sign
        {"\u00B2", "sup2"}, // superscript two = superscript digit two = squared
        {"\u00B3", "sup3"}, // superscript three = superscript digit three = cubed
        {"\u00B4", "acute"}, // acute accent = spacing acute
        {"\u00B5", "micro"}, // micro sign
        {"\u00B6", "para"}, // pilcrow sign = paragraph sign
        {"\u00B7", "middot"}, // middle dot = Georgian comma = Greek middle dot
        {"\u00B8", "cedil"}, // cedilla = spacing cedilla
        {"\u00B9", "sup1"}, // superscript one = superscript digit one
        {"\u00BA", "ordm"}, // masculine ordinal indicator
        {"\u00BB", "raquo"}, // right-pointing double angle quotation mark = right pointing guillemet
        {"\u00BC", "frac14"}, // vulgar fraction one quarter = fraction one quarter
        {"\u00BD", "frac12"}, // vulgar fraction one half = fraction one half
        {"\u00BE", "frac34"}, // vulgar fraction three quarters = fraction three quarters
        {"\u00BF", "iquest"}, // inverted question mark = turned question mark
        {"\u00C0", "Agrave"}, // А - uppercase A, grave accent
        {"\u00C1", "Aacute"}, // Б - uppercase A, acute accent
        {"\u00C2", "Acirc"}, // В - uppercase A, circumflex accent
        {"\u00C3", "Atilde"}, // Г - uppercase A, tilde
        {"\u00C4", "Auml"}, // Д - uppercase A, umlaut
        {"\u00C5", "Aring"}, // Е - uppercase A, ring
        {"\u00C6", "AElig"}, // Ж - uppercase AE
        {"\u00C7", "Ccedil"}, // З - uppercase C, cedilla
        {"\u00C8", "Egrave"}, // И - uppercase E, grave accent
        {"\u00C9", "Eacute"}, // Й - uppercase E, acute accent
        {"\u00CA", "Ecirc"}, // К - uppercase E, circumflex accent
        {"\u00CB", "Euml"}, // Л - uppercase E, umlaut
        {"\u00CC", "Igrave"}, // М - uppercase I, grave accent
        {"\u00CD", "Iacute"}, // Н - uppercase I, acute accent
        {"\u00CE", "Icirc"}, // О - uppercase I, circumflex accent
        {"\u00CF", "Iuml"}, // П - uppercase I, umlaut
        {"\u00D0", "ETH"}, // Р - uppercase Eth, Icelandic
        {"\u00D1", "Ntilde"}, // С - uppercase N, tilde
        {"\u00D2", "Ograve"}, // Т - uppercase O, grave accent
        {"\u00D3", "Oacute"}, // У - uppercase O, acute accent
        {"\u00D4", "Ocirc"}, // Ф - uppercase O, circumflex accent
        {"\u00D5", "Otilde"}, // Х - uppercase O, tilde
        {"\u00D6", "Ouml"}, // Ц - uppercase O, umlaut
        {"\u00D7", "times"}, // multiplication sign
        {"\u00D8", "Oslash"}, // Ш - uppercase O, slash
        {"\u00D9", "Ugrave"}, // Щ - uppercase U, grave accent
        {"\u00DA", "Uacute"}, // Ъ - uppercase U, acute accent
        {"\u00DB", "Ucirc"}, // Ы - uppercase U, circumflex accent
        {"\u00DC", "Uuml"}, // Ь - uppercase U, umlaut
        {"\u00DD", "Yacute"}, // Э - uppercase Y, acute accent
        {"\u00DE", "THORN"}, // Ю - uppercase THORN, Icelandic
        {"\u00DF", "szlig"}, // Я - lowercase sharps, German
        {"\u00E0", "agrave"}, // а - lowercase a, grave accent
        {"\u00E1", "aacute"}, // б - lowercase a, acute accent
        {"\u00E2", "acirc"}, // в - lowercase a, circumflex accent
        {"\u00E3", "atilde"}, // г - lowercase a, tilde
        {"\u00E4", "auml"}, // д - lowercase a, umlaut
        {"\u00E5", "aring"}, // е - lowercase a, ring
        {"\u00E6", "aelig"}, // ж - lowercase ae
        {"\u00E7", "ccedil"}, // з - lowercase c, cedilla
        {"\u00E8", "egrave"}, // и - lowercase e, grave accent
        {"\u00E9", "eacute"}, // й - lowercase e, acute accent
        {"\u00EA", "ecirc"}, // к - lowercase e, circumflex accent
        {"\u00EB", "euml"}, // л - lowercase e, umlaut
        {"\u00EC", "igrave"}, // м - lowercase i, grave accent
        {"\u00ED", "iacute"}, // н - lowercase i, acute accent
        {"\u00EE", "icirc"}, // о - lowercase i, circumflex accent
        {"\u00EF", "iuml"}, // п - lowercase i, umlaut
        {"\u00F0", "eth"}, // р - lowercase eth, Icelandic
        {"\u00F1", "ntilde"}, // с - lowercase n, tilde
        {"\u00F2", "ograve"}, // т - lowercase o, grave accent
        {"\u00F3", "oacute"}, // у - lowercase o, acute accent
        {"\u00F4", "ocirc"}, // ф - lowercase o, circumflex accent
        {"\u00F5", "otilde"}, // х - lowercase o, tilde
        {"\u00F6", "ouml"}, // ц - lowercase o, umlaut
        {"\u00F7", "divide"}, // division sign
        {"\u00F8", "oslash"}, // ш - lowercase o, slash
        {"\u00F9", "ugrave"}, // щ - lowercase u, grave accent
        {"\u00FA", "uacute"}, // ъ - lowercase u, acute accent
        {"\u00FB", "ucirc"}, // ы - lowercase u, circumflex accent
        {"\u00FC", "uuml"}, // ь - lowercase u, umlaut
        {"\u00FD", "yacute"}, // э - lowercase y, acute accent
        {"\u00FE", "thorn"}, // ю - lowercase thorn, Icelandic
        {"\u00FF", "yuml"}, // я - lowercase y, umlaut
    };

    private static final int MIN_ESCAPE = 2;
    private static final int MAX_ESCAPE = 6;

    private static final HashMap<String, CharSequence> lookupMap;
    static {
        lookupMap = new HashMap<String, CharSequence>();
        for (final CharSequence[] seq : ESCAPES) 
            lookupMap.put(seq[1].toString(), seq[0]);
    }

}
Ник Фролов
источник
Недавно мне пришлось оптимизировать медленный проект Struts. Оказалось, что под прикрытием Struts вызывает Apache для вывода html-строки по умолчанию ( <s:property value="..."/>). Отключение escaping ( <s:property value="..." escaping="false"/>) заставило некоторые страницы работать на 5-20% быстрее.
Стефан
Позже я узнал, что этот код может войти в цикл, когда в качестве аргумента указана пустая строка. В текущей версии эта проблема исправлена.
Ник Фролов
Это убегает или уходит? & Amp; не декодируется Только & добавляется на карту, так что это работает только в одну сторону?
ммм
3
Внутри StringWriter используется StringBuffer, который использует блокировку. Использование StringBuilder напрямую должно быть быстрее.
Аксель Дёрфлер
4
@NickFrolov, ваши комментарии кажутся немного запутанными. aumlнапример äи нет д.
aioobe
12

Следующая библиотека может также использоваться для экранирования HTML в Java: unbescape .

HTML может быть удален следующим образом:

final String unescapedText = HtmlEscape.unescapeHtml(escapedText); 
Stephan
источник
2
Он ничего не сделал для этого:%3Chtml%3E%0D%0A%3Chead%3E%0D%0A%3Ctitle%3Etest%3C%2Ftitle%3E%0D%0A%3C%2Fhead%3E%0D%0A%3Cbody%3E%0D%0Atest%0D%0A%3C%2Fbody%3E%0D%0A%3C%2Fhtml%3E
ThreaT
40
@ThreaT Ваш текст не в HTML-кодировке, а в URL-кодировании
Михаил Батцер
9

Это сделало работу для меня,

import org.apache.commons.lang.StringEscapeUtils;
...
String decodedXML= StringEscapeUtils.unescapeHtml(encodedXML);

или

import org.apache.commons.lang3.StringEscapeUtils;
...
String decodedXML= StringEscapeUtils.unescapeHtml4(encodedXML);

Я думаю, что всегда лучше использовать lang3по очевидным причинам. Надеюсь это поможет :)

tk_
источник
4

Очень простое, но неэффективное решение без какой-либо внешней библиотеки:

public static String unescapeHtml3( String str ) {
    try {
        HTMLDocument doc = new HTMLDocument();
        new HTMLEditorKit().read( new StringReader( "<html><body>" + str ), doc, 0 );
        return doc.getText( 1, doc.getLength() );
    } catch( Exception ex ) {
        return str;
    }
}

Это следует использовать, только если у вас есть только небольшое количество строк для декодирования.

Horcrux7
источник
1
Очень близко, но не точно - он преобразовал "qwAS12ƷƸDžǚǪǼȌ" в "qwAS12ƷƸDžǚǪǼȌ \ n".
Грег
3

Самый надежный способ с

String cleanedString = StringEscapeUtils.unescapeHtml4(originalString);

от org.apache.commons.lang3.StringEscapeUtils.

И чтобы избежать пробелов

cleanedString = cleanedString.trim();

Это гарантирует, что пробелы из-за копирования и вставки в веб-формах не будут сохраняться в БД.

Майк Оганян
источник
1

Spring Framework HtmlUtils

Если вы уже используете Spring Framework, используйте следующий метод:

import static org.springframework.web.util.HtmlUtils.htmlUnescape;

...

String result = htmlUnescape(source);
Герман
источник
0

Рассмотрите возможность использования Java-класса HtmlManipulator . Возможно, вам придется добавить некоторые элементы (не все объекты в списке).

Apache Commons StringEscapeUtils, предложенный Кевином Хакансоном, не работал для меня на 100%; несколько сущностей, таких как & # 145 (оставленная одинарная кавычка) были как-то переведены в '222'. Я также попробовал org.jsoup, и у меня была такая же проблема.

Joost
источник
0

В моем случае я использую метод replace, проверяя каждую сущность в каждой переменной, мой код выглядит так:

text = text.replace("&Ccedil;", "Ç");
text = text.replace("&ccedil;", "ç");
text = text.replace("&Aacute;", "Á");
text = text.replace("&Acirc;", "Â");
text = text.replace("&Atilde;", "Ã");
text = text.replace("&Eacute;", "É");
text = text.replace("&Ecirc;", "Ê");
text = text.replace("&Iacute;", "Í");
text = text.replace("&Ocirc;", "Ô");
text = text.replace("&Otilde;", "Õ");
text = text.replace("&Oacute;", "Ó");
text = text.replace("&Uacute;", "Ú");
text = text.replace("&aacute;", "á");
text = text.replace("&acirc;", "â");
text = text.replace("&atilde;", "ã");
text = text.replace("&eacute;", "é");
text = text.replace("&ecirc;", "ê");
text = text.replace("&iacute;", "í");
text = text.replace("&ocirc;", "ô");
text = text.replace("&otilde;", "õ");
text = text.replace("&oacute;", "ó");
text = text.replace("&uacute;", "ú");

В моем случае это сработало очень хорошо.

Луис Дев
источник
2
Это не каждая особая сущность. Даже два упомянутых в вопросе отсутствуют.
Сэнди Гиффорд
это не будет хорошо масштабироваться
19
-7

Например, если вы хотите имитировать то, что делает функция php, htmlspecialchars_decode использует функцию php get_html_translation_table (), чтобы вывести таблицу и затем использовать код Java, например,

static Map<String,String> html_specialchars_table = new Hashtable<String,String>();
static {
        html_specialchars_table.put("&lt;","<");
        html_specialchars_table.put("&gt;",">");
        html_specialchars_table.put("&amp;","&");
}
static String htmlspecialchars_decode_ENT_NOQUOTES(String s){
        Enumeration en = html_specialchars_table.keys();
        while(en.hasMoreElements()){
                String key = en.nextElement();
                String val = html_specialchars_table.get(key);
                s = s.replaceAll(key, val);
        }
        return s;
}
Бала Датт
источник
7
Не бросай так много; используйте дженерики для этого HashMap! Кроме того, используйте foreach, а не время, чтобы повторить это, код будет выглядеть более читабельным!
WhyNotHugo
3
@BalaDutt, если вы улучшите свой ответ, ребята дадут вам очки :)
sparkyspider
3
@Bala, улучшайте также свои функции и имена переменных.
Томас W