Как преобразовать строки в и из байтовых массивов UTF8 в Java

240

В Java у меня есть String, и я хочу закодировать его как байтовый массив (в UTF8 или в какой-либо другой кодировке). С другой стороны, у меня есть байтовый массив (в некоторой известной кодировке), и я хочу преобразовать его в строку Java. Как мне сделать эти преобразования?

mcherm
источник

Ответы:

356

Преобразовать из строки в байт []:

String s = "some text here";
byte[] b = s.getBytes(StandardCharsets.UTF_8);

Преобразовать из байта [] в строку:

byte[] b = {(byte) 99, (byte)97, (byte)116};
String s = new String(b, StandardCharsets.US_ASCII);

Вы должны, конечно, использовать правильное имя кодировки. В моих примерах использовались US-ASCII и UTF-8, две наиболее распространенные кодировки.

mcherm
источник
30
US-ASCII в настоящее время на самом деле не очень распространенная кодировка. Windows-1252 и ISO-8859-1 (которые являются надмножествами ASCII) гораздо более распространены.
Майкл Боргвардт
11
На самом деле, я нахожу это довольно распространенным в моей работе. Я часто читаю потоки байтов, которые, возможно, были сохранены как Windows-1252 или ISO-8859-1 или даже просто как «вывод той устаревшей программы, которую мы имели за последние 10 лет», но которые содержат байты, которые гарантированно будут действительными US-ASCII символы. У меня также часто есть требование СОЗДАТЬ такие файлы (для использования кодом, который может или не может обрабатывать символы, отличные от ASCII. По сути, US-ASCII является «наибольшим общим знаменателем» для многих программ).
mcherm
1
Этот метод, однако, не сообщит о каких-либо проблемах при конвертации. Это может быть то, что вы хотите. Если нет, рекомендуется использовать CharsetEncoder.
Майкл Пифель
7
@Pacerier, потому что документы для Charset перечисляют "UTF-8" как один из стандартных наборов символов. Я верю, что ваше правописание также принято, но я согласился с тем, что сказали доктора.
mcherm
20
Начиная с JDK7 вы можете использовать StandardCharsets.UTF_8 docs.oracle.com/javase/7/docs/api/java/nio/charset/…
Рафаэль Мембривс
95

Вот решение, которое избегает выполнения поиска Charset для каждого преобразования:

import java.nio.charset.Charset;

private final Charset UTF8_CHARSET = Charset.forName("UTF-8");

String decodeUTF8(byte[] bytes) {
    return new String(bytes, UTF8_CHARSET);
}

byte[] encodeUTF8(String string) {
    return string.getBytes(UTF8_CHARSET);
}
Майк Леонхард
источник
4
@mcherm: даже если разница в производительности невелика, я предпочитаю использовать объекты (Charset, URL и т. д.) поверх их строковых форм, когда это возможно.
Барт ван Хейкелом
7
Примечание: публичная строка «начиная с 1.6» (byte [] bytes, charset charset)
leo
1
Относительно "избегает выполнения поиска Charset для каждого преобразования" ... пожалуйста, приведите некоторый источник. Разве java.nio.charset.Charset не построен поверх String.getBytes и поэтому имеет больше накладных расходов, чем String.getBytes?
Pacerier
2
Документы заявляют: «Поведение этого метода, когда эта строка не может быть закодирована в данной кодировке, не определено. Класс CharsetEncoder следует использовать, когда требуется больший контроль над процессом кодирования».
Paiego
24
Примечание: начиная с Java 1.7, вы можете использовать StandardCharsets.UTF_8постоянный доступ к кодировке UTF-8.
Kat
17
String original = "hello world";
byte[] utf8Bytes = original.getBytes("UTF-8");
Хорхе Феррейра
источник
Спасибо! Я снова написал это, добавив другое направление конверсии.
Мчерм
1
@smink Тире не обязательно. Для этого следует использовать «UTF-8»
Мел Николсон
14

Вы можете конвертировать напрямую через конструктор String (byte [], String) и метод getBytes (String). Java предоставляет доступные наборы символов через класс Charset . В документации JDK перечислены поддерживаемые кодировки .

В 90% случаев такие преобразования выполняются в потоках, поэтому вы должны использовать классы Reader / Writer . Вы не будете постепенно декодировать, используя методы String в произвольных байтовых потоках - вы оставите себя открытым для ошибок, связанных с многобайтовыми символами.

Макдауэлл
источник
Можете ли вы уточнить? Если мое приложение кодирует и декодирует строки UTF-8, какова проблема с многобайтовыми символами?
Раффиан
@raffian Проблемы могут возникнуть, если вы не преобразуете все данные персонажа за один раз. Смотрите здесь для примера.
Макдауэлл
12

Моя реализация tomcat7 принимает строки как ISO-8859-1; несмотря на тип содержимого HTTP-запроса. Следующее решение помогло мне при попытке правильно интерпретировать символы, такие как «é».

byte[] b1 = szP1.getBytes("ISO-8859-1");
System.out.println(b1.toString());

String szUT8 = new String(b1, "UTF-8");
System.out.println(szUT8);

При попытке интерпретировать строку как US-ASCII, информация байта не была правильно интерпретирована.

b1 = szP1.getBytes("US-ASCII");
System.out.println(b1.toString());
paiego
источник
8
К вашему сведению, начиная с Java 7 вы можете использовать константы для этих имен кодировок, таких как StandardCharSets.UTF_8и StandardCharSets.ISO_8859_1.
Василий Бурк
Спас мой день, работая абсолютно нормально для первого решения, упомянутого выше.
Хасан Джамиль
7

В качестве альтернативы можно использовать StringUtils от Apache Commons.

 byte[] bytes = {(byte) 1};
 String convertedString = StringUtils.newStringUtf8(bytes);

или

 String myString = "example";
 byte[] convertedBytes = StringUtils.getBytesUtf8(myString);

Если у вас нестандартная кодировка, вы можете использовать getBytesUnchecked () или newString () соответственно.

Втор
источник
4
Обратите внимание, что это StringUtils от Commons Codec , а не Commons Lang.
Аренд v. Райнерсдорф
Да, немного глупо! Для пользователей Gradle, Maven: «commons-codec: commons-codec: 1.10» (на момент написания). Это также поставляется как зависимость от Apache POI, например. Помимо этого Apache Commons на помощь, как всегда!
Майк Грызун
2

Для декодирования серии байтов в обычное строковое сообщение я наконец-то начал работать с кодировкой UTF-8 с помощью этого кода:

/* Convert a list of UTF-8 numbers to a normal String
 * Usefull for decoding a jms message that is delivered as a sequence of bytes instead of plain text
 */
public String convertUtf8NumbersToString(String[] numbers){
    int length = numbers.length;
    byte[] data = new byte[length];

    for(int i = 0; i< length; i++){
        data[i] = Byte.parseByte(numbers[i]);
    }
    return new String(data, Charset.forName("UTF-8"));
}
Бук Вудстра
источник
1

Если вы используете 7-битный ASCII или ISO-8859-1 (удивительно распространенный формат), то вам вообще не нужно создавать новую java.lang.String . Гораздо эффективнее просто преобразовать байт в символ:

Полный рабочий пример:

for (byte b : new byte[] { 43, 45, (byte) 215, (byte) 247 }) {
    char c = (char) b;
    System.out.print(c);
}

Если вы не используете расширенные символы, такие как Ä, Æ, Å, Ç, Ï, Ê и можете быть уверены, что единственными передаваемыми значениями являются первые 128 символов Unicode, то этот код также будет работать для UTF-8 и расширенного ASCII (например, CP-1252).

Pacerier
источник
1

Я не могу комментировать, но не хочу начинать новую тему. Но это не работает. Простое путешествие в оба конца:

byte[] b = new byte[]{ 0, 0, 0, -127 };  // 0x00000081
String s = new String(b,StandardCharsets.UTF_8); // UTF8 = 0x0000, 0x0000,  0x0000, 0xfffd
b = s.getBytes(StandardCharsets.UTF_8); // [0, 0, 0, -17, -65, -67] 0x000000efbfbd != 0x00000081

Мне нужен b [] один и тот же массив до и после кодирования, которого нет (это относится к первому ответу).

jschober
источник
0
//query is your json   

 DefaultHttpClient httpClient = new DefaultHttpClient();
 HttpPost postRequest = new HttpPost("http://my.site/test/v1/product/search?qy=");

 StringEntity input = new StringEntity(query, "UTF-8");
 input.setContentType("application/json");
 postRequest.setEntity(input);   
 HttpResponse response=response = httpClient.execute(postRequest);
Ран Адлер
источник
Преобразует ли String Entity 'query' в utf-8 или просто запоминает при присоединении сущности?
SyntaxRules
0
Charset UTF8_CHARSET = Charset.forName("UTF-8");
String strISO = "{\"name\":\"א\"}";
System.out.println(strISO);
byte[] b = strISO.getBytes();
for (byte c: b) {
    System.out.print("[" + c + "]");
}
String str = new String(b, UTF8_CHARSET);
System.out.println(str);
Нитиш Радж Шривастава
источник
0
Reader reader = new BufferedReader(
    new InputStreamReader(
        new ByteArrayInputStream(
            string.getBytes(StandardCharsets.UTF_8)), StandardCharsets.UTF_8));
Макс Даниленко
источник
-9

ужасно поздно, но я только что столкнулся с этой проблемой, и это мое исправление:

private static String removeNonUtf8CompliantCharacters( final String inString ) {
    if (null == inString ) return null;
    byte[] byteArr = inString.getBytes();
    for ( int i=0; i < byteArr.length; i++ ) {
        byte ch= byteArr[i]; 
        // remove any characters outside the valid UTF-8 range as well as all control characters
        // except tabs and new lines
        if ( !( (ch > 31 && ch < 253 ) || ch == '\t' || ch == '\n' || ch == '\r') ) {
            byteArr[i]=' ';
        }
    }
    return new String( byteArr );
}
Savio
источник
2
Во-первых, это не преобразование: это удаление непечатных байтов. Во-вторых, предполагается, что кодировка по умолчанию базовой ОС действительно основана на ASCII для печатаемых символов (например, не будет работать на мейнфреймах IBM, использующих EBCDIC).
Исаак