Сначала откажитесь от ответственности: все опубликованные фрагменты кода являются основными примерами. Вы должны будете справиться с тривиальными IOException
и RuntimeException
подобными NullPointerException
, ArrayIndexOutOfBoundsException
и поддерживает себя.
Подготовка
Сначала нам нужно знать хотя бы URL и кодировку. Параметры являются необязательными и зависят от функциональных требований.
String url = "http://example.com";
String charset = "UTF-8"; // Or in Java 7 and later, use the constant: java.nio.charset.StandardCharsets.UTF_8.name()
String param1 = "value1";
String param2 = "value2";
// ...
String query = String.format("param1=%s¶m2=%s",
URLEncoder.encode(param1, charset),
URLEncoder.encode(param2, charset));
Параметры запроса должны быть в name=value
формате и должны быть связаны &
. Обычно вы также URL-кодируете параметры запроса с использованием указанной кодировки URLEncoder#encode()
.
Это String#format()
просто для удобства. Я предпочитаю это, когда мне понадобится оператор конкатенации строк +
более двух раз.
Запуск HTTP GET- запроса с (опционально) параметрами запроса
Это тривиальная задача. Это метод запроса по умолчанию.
URLConnection connection = new URL(url + "?" + query).openConnection();
connection.setRequestProperty("Accept-Charset", charset);
InputStream response = connection.getInputStream();
// ...
Любая строка запроса должна быть присоединена к URL с помощью ?
. Accept-Charset
Заголовок может намекнуть на то , что сервере , кодирующие параметры находятся. Если вы не отправите любую строку запроса, то вы можете оставить Accept-Charset
заголовок прочь. Если вам не нужно устанавливать какие-либо заголовки, вы можете даже использовать URL#openStream()
метод ярлыков.
InputStream response = new URL(url).openStream();
// ...
В любом случае, если другая сторона - это HttpServlet
, то doGet()
будет вызван ее метод и параметры будут доступны HttpServletRequest#getParameter()
.
В целях тестирования вы можете напечатать тело ответа на стандартный вывод, как показано ниже:
try (Scanner scanner = new Scanner(response)) {
String responseBody = scanner.useDelimiter("\\A").next();
System.out.println(responseBody);
}
Запуск HTTP POST- запроса с параметрами запроса
Установка URLConnection#setDoOutput()
для true
неявно устанавливает метод запроса к POST. Стандартный HTTP POST, как и веб-формы, имеет тип, в application/x-www-form-urlencoded
котором строка запроса записывается в тело запроса.
URLConnection connection = new URL(url).openConnection();
connection.setDoOutput(true); // Triggers POST.
connection.setRequestProperty("Accept-Charset", charset);
connection.setRequestProperty("Content-Type", "application/x-www-form-urlencoded;charset=" + charset);
try (OutputStream output = connection.getOutputStream()) {
output.write(query.getBytes(charset));
}
InputStream response = connection.getInputStream();
// ...
Примечание: всякий раз, когда вы хотите отправить HTML-форму программно, не забывайте вводить name=value
пары любых <input type="hidden">
элементов в строку запроса и, конечно, также name=value
пару <input type="submit">
элементов, которые вы хотите «нажать» программно (потому что это обычно используется на стороне сервера, чтобы различать, была ли нажата кнопка, и если да, то какая.
Вы также можете привести полученный URLConnection
в HttpURLConnection
и использовать его HttpURLConnection#setRequestMethod()
вместо. Но если вы пытаетесь использовать соединение для вывода, вам все равно нужно установить URLConnection#setDoOutput()
на true
.
HttpURLConnection httpConnection = (HttpURLConnection) new URL(url).openConnection();
httpConnection.setRequestMethod("POST");
// ...
В любом случае, если другая сторона - это HttpServlet
, то doPost()
будет вызван ее метод и параметры будут доступны HttpServletRequest#getParameter()
.
На самом деле запускает HTTP-запрос
Вы можете явно запустить HTTP-запрос URLConnection#connect()
, но запрос будет автоматически запущен по требованию, когда вы захотите получить какую-либо информацию об HTTP-ответе, такую как использование тела ответа URLConnection#getInputStream()
и так далее. Приведенные выше примеры делают именно это, поэтому connect()
вызов на самом деле является излишним.
Сбор информации ответа HTTP
Статус ответа HTTP :
Тебе нужен HttpURLConnection
здесь. Примените это сначала, если необходимо.
int status = httpConnection.getResponseCode();
Заголовки ответа HTTP :
for (Entry<String, List<String>> header : connection.getHeaderFields().entrySet()) {
System.out.println(header.getKey() + "=" + header.getValue());
}
Кодировка ответа HTTP :
Если параметр Content-Type
содержит charset
параметр, то тело ответа, скорее всего, основано на тексте, и мы хотели бы обработать тело ответа с указанной на стороне сервера кодировкой символов.
String contentType = connection.getHeaderField("Content-Type");
String charset = null;
for (String param : contentType.replace(" ", "").split(";")) {
if (param.startsWith("charset=")) {
charset = param.split("=", 2)[1];
break;
}
}
if (charset != null) {
try (BufferedReader reader = new BufferedReader(new InputStreamReader(response, charset))) {
for (String line; (line = reader.readLine()) != null;) {
// ... System.out.println(line) ?
}
}
} else {
// It's likely binary content, use InputStream/OutputStream.
}
Ведение сессии
Сеанс на стороне сервера обычно поддерживается файлом cookie. Некоторые веб-формы требуют, чтобы вы вошли в систему и / или отслеживались сеансом. Вы можете использовать CookieHandler
API для поддержки файлов cookie. Вы должны подготовить CookieManager
с CookiePolicy
из ACCEPT_ALL
перед отправкой всех запросов HTTP.
// First set the default cookie manager.
CookieHandler.setDefault(new CookieManager(null, CookiePolicy.ACCEPT_ALL));
// All the following subsequent URLConnections will use the same cookie manager.
URLConnection connection = new URL(url).openConnection();
// ...
connection = new URL(url).openConnection();
// ...
connection = new URL(url).openConnection();
// ...
Обратите внимание, что это, как известно, не всегда работает должным образом при любых обстоятельствах. Если у вас ничего не получится, лучше всего вручную собрать и установить заголовки файлов cookie. В основном вам нужно получить все Set-Cookie
заголовки из ответа входа в систему или первого GET
запроса и затем передать его через последующие запросы.
// Gather all cookies on the first request.
URLConnection connection = new URL(url).openConnection();
List<String> cookies = connection.getHeaderFields().get("Set-Cookie");
// ...
// Then use the same cookies on all subsequent requests.
connection = new URL(url).openConnection();
for (String cookie : cookies) {
connection.addRequestProperty("Cookie", cookie.split(";", 2)[0]);
}
// ...
Он split(";", 2)[0]
предназначен для того, чтобы избавиться от атрибутов cookie, которые не имеют отношения к серверной части, например expires
, path
и т. Д. В качестве альтернативы вы также можете использовать cookie.substring(0, cookie.indexOf(';'))
вместо split()
.
Потоковый режим
По HttpURLConnection
умолчанию завещание буферизует все тело запроса перед его отправкой, независимо от того, установили ли вы фиксированную длину контента самостоятельно connection.setRequestProperty("Content-Length", contentLength);
. Это может вызывать OutOfMemoryException
s всякий раз, когда вы одновременно отправляете большие запросы POST (например, загружаете файлы). Чтобы избежать этого, вы хотели бы установить HttpURLConnection#setFixedLengthStreamingMode()
.
httpConnection.setFixedLengthStreamingMode(contentLength);
Но если длина контента на самом деле не известна заранее, то вы можете использовать режим потоковой передачи по частям, установив HttpURLConnection#setChunkedStreamingMode()
соответствующий параметр. Это установит Transfer-Encoding
заголовок HTTP, к chunked
которому принудительно будет отправлено тело запроса в виде фрагментов. Приведенный ниже пример отправит тело кусками по 1 КБ.
httpConnection.setChunkedStreamingMode(1024);
User-Agent
Может случиться, что запрос возвращает неожиданный ответ, в то время как он отлично работает с реальным веб-браузером . Серверная сторона, вероятно, блокирует запросы на основе User-Agent
заголовка запроса. По URLConnection
умолчанию будет установлено, что Java/1.6.0_19
последняя часть, очевидно, является версией JRE. Вы можете переопределить это следующим образом:
connection.setRequestProperty("User-Agent", "Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2228.0 Safari/537.36"); // Do as if you're using Chrome 41 on Windows 7.
Используйте строку User-Agent из недавнего браузера .
Обработка ошибок
Если код ответа HTTP - 4nn
(Ошибка клиента) или 5nn
(Ошибка сервера), вы можете прочитать, HttpURLConnection#getErrorStream()
чтобы проверить, отправил ли сервер какую-либо полезную информацию об ошибке.
InputStream error = ((HttpURLConnection) connection).getErrorStream();
Если код ответа HTTP равен -1, значит что-то пошло не так с обработкой соединения и ответа. HttpURLConnection
Реализация в старых JREs несколько багги с сохранением соединения в живых. Вы можете отключить его, установив http.keepAlive
системное свойство в false
. Вы можете сделать это программно в начале вашего приложения:
System.setProperty("http.keepAlive", "false");
Загрузка файлов
Обычно вы используете multipart/form-data
кодирование для смешанного содержимого POST (двоичные и символьные данные). Кодирование более подробно описано в RFC2388 .
String param = "value";
File textFile = new File("/path/to/file.txt");
File binaryFile = new File("/path/to/file.bin");
String boundary = Long.toHexString(System.currentTimeMillis()); // Just generate some unique random value.
String CRLF = "\r\n"; // Line separator required by multipart/form-data.
URLConnection connection = new URL(url).openConnection();
connection.setDoOutput(true);
connection.setRequestProperty("Content-Type", "multipart/form-data; boundary=" + boundary);
try (
OutputStream output = connection.getOutputStream();
PrintWriter writer = new PrintWriter(new OutputStreamWriter(output, charset), true);
) {
// Send normal param.
writer.append("--" + boundary).append(CRLF);
writer.append("Content-Disposition: form-data; name=\"param\"").append(CRLF);
writer.append("Content-Type: text/plain; charset=" + charset).append(CRLF);
writer.append(CRLF).append(param).append(CRLF).flush();
// Send text file.
writer.append("--" + boundary).append(CRLF);
writer.append("Content-Disposition: form-data; name=\"textFile\"; filename=\"" + textFile.getName() + "\"").append(CRLF);
writer.append("Content-Type: text/plain; charset=" + charset).append(CRLF); // Text file itself must be saved in this charset!
writer.append(CRLF).flush();
Files.copy(textFile.toPath(), output);
output.flush(); // Important before continuing with writer!
writer.append(CRLF).flush(); // CRLF is important! It indicates end of boundary.
// Send binary file.
writer.append("--" + boundary).append(CRLF);
writer.append("Content-Disposition: form-data; name=\"binaryFile\"; filename=\"" + binaryFile.getName() + "\"").append(CRLF);
writer.append("Content-Type: " + URLConnection.guessContentTypeFromName(binaryFile.getName())).append(CRLF);
writer.append("Content-Transfer-Encoding: binary").append(CRLF);
writer.append(CRLF).flush();
Files.copy(binaryFile.toPath(), output);
output.flush(); // Important before continuing with writer!
writer.append(CRLF).flush(); // CRLF is important! It indicates end of boundary.
// End of multipart/form-data.
writer.append("--" + boundary + "--").append(CRLF).flush();
}
Если другая сторона - это HttpServlet
, то doPost()
будет вызван ее метод, и части будут доступны через HttpServletRequest#getPart()
(обратите внимание, таким образом, нет getParameter()
и так далее!). Однако этот getPart()
метод относительно новый, он введен в Servlet 3.0 (Glassfish 3, Tomcat 7 и т. Д.). До Servlet 3.0 ваш лучший выбор - использовать Apache Commons FileUpload для анализа multipart/form-data
запроса. Также смотрите этот ответ для примеров подходов FileUpload и Servelt 3.0.
Работа с ненадежными или неправильно настроенными HTTPS-сайтами
Иногда вам нужно подключить HTTPS URL, возможно, потому что вы пишете веб-скребок. В этом случае вы можете столкнуться с javax.net.ssl.SSLException: Not trusted server certificate
проблемой на некоторых сайтах HTTPS, которые не поддерживают свои сертификаты SSL в актуальном состоянии, java.security.cert.CertificateException: No subject alternative DNS name matching [hostname] found
или javax.net.ssl.SSLProtocolException: handshake alert: unrecognized_name
на некоторых неправильно настроенных сайтах HTTPS.
Следующий одноразовый static
инициализатор в вашем классе веб-скребка должен сделать HttpsURLConnection
более снисходительным в отношении этих HTTPS-сайтов и, таким образом, больше не генерировать эти исключения.
static {
TrustManager[] trustAllCertificates = new TrustManager[] {
new X509TrustManager() {
@Override
public X509Certificate[] getAcceptedIssuers() {
return null; // Not relevant.
}
@Override
public void checkClientTrusted(X509Certificate[] certs, String authType) {
// Do nothing. Just allow them all.
}
@Override
public void checkServerTrusted(X509Certificate[] certs, String authType) {
// Do nothing. Just allow them all.
}
}
};
HostnameVerifier trustAllHostnames = new HostnameVerifier() {
@Override
public boolean verify(String hostname, SSLSession session) {
return true; // Just allow them all.
}
};
try {
System.setProperty("jsse.enableSNIExtension", "false");
SSLContext sc = SSLContext.getInstance("SSL");
sc.init(null, trustAllCertificates, new SecureRandom());
HttpsURLConnection.setDefaultSSLSocketFactory(sc.getSocketFactory());
HttpsURLConnection.setDefaultHostnameVerifier(trustAllHostnames);
}
catch (GeneralSecurityException e) {
throw new ExceptionInInitializerError(e);
}
}
Последние слова
Apache HttpComponents HttpClient является гораздо более удобным в этом все :)
Разбор и извлечение HTML
Если все, что вам нужно, это анализ и извлечение данных из HTML, тогда лучше использовать HTML-парсер, такой как Jsoup
Ask Question
кнопку справа вверху.--
Часть не является частью самой границы. Это просто строка-разделитель. Я откатил ваше неверное редактирование.HttpClient
иHttpURLConnection
жестоко. android-developers.blogspot.in/2011/09/…При работе с HTTP почти всегда более полезно ссылаться
HttpURLConnection
на базовый класс, а не на базовый классURLConnection
(такURLConnection
как это абстрактный класс, когда вы запрашиваетеURLConnection.openConnection()
URL-адрес HTTP, это то, что вы получите в любом случае).Тогда вы можете вместо того,
URLConnection#setDoOutput(true)
чтобы неявно устанавливать метод запроса на POST, вместо этого делать то,httpURLConnection.setRequestMethod("POST")
что некоторым может показаться более естественным (и которое также позволяет вам указать другие методы запроса, такие как PUT , DELETE , ...).Он также предоставляет полезные константы HTTP, так что вы можете сделать:
источник
setDoOutput()
вtrue
противном случае выдается исключение (даже если выsetRequestMethod("POST")
). Для того, чтобы быть ясно: установкаURLConnection#setDoOutput(true)
дляtrue
неявно устанавливает метод запроса к POST, но установкаhttpURLConnection.setRequestMethod("POST")
в POST никак не неявно устанавливаетсяsetDoOutput()
вtrue
.Вдохновленный этим и другими вопросами о SO, я создал минимальный базовый http-клиент с открытым исходным кодом, который воплощает большинство методов, найденных здесь.
google-http-java-client также является отличным ресурсом с открытым исходным кодом.
источник
Я предлагаю вам взглянуть на код в kevinsawicki / http-request , в основном его оболочка
HttpUrlConnection
обеспечивает гораздо более простой API на тот случай, если вы просто захотите сделать запросы прямо сейчас или вы можете взглянуть на источники ( это не слишком большой), чтобы посмотреть, как обрабатываются соединения.Пример: сделать
GET
запрос с типом контентаapplication/json
и некоторыми параметрами запроса:источник
Есть 2 варианта, которые вы можете использовать с HTTP URL Hits: GET / POST
ПОЛУЧИТЬ запрос: -
POST запрос: -
источник
Я также был очень вдохновлен этим ответом.
Я часто нахожусь в проектах, где мне нужно сделать какой-то HTTP, и я, возможно, не захочу вносить много сторонних зависимостей (которые включают других и так далее, и так далее, и т. Д.)
Я начал писать свои собственные утилиты, основанные на некоторых из этого разговора (а не где-нибудь):
Тогда есть только куча или статические методы.
Тогда пост ...
Ну вы поняли ....
Вот тесты:
Вы можете найти отдых здесь:
https://github.com/RichardHightower/boon
Моя цель - предоставить общие вещи, которые хотелось бы сделать, немного проще, чем ...
источник
doPost
методе естьcharset
параметр, который используется для установки заголовка запроса, но затем данные записываются с использованием некоторой жестко закодированной кодировкиIO.CHARSET
. Жук?Обновить
В Java 9 вы можете отправить
GET
запрос как:Затем вы можете изучить возвращенное
HttpResponse
:Так как этот новый HTTP-клиент находится в
java.httpclient
jdk.incubator.httpclient
модуль, вы должны объявить эту зависимость в вашемmodule-info.java
файле:источник
Первоначально я был введен в заблуждение этой статьей, которая одобряет
HttpClient
.Позже я понял, что
HttpURLConnection
собираюсь остаться от этой статьиСогласно блогу Google :
После прочтения этой статьи и некоторых других вопросов по стеку я убежден, что
HttpURLConnection
это продлится дольше.Некоторые из вопросов SE в пользу
HttpURLConnections
:В Android сделайте запрос POST с данными в кодированной форме URL, не используя UrlEncodedFormEntity
HttpPost работает в проекте Java, а не в Android
источник
Существует также OkHttp , который является HTTP-клиентом, который работает по умолчанию:
Сначала создайте экземпляр
OkHttpClient
:Затем подготовьте ваш
GET
запрос:наконец, используйте
OkHttpClient
для отправки подготовленныхRequest
:Для более подробной информации, вы можете обратиться к документации OkHttp
источник
Вы также можете использовать
JdkRequest
из jcabi-http (я разработчик), который выполняет всю эту работу за вас, декорируя HttpURLConnection, вызывая HTTP-запросы и анализируя ответы, например:Проверьте эту запись в блоге для получения дополнительной информации: http://www.yegor256.com/2014/04/11/jcabi-http-intro.html
источник
если вы используете http get, удалите эту строку
источник