Как определить статус HTTP без загрузки всей страницы?

26

Я хочу знать статус HTTP сайтов, использующих Ubuntu. Я использовал curlи wgetкомандую для этой цели. Но проблема в том, что эти команды загружают полную страницу веб-сайта, а затем ищут заголовок и отображают его на экране. Например:

$ curl -I trafficinviter.com
HTTP/1.1 200 OK
Date: Mon, 02 Jan 2017 14:13:14 GMT
Server: Apache
X-Pingback: http://trafficinviter.com/xmlrpc.php
Link: <http://trafficinviter.com/>; rel=shortlink
Set-Cookie: wpfront-notification-bar-landingpage=1
Content-Type: text/html; charset=UTF-8

То же самое происходит с Wgetкомандой, когда вся страница загружается и излишне расходует мою пропускную способность.

Что я ищу, так это: как получить код состояния HTTP без фактической загрузки какой-либо страницы, чтобы я мог сэкономить потребление трафика. Я пытался использовать curl, но не уверен, что я загружаю полную страницу или просто заголовок в свою систему, чтобы получить код состояния.

Джаффер Уилсон
источник
«пробовал использовать curl, но не уверен, что я загружаю полную страницу или просто заголовок» - опция curl -v( --verbose) - это удобный способ отладки того, что curl фактически отправляет и получает.
Бени Чернявский-Паскин
Боюсь, я подавляю, потому что у вас уже есть решение прямо в вопросе.
Легкость гонок с Моникой
@LightnessRacesinOrbit Я не знал, является ли вопрос моим ответом или нет. Я был здесь, чтобы помочь решить мою путаницу. Если вы все еще находите, что мой вопрос неправильный .. Я приветствую ваше решение понизить голос .. спасибо
Джаффер Уилсон
«эти команды загружают полную страницу веб-сайта» - нет, они этого не делают
Остановите вредить Монике»

Ответы:

49

curl -Iвыбирает только заголовки HTTP; он не загружает всю страницу. От man curl:

-I, --head
      (HTTP/FTP/FILE) Fetch the HTTP-header only! HTTP-servers feature
      the command HEAD which this uses to get nothing but  the  header
      of  a  document. When used on an FTP or FILE file, curl displays
      the file size and last modification time only.

Другим вариантом является установка lynxи использование lynx -head -dump.

Запрос HEAD определяется протоколом HTTP 1.1 ( RFC 2616 ):

9.4 HEAD

   The HEAD method is identical to GET except that the server MUST NOT
   return a message-body in the response. The metainformation contained
   in the HTTP headers in response to a HEAD request SHOULD be identical
   to the information sent in response to a GET request. This method can
   be used for obtaining metainformation about the entity implied by the
   request without transferring the entity-body itself. This method is
   often used for testing hypertext links for validity, accessibility,
   and recent modification.
AlexP
источник
2
Возможно ли (в рамках стандарта ... очевидно, что это возможно ) для HEAD-запроса вернуть код состояния, отличный от GET?
KutuluMike
1
@KutuluMike: отредактировал ответ, чтобы предоставить запрошенную информацию. По словам RFC, он ДОЛЖЕН обеспечивать ту же метаинформацию.
AlexP
@duskwuff: Тогда запрос HEAD ДОЛЖЕН вернуть те же 405.
AlexP
@AlexP Моя ошибка. Не берите в голову!
duskwuff
18

С wget, вы должны использовать --spiderопцию , чтобы отправить запрос HEAD , как завиток:

$ wget -S --spider https://google.com
Spider mode enabled. Check if remote file exists.
--2017-01-03 00:08:38--  https://google.com/
Resolving google.com (google.com)... 216.58.197.174
Connecting to google.com (google.com)|216.58.197.174|:443... connected.
HTTP request sent, awaiting response... 
  HTTP/1.1 302 Found
  Cache-Control: private
  Content-Type: text/html; charset=UTF-8
  Location: https://www.google.co.jp/?gfe_rd=cr&ei=...
  Content-Length: 262
  Date: Mon, 02 Jan 2017 15:08:38 GMT
  Alt-Svc: quic=":443"; ma=2592000; v="35,34"
Location: https://www.google.co.jp/?gfe_rd=cr&ei=... [following]
Spider mode enabled. Check if remote file exists.
--2017-01-03 00:08:38--  https://www.google.co.jp/?gfe_rd=cr&ei=...
Resolving www.google.co.jp (www.google.co.jp)... 210.139.253.109, 210.139.253.93, 210.139.253.123, ...
Connecting to www.google.co.jp (www.google.co.jp)|210.139.253.109|:443... connected.
HTTP request sent, awaiting response... 
  HTTP/1.1 200 OK
  Date: Mon, 02 Jan 2017 15:08:38 GMT
  Expires: -1
  Cache-Control: private, max-age=0
  Content-Type: text/html; charset=Shift_JIS
  P3P: CP="This is not a P3P policy! See https://www.google.com/support/accounts/answer/151657?hl=en for more info."
  Server: gws
  X-XSS-Protection: 1; mode=block
  X-Frame-Options: SAMEORIGIN
  Set-Cookie: NID=...; expires=Tue, 04-Jul-2017 15:08:38 GMT; path=/; domain=.google.co.jp; HttpOnly
  Alt-Svc: quic=":443"; ma=2592000; v="35,34"
  Transfer-Encoding: chunked
  Accept-Ranges: none
  Vary: Accept-Encoding
Length: unspecified [text/html]
Remote file exists and could contain further links,
but recursion is disabled -- not retrieving.
Мур
источник
Не думаете ли вы, мой друг, что wget загрузит всю страницу, а затем отобразит заголовок.
Джаффер Уилсон
@JafferWilson прочитал последние несколько строк вывода.
Муру