Как сайты с высоким трафиком обслуживают более 65535 TCP-соединений?

Если существует ограничение на количество портов, которое может иметь одна машина, и сокет может связываться только с неиспользуемым номером порта, то как серверы, получающие чрезвычайно большое количество запросов (больше, чем максимальное количество портов), обрабатывают это? Это просто сделано, делая систему распределенной, то есть много серверов на многих машинах?

Вы неправильно понимаете номера портов: сервер прослушивает только один порт и может иметь большое количество открытых сокетов от клиентов, подключающихся к этому одному порту.

На уровне TCP кортеж (IP-адрес источника, порт-источник, IP-адрес назначения, порт назначения) должен быть уникальным для каждого одновременного соединения. Это означает, что один клиент не может открыть более 65535 одновременных подключений к серверу. Но сервер может (теоретически) обслуживать 65535 одновременных подключений на клиента .

Таким образом, на практике сервер ограничен только мощностью процессора, памяти и т. Д., Которые он должен обслуживать, а не количеством TCP-соединений с сервером.

Вы ошибаетесь - уникальность сокета определяется четырьмя факторами:

1. локальный IP-адрес
2. номер локального порта
3. удаленный IP-адрес
4. номер удаленного порта

При предложении сетевых сервисов 1. и 2. обычно являются статическими (например, IP 10.0.0.1, порт 80), но если вы не ожидаете тысячи соединений от одного клиента (или одного шлюза NAT), вы не собираетесь выдвигать границы возможных комбинаций 3. и 4. до того, как закончатся локальные ресурсы.

Таким образом, хотя практически клиент не будет использовать уже используемый порт для подключения, чтобы открыть подключение к другому IP-адресу назначения, истощение номера порта будет наименьшей из ваших проблем практически для любого приложения - будь то на сервере или сторона клиента.

Проблема вполне реальная: шлюзы NAT (маршрутизаторы) обслуживают клиентов с большим количеством открытых исходящих соединений (например, торрентов) - там вы увидите истощение номера порта после опустошения пула портов, доступного для NAT. В этом случае шлюз NAT не может создать какие-либо дополнительные ассоциации, тем самым эффективно отключая клиентов от Интернета.

Вопрос заключался в том, как обрабатывать большое (> 64 КБ) количество подключений. Два наиболее распространенных метода:

• Добавление большего количества серверов, что увеличивает количество адресов src / dst и кортежей номеров портов. Есть несколько способов распределить нагрузку между несколькими серверами; DNS Round Robin является одним; есть другие

• Разверните «NAT операторского уровня» (который, по моему мнению, недоверчиво и правильно друг называет «более грубым NAT»). По сути, это NAT NAT. Это имеет очень плохие последствия для приложений, но это то, что делают некоторые крупные провайдеры, когда им не хватает пространства IPv4 и / или номеров портов, и / или они не хотят переходить на IPv6.