Ile requestów HTTP obsłuży Twoja aplikacja? I jaki wpływ mają na to wątki?

Domyślnie aplikacja webowa w Springu uruchamiana jest na wbudowanym serwerze Tomcat.

Każde żądanie HTTP, które przychodzi do aplikacji zostaje przypisane do jednego wątku, który je obsługuje.

Takich wątków jest domyślnie 200.

Wartość tę można nadpisać propertiesem server.tomcat.threads.max

Ile requestów obsłuży twoja aplikacja?

Tyle, ile ich maksymalnie może na raz przyjąć.

Jest na to prosty wzór: liczba wątków / średni czas obsługi requestu.

Wynik to liczba requestów na sekundę.

Czyli innymi słowy throughput twojej aplikacji.

Im większy throughput, tym więcej żądań HTTP Twoja aplikacja obsłuży.

Przykłady:

(dla serwera z 200 wątkami)

  • średni czas trwania requestu: 1 sekunda => throughput: 200 RPS (requests per second – żądań na sekundę)
  • średni czas trwania requestu: 500 ms => throughput = 400 RPS
  • 200 ms => 1.000 RPS
  • 100 ms => 2.000 requestów na sekundę.

To oczywiście w warunkach laboratoryjnych i w sytuacji, gdy Twoja aplikacja skaluje się z kolejnym dodatkowym ruchem liniowo (rzadko tak jest).

Niemniej jednak, warto wiedzieć jak średni czas trwania danego żądania i liczba wątków wpływa na maksymalną ilość żądań HTTP jakie Twoje aplikacja może obsłużyć.

Author: Dariusz Mydlarz

Cześć, nazywam się Dariusz Mydlarz i od 2012 pracuję jako programista. Tworzę w ekosystemie Javy i uwielbiam systemy backendowe. Chcę w tym miejscu pomagać Ci stawać się lepszym programista. Jeśli mogę Ci jakoś pomoc, po prostu napisz do mnie.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *