스프링 MVC - 1편 - 동시요청 - 멀티 쓰레드

2 분 소요

인프런 스프링 MVC 1편 - 백엔드 웹 개발 핵심 기술편을 학습하고 정리한 내용 입니다.

이 요청과 응답 과정에 사용되는 서블릿 객체는 누가 호출하는 걸까?

바로 쓰레드 이다.

쓰레드

만약 쓰레드가 하나인 상황이라면?

다음과 같이 애플리케이션 동작 및 응답이 일어날 것이다.

그런데 요청이 여러 곳에서 들어온다면..?

1번의 연결이 계속 지속 되고 있고, 2번이 들어오면 2번은 쓰레드 대기 상태이다. 그런데 1번에서 작업이 점점 오래 걸려서 죽게 된다면, 결과는 두 요청 모두 죽는 상황이 일어나 버린다.

이를 해결하기 위해 간단하게 요청 마다 쓰레드를 생성하자.

장점
- 동시 요청을 처리할 수 있다.
- 리소스(CPU, 메모리)가 허용할 때 까지 처리 가능
- 하나의 쓰레드가 지연 되어도, 나머지 쓰레드는 정상 동작 한다.
단점
- 쓰레드 생성 비용은 매우 비싸다.
  - 고객의 요청이 올 때마다 쓰레드를 생성하면, 응답 속도가 늦어진다.
- 쓰레드는 컨텍스트 스위칭 비용이 발생한다.
- 쓰레드 생성에 제한이 없다.
  - 고객 요청이 너무 많이 오면 CPU, 메모리 임계점을 넘어서 서버가 죽을 수 있다..

그래서 WAS 들은 쓰레드 풀 이란걸 만들어 놓는다.

특징
- 필요한 쓰레드를 쓰레드 풀에 보관하고 관리한다.
- 쓰레드 풀의 생성 가능한 쓰레드의 최대치를 관리한다. 톰캣은 쵀대 200개 기본 설정 (변경 가능)
사용
- 쓰레드가 필요하면, 이미 생성되어 있는 쓰레드를 쓰레드 풀에서 꺼내서 사용한다.
- 사용을 종료하면 쓰레드 풀에 해당 쓰레드를 반납한다.
- 최대 쓰레드가 모두 사용중이어서 쓰레드 풀에 쓰레드가 없으면?
  - 기다리는 요청은 거절하거나 특정 숫자 만큼 대기하도록 설정 할 수 있다.
장점
- 쓰레드가 미리 생성되어 있으므로, 쓰레드를 생성하고 종료하는 비용(CPU)이 절약되고, 응답 시간이 빠르다.
- 생성 가능한 쓰레드의 최대치가 있으므로 너무 많은 요청이 들어와도 기존 요청은 안전하게 처리할 수 있다.