웹과 웹 애플리케이션
웹 과 웹애플리케이션
웹서버
- HTTP기반 동작
- 정적리소스(http로 요청해서 http프로토콜로 응답하는) 제공, 기타부가기능
웹 애플리케이션서버 (was -web application server)
- http 기반으로 동작
- 웹 서버 기능 포함 + (정적 리소스 제공 가능)
- 프로그램 코드를 실행해서 애플리케이션 로직 수행
+ 동적 HTML,HTTP API(JSON)
+ 서블릿, JSP, 스프링 MVC
예)톰캣, JETTY,UNDERTOW
웹서버, 웹애플리케이션 서버(WAS) 의 차이
경계가 모호하다
웹서버는 정적, WAS는 애플리케이션로직 동적
웹애플리케이션은 웹서버의 기능을 제공함
자바는 서블릿 컨테이너 기능을 제공하면 WAS
- 서블릿 없이 자바코드를 실행하는 서버 프레임워크도 있음
정리하자면 WAS는 애플리케이션 코드를 실행하는데 더특화
웹시스템구정 - WAS,DB
- WAS,DB 만으로 시스템 구성 가능
- WAS는 정적 리소스, 애플리케이션 로직 모두 제공 가능
여기서 WAS에는 애플리케이션 로직
HTML,CSS,JS,(정적리소스 ) 등 많은 것을 담당한다
또 WAS는 DB까지 끌어온다
- WAS가 너무 많은 역할을 담당, 서버과부하 우려
- 가장 비싼 애플리케이션 로직이 정적 리소스 때문에 수행이 어려울 수 있음
- WAS장애시 오류 화면도 노출 불가능
+ 갑자기 WAS가 내려가버리면 오류화면 조차 노출이 불가능해짐
그래서 일반적으로
Web Server (정적리소스처리) -> WAS(애플리케이션로직) -> DB 순으로 하게된다
그래서 WAS가 죽게되면 잘 죽지않는 WebServer에서 오류 화면 제공 가능
--서블릿의 기능
우리가 form 태그에 action 값과 post/get방식을 이용해서 값을 보내게 되면
http문서에는
post /url http/1.1
host:localhost:8080
Content-type: application~~
username=kim&age=20
로 단순 텍스트를 보내게 된다
웹애플리케이션 서버를 모두 밑바닥부터 개발한다면
모든 이 텍스트를 풀어해쳐서
tcp로 연결대기, 소켓연결, http요청메시지를 파싱해서 읽고, post방식~ url 처리 등등
을 해야한다
그래서 서블릿이란
이런 모든 잡다한 기능을 자동화해주고
오직 비지니스로직에만 집중할 수 있게 해준다.
http요청시
- WAS는 Request,Response 객체를 새로 만들어서 서블릿 객체 호출
- 개발자는 Request객체에서 http 요청 정보를 편리하게 꺼내서 사용
- 개발자는 Response 객체에 http 응답정보를 편리하게 입력
- was는 Response 객체에 담겨있는 내용으로 HTTP 응답 정보를 생성
서블릿 컨테이너란
- 톰캣처럼 서블릿을 지원하는 WAS를 서블릿 컨테이너라고 함
- 서블릿 컨테이너는 서블릿 객체를 생성, 초기화, 호출, 종료하는 생명주기 관리
- 서블릿 객체는 싱그톤으로 관리
+ 고객의 요청이 올 때 마다 계속 객체를 생성하는 것은 비효율
+ 최초 로딩 시점에 서블릿 객체를 미리 만들어두고 재활용
+ 모든 고객 요청은 동일한 서블릿 객체 인스턴스에 접근
+ 공유 변수 사용 주의
+ 서블릿 컨테이너 종료시 함께 종료
- JSP도 서블릿으로 변환 되어서 사용
- 동시 요청을 위한 멀티 쓰레드 처리 지원** 가장 큰 특징
-- 동시요청 멀티 쓰레드
클라이언트에서 서버로 요청을 하면 WAS가 응답을 한다
WAS와 연결되었을때 서블릿객체를 누군가 호출을 해주는데
누가 해주는가?
그게 바로 쓰레드가 호출을 해준다
쓰레드
- 애플리 케이션 코드를 하나하나 순차적으로 실행하는 것은 쓰레드
- 자바 메인 메서드를 처음 실행하면 MAIN이라는 이름의 쓰레드가 실행
- 쓰레드가 없다면 자바 애플리케이션 실행이 불가능
- 쓰레드는 한번에 하나의 코드 라인만 수행
- 동시처리가 필요하면 쓰레드를 추가로 생성
누군가 요청이 오면 WAS는 쓰레드를 할당, 쓰레드는 서블릿객체를 호출 하는 방식
여기에서 한명이 아닌 여러명이 요청을 할 경우
쓰레드가 하나라면 한명것을 처리도 못하고 있는데 여러명이 요청하면
둘다 멈추며 죽어버린다
그래서 요청이 올 때마다 신규쓰레드가 생성된다.
요청마다 쓰레드 생성할 경우
장점
- 동시 요청을 처리할 수 있다
- 리소스(CPU, 메모리)가 허용할 때 까지 처리가능
- 하나의 쓰레드가 지연 되어도, 나머지 쓰레드는 정상 동작한다.
단점
- 쓰레드는 생성 비용은 매우 비싸다.
+ 고객의 요청이 올 때 마다 쓰레드를 생성하면 응답 속도가 늦어진다.
- 쓰레드는 컨텍스트 스위칭 비용이 발생한다.
(컨텍스트 스위칭 : CPU의 코어가 하나고 쓰레드가 2개면 두개를 동시에 사용할 수 없다. 그래서 따로따로 처리하는데 그걸 전환할때에 드는 비용이다)
- 쓰레드 생성에 제한이 없다.
+ 고객 요청이 너무 많이 오면, CPU,메모리 임계점을 넘어서 서버가 죽을 수 있다.
그래서 이걸 해결하기 위해서
WAS들은 내부에 쓰레드POOL을 사용한다
미리 쓰레드풀에서 놀고있는 쓰레드를 미리 만들어두고
만약 200개를 만들어두면
요청이 올때마다 하나씩 불러서 쓴다
요청응답이 끝나면 다시 쓰레드풀에 반납을 한다
그래서 빌려쓰는 식으로 사용하게 된다.
만약 200개를 만들어 두고 그 한계가 오면?
201번째는 쓰레드풀에서 남은게 없으니 대기를 하거나, 거절해버린다.
쓰레드 POOL
- 특징
+ 필요한 쓰레드를 쓰레드 풀에 보관하고 관리한다.
+ 쓰레드 풀에 생성 가능한 쓰레드의 최대치를 관리한다. 톰캣은 최대 200개 기본 설정
- 사용
+ 쓰레드가 필요하면, 이미 생성되어 있는 쓰레드를 쓰레드 풀에서 꺼내서 사용한다
+ 사용을 종료하면 쓰레드 풀에 해당 쓰레드를 반납한다.
+ 최대 쓰레드가 모두 사용중이어서 쓰레드 풀에 쓰레드가 없으면?
+ 기다리는 요청을 거절하거나 특정 숫자만큼만 대기하도록 설정할 수 있다.
- 장점
+ 쓰레드가 미리 생성되어 있으므로, 쓰레드를 생성하고 종료하는 비용(CPU)이 절약되고, 응답시간이 빠르다.
+ 생성 가능한 쓰레드의 최대치가 있으므로 너무 많은 요청이 들어와도 기존 요청은 안전하게 처리할 수 있다.
+++++실무팁++++++
- WAS의 주요 튜닝 포인트는 최대 쓰레드(max thread) 수이다.
- 이 값을 너무 낮게 설정하면? (못해도 cpu는 50%는 사용해야한다)
+ 동시 요청이 많으면, 서버 리소스는 여유롭지만, 클라이언트는 금방 응답 지연
- 이 값을 너무 높게 설정하면?
+ 동시 요청이 많으면, CPU, 메모리 리소스 임계점 초과로 서버 다운 (요청이 많으면 위험하다)
- 장애 발생시?
+ 클라우드면 일단 서버부터 늘리고, 이후에 튜닝
+ 클라우드가 아니면 열심히 튜닝
-성능 테스트
+ 최대한 실제 서비스와 유사하게 성능 테스트 시도
+ 툴: 아파치 ab, 제이미터 , nGrinder
결론은 WAS는 멀티쓰레드 지원을 해준다.
개발자가 멀티 쓰레드 관련 코드를 신경쓰지 않아도 됩니다..