STEP 13.콘서트 트래픽 처리 + 토큰 전략 (향해99 백엔드 5기)

 🤷 콘서트 예약 프로그램

일반적으로 콘서트를 예약할 때에는 '인기가수'의 '팬'들이 몰리게 되며 트래픽이 발생한다. 곧 서버가 부하를 받게 된다. 적은 부하로 트래픽을 처리하기 위한 방법 중 사용 토큰 전략이 있다.

 

Token (feat Redis)
in-memory 데이터베이스인 Redis를 이용한 token 대기열

 

 

콘서트 예약프로그램의 대기열 방식은

1. 사용자 처음 등장 -> 토큰 생성 -> 토큰 대기열로 들어감

2. 토큰 대기열 -> 순번에 따라 활성화 토큰으로 전환 (서버의 상태에 따라 대기 시간이 정해짐)

3. 활성화 토큰 -> 예약, 결제 등이 가능해짐

 

이 있다.

 

이곳에서 토큰 관리는 두가지로 나누게 된다.

• 대기열 토큰 (Waiting Tokens)
• 활성화 토큰 (Active Tokens)

대기열 토큰 (Waiting Tokens)

기존의 대기열 토큰은 상태값에 따라 DB에 저장하여 관리했다.

//토큰조회
public TokenCommand.TokenCreateResDto getTokenInfo(String token) {

        Token findToken = tokenRepository.findByToken(token);

        if (findToken.getStatus() == TokenStatus.WAIT ){
            long order = findOrder(findToken);
            return TokenCommand.tokenInfo(findToken, order);
        }
        return TokenCommand.tokenInfo(findToken, 0L);
}

//토큰생성
public TokenCommand.TokenCreateResDto createToken(Long userId) {
    
        Token token = tokenRepository.findByUserId(userId);
        
        //토큰이 이미 존재할 경우
        if (!ObjectUtils.isEmpty(token)) {
            //토큰이 이미 active일 경우에는 updateAt 비교
            //토큰이 Wait라면 accessTime 비교
            //5분이 지났으면
            ...

            return TokenCommand.tokenInfo(token, order);
        } else {
            //토큰 발급
            Token saveToken = tokenRepository.save(Token.create(user, status));
            return TokenCommand.tokenInfo(saveToken, order);
        }
        
    }

 

위의 방식은 토큰을 생성, 조회할 때마다 DB에 커넥션 되게 된다.

 

즉 사용자가 몇만명이 동시에 poliing을 할 경우 DB에 강한 부하를 주게 된다. 그래서 중간에 In-Memory인 Redis를 두어 부하를 분산해주려 한다.

 

🤷 API  목록별 조치 목표

- 대기열 토큰 등록 POST /token

1. 사용자가 요청을 보낸다.

2. 토큰을 생성

3. 토큰을 redis에 ZADD 명령어로 Waiting Tokens(Sorted Set 자료구조)에 먼저 넣는다.

4. 'ZRANK Waiting Tokens 사용자' 명령어로 순번을 구해준다.

5. 잔여대기시간을 계산해 리턴한다.

 

- 토큰 사용가능 여부 조회 GET /token

1. 클라이언트에서 일정 기간(5초)마다 해당 API를 호출하여 대기순번 등의 정보를 갱신한다.(polling 방식)

2. 토큰이 Active Tokens에 있는지 확인

3. 없을 경우, 'ZRANK Waiting Tokens 사용자' 명령어로 순번을 구해준다.

5. 잔여대기시간을 계산해 리턴한다.

 

-  콘서트 좌석 조회 GET /concert-seats

1. 토큰이 Active Tokens에 있는지 확인

2. 토큰의 만료시간을 확인하며, 5분이 지나지 않았다면

3. concertSeats 정보를 리턴한다.

 

- 콘서트 좌석 예약 POST /seat

1. 토큰이 Active Tokens에 있는지 확인

2. 토큰의 만료시간을 굳이 사용하지 않는다. 이유는 결제까지 와서 만료시간으로 튕길 경우 화가 많이 날 것이다. (회사 입장에서도 돈을 받는게 더 중요할 거라 생각이 듬 feat.하헌우 코치님 )

3. 결제 후 Active Tokens에서 제거한다.

 

+ Active Token 전환 스케쥴러

1. 10초 마다 3,000명 씩 Active Tokens으로 전환한다.

 

 

Redis에서 사용 될 자료구조는 2가지

sorted set (Waiting Tokens 사용)

• zadd로 등록 한다 (예시 : zadd waitingTokens 20240901030101 tokenUUID)
• score부분(20240901030101)으로 순서를 매길 수 있다. 위 프로젝트 같은 경우 입장 순으로 순서를 매길 수 있는 장점이 있다.
• zrank는 한 value의 순번을 가져올 수 있다.
• zrange는 원하는 순번의 정보를 가져오기에 적합하다.

set (Active Tokens 사용)

• 컬럼당 추가, 제거, 존재 유무 체크의 소모되는 시간이 일정하며 매우 빠르다.
• 최대 요소의 수가 42억개를 넘긴다고 한다.
• sadd 명령어를 사용해 등록이 가능 (예시 : sadd activeToken tokenUUID)
• sadd activeToken tokenUUID:20240303010203 식으로 메타데이터를 작성할 수 있으며, 시간으로 두면 만료시간을 구하기 수월할 것이다.