DevOps Day 24 (4.7) 네트워크 기초_아키텍처를 구성하는 요소들

프록시 (Proxy)
프록시 서버는 원 서버를 대리하여 통신하며 캐시, 로드밸런서, 보안 등 중계 역할을 하는 하는 서버 일컫습니다.

구조상 어디에 위치하느냐에 따라 포워드 프록시(forward proxy) 혹은 리버스 프록시(reverse proxy)로 나누어 집니다.
Forward Proxy (포워드 프록시) : 클라이언트 -서버 구조에서 클라이언트 쪽을 대리하며, 클라이언트애서 서버로 리소스를 요청할 때 직접 요청하지 않고 프록시 서버를 거쳐서 요청합니다.
Reverse Proxy (리버스 프록시) : 애플리케이션 서버의 앞에 위치하여 클라이언트가 서버에 요청할 때 리버스 프록시를 호출하고, 리버스 프록시가 원 서버로부터 응답을 전달받아 다시 클라이언트에게 전송하는 역할을 합니다.

 

로드벨런서 (Load Balancer)
서비스 규모가 커지지만 서버 한대로 운용하면 충분한 서비스를 제공할 수 없으며 서비스 가용서 (availability)를 높이기 위해 Load balancer을 사용합니다. 로드 밸런서에는 서비스를 위한 가상 IP를 하나 제공하고, 사용자는 각 서버의 개별 IP 주소가 아닌 동일한 가상 IP를 통해 각 서버로 접근 합니다. 이 외에도 로드 밸런서는 각 서버의 서비스 상태를 체크해 서비스가 가능한 서버로만 사용자의 요청을 분산하므로 서버에서 장애가 발생하더라도 기존 요청을 분산하여 다른 서버에서 서비스를 제공할 수 있습니다.

 

계층별 로드 밸런서
L4 로드 밸런서 : TCP, UDP 정보(특히 포트넘버)를 기반으로 로드 밸런싱을 수행하고 TCP 계층에서의 최적화와 보안 기능을 함께 제공합니다.
L7 로드 밸런서 : HTTP, FTP, SMTP와 같은 애플리케이션 프로토콜 정보를 기반으로 로드 밸런싱을 수행합니다. 이 때 HTTP 헤더 정보나 URI와 같은 정보를 기반으로 프로토콜을 이해한 후 부하를 분산합니다. 장애극복 (failover), 리다이렉션의 기능도 함께 수행합니다.

 

캐시의 기본 원리 및 적용 (HTTP 헤더 – 캐시)
캐시 (데이터나 값을 미리 복사해 놓는 임시 장소)가 없을 경우 동일한 데이터나 값을 네 네트워크에 또 다운받아야 합니다. 캐시는 캐시의 접근 시간에 비해 원래 데이터를 접근하는 시간이 오래 걸리는 경우나 값을 다시 계산하는 시간을 절약하고 싶은 경우에 사용합니다.
브라우저에 캐시를 저장할 땐 헤더에 cache-control 속성을 통해 캐시가 유효한 시간을 지정할 수 있습니다.

캐시 시간이 초과하지 않은 경우 : 캐시가 존재하고 아직 지정한 시간이 지나지 않아 유효한 캐시라면 해당 캐시에서 데이터를 가져옵니다. 이런 방식을 사용하면 장점들이 있습니다 :
 - 캐시 덕분에 캐시 가능 시간동인 네트워크를 사용하지 않아도 된다
 - 비싼 네트워크 사용량을 줄일 수 있음
 - 브라우저 로딩 속고가 매우 빠름
 - 빠른 사용자 경험 제공

 

캐시 시간이 초과했을 않은 경우 : 다시 서버에 요청하고 지정한 시간 유지해야 합니다 (재다운로드 해야합니다). 기존 캐시를 지우고 새 캐시로 데이터를 업데이트하고 이 과정에서 캐시 유효 시간이 다시 초기화됩니다.

 

캐시 검증 헤더와 조건부 요청
만약 캐시 유효시간이 초과하더라도 서버 데이터가 변경되지 않았다면 그대로 캐시 데이터를 사용하는 방법은 없을까요? -> Last modified를 이용해 캐시 수정시간을 알 수 있으며 정보는 헤더에 포함합니다. 수정사항이 없을 경우 HTTP body가 빠진 데이터를 전송하여 빠른 속도로 전송이 가능합니다. HTTP body는 응답 데이터에 없어 304 not modified status code 가 표시 됩니다.

1. 데이터가 수정되었는지 검증
2. 수정되지 않았다면 바디를 제외한 HTTP 헤더만 전송
3. 브라우저 캐시에서 응답 결과를 재사용, 헤더 메타에이터 또한 갱신
4. 브라우저는 캐시에서 조회한 데이터를 렌더링

 

Last-modified 와 If modified Since 정리 :
- 캐시 유효 시간이 초과해도, 서버의 데이터가 갱신되지 않으면? -> 304 Not modified + 헤더 메타데이터만 응답 (바디 x)
- 클라이언트는 서버가 보낸 응답 헤더 정보로 캐시의 메타데이터를 갱신
- 클라인언트 캐시에 저장되어 있는 데이터 재활용
- 결과적으로 네트워크 다운로드가 발생하지만 용량이 적은 헤더 정보만 다운로드
- 매우 실용적인 해결책

 

Last-modified 와 If modified Since 단점 :
- 1초 미만 단위로 캐시 조정이 불가능
- 날짜 기반의 로직 사용
- 데이터를 수정해서 날짜가 다르지만, 같은 데이터를 수정해서 데이터 결고하가 똑 같은 경우
- 서버에서 별도의 캐시 로직을 관리하고 싶은 경우

 

ETAG (entity tag) 와 if none match (Last modified / if modified since 보다 더 간단) :
ETAG : 개시용 데이터에 임의의 고유한 버전 이름을 다아둠 e.g ETAG : “V1.1” etc
데이터가 변경되면 이 이름을 바꾸어 변경함 (HASH를 다시 생성) / 같으면 유지 다르면 다시 받는 방식

 

ETAG와 if none match 동작 방식 :
1. 서버에서 헤더에 Etag를 작성해 응답합니다.
2. 클라이언트의 캐시에서 해당 ETAG 값을 저장합니다
3. 만약 캐시 시간이 초과돼서 다시 요청을 해야 하는 경우라면 이때 ETag 값을 검증하는 If-None-Match를 요청 헤더에 작성해서 보냅니다.
4. 서버에서 데이터가 변경되지 않았을 경우 ETag는 동일하기에 그래서 If-None-Match는 거짓이 됩니다. 이 경우 서버에서는 304 Not Modified를 응답하며 이때 역시 HTTP Body는 없습니다.
5. 브라우저 캐시에서는 응답 결과를 재사용하고 헤더 데이터를 갱신합니다.

 

Cache-Control (cache directives / 캐시 지시어) :
캐시와 관련된 헤더들과 조건부 요청 헤더 정리 내용 :
- Cache-Control :max-age -> 캐시 유효 시간.초 단위
- Cache-Control :no cache -> 데이터는 캐시해도 되지만, 항상 원(origin) 서버에 검증하고 사용
- Cache-Control : no-store -> 데이터에 민감한 정보가 있으므로 저장하면 안됨

 

Expires (캐시 만료일 지정)
- 캐시 만료일을 정화한 날짜로 지정 (expires: Mon, 01 Jan 2022 00:00:00 GMT)
- HTTP 1.0부터 사용
- 지금은 더 유연한 Cache control : max age 권장
- Cache Control : max age와 함께 사용하면 expires는 무시됨

 

프록시 캐시 (Proxy Cache)

한국에 프록시 캐시서버를 두고 한국의 클라이언트는 프록시 캐시서버를 통해 자료를 더 빨리 가져올 수 있습니다. (한국 클라이언트가 미국 서버로 다이렉트로 보내는 것 보다). 이때 클라이언트에서 사용하고 저장하는 캐시를 private 캐시라 하며 프록시 캐시 서버의 캐시를 public 캐시라 합니다.

 

Cache-Control (캐시 지시어 – 기타)
- Cache-Control: public -> 응답이 public 캐시에 저장되어도 됨
- Cache-Control: Private -> 응답이 해당 사용자만을 위한 것, private 캐시에 저장해야 함
- Cache-Control: s-maxage -> 프록시 캐시에만 적용되는 max-age
- Age: 60 (HTTP 헤더) -> 오리진 서버에서 응답 후 프록시 캐시 내에 머문 시간(초)

 

Cache-Control 무효화
클라이언트가 캐시를 적용하지 않아도 임의로 브라우저가 캐시를 적용하는 경우, 특정 페이지에서 캐시가 되면 안 되는 정보(e.g. 통장 잔고)가 있다면 어떻게 이를 무효화할 수 있을까요?
- Cache-Control: must revalidate -> 캐시 만료 후 최초 조회 시 원 서버에 검증해야함
                  -> 원 서버 접근 실패 시 반드시 오류가 발생해야함 – 504 (Gateway timeout)
                  -> must revalidate는 캐시 유효 시간이라면 캐시를 사용함
- Pragma: no cache -> HTTP 1.0 하위 호환

확실한 캐시 무효화 응답을 하고 싶다면 위에 있는 캐시 지시어를 모두 넣어야합니다
Cache control: no cache, no store, must revalidate
Pragma: no cache

 

Cache-Control (no cache vs must revalidate)
no-cache 기본 동작

no-cache와 must-revalidate 모두 원 서버에 검증해야 하지만 그에 대한 응답에 대해 다른 점이 있습니다. 캐시 서버 요청을 하면 프록시 캐시 서버에 도착하면 no-cache인 경우 원 서버에 요청을 하게 되고 검증 후 304 응답을 하게 됩니다.

만약 프록시 캐시 서버와 원 서버 간 네트워크 연결이 단절되어 접근이 불가능하다면, no-cache에서는 응답으로 오류가 아닌 오래된 데이터라도 보여주자라는 개념으로 200OK으로 응답을 합니다.

 

원 서버 접근 불가 시 – must revalidate

must-revalidate라면 원 서버에 접근이 불가할 때 504 Gateway Timeout 오류를 보냅니다. 통장 잔고 등 중요한 정보가 원 서버를 못 받았다고 해서 예전 데이터로 뜬다면 큰 문제가 생깁니다.

 

CDN (Content Delivery Network)
콘텐츠를 좀 더 빠르고 효율적으로 제공하기 위해 등장했습니다.
CDN 특징 :
 - 원본을 복사하여 저장할 여러 개의 캐시 서버로 구성
 - 콘텐츠를 요청받은 경우 데이터를 전달하기 가장 유리한 캐시 서버에서 관련 콘텐츠 제공

 

CDN 운영 방식 :
1. CDN 네트워크는 요청한 곳과 가장 가까운 데이터 센터가 해당 콘텐츠를 저장하고 있는지 확인합니다.
2. 만약 해당 데이터 센터가 전달해야 할 콘텐츠를 가지고 있지 않다면, 다른 데이터 센터가 해당 콘텐츠를 가지고 있는지 확인해야 합니다.
3. 모든 데이터 센터가 콘텐츠를 가지고 있지 않다면 원본이 저장된 원본 서버에서 콘텐츠를 제공해야 합니다.

 

정적 콘텐츠 (Static Contents) :
내용이 거의 변하지 않는 콘텐츠 (CDN의 캐시 서버에 저장하기 적합)
1. HTML 파일, 동영상과 같은 콘텐츠
2. 변화가 없는 콘텐츠
3. 개인화되지 않은 대중적인 콘텐츠

 

동적 콘텐츠 (Dynamic Contents) :
접속할 때 마다 내용이 바뀌거나 사용자 마다 다른 내용을 보여주는 콘텐츠
컨텐츠가 바뀔 때 마다 캐시 서버에 바뀐 컨텐츠가 전파되어야 CDN 네트워크가 지원하기 어렵습니다.
1. 위치, IP 주소, 사용시간 관련 콘텐츠
2. 사용자가 접근할 때 마다 내용이 달라지는 콘텐츠
3. 키드 번호, 전화번호등 개인화된 정보 관련 콘텐츠

 

CDN 이점
1. Ddos 공겨에 대해 어느정도의 대응이 가능
 - 하나의 데이터 센터를 사용하지 못한다고 하더라도 다른 데이터 센터는 여전히 동작하고 있습 다른 데이터 센터에서 콘텐츠를 제공 받을 수 있습니다.
2. 로딩속도 감소로 인한 사용자 경험 향상
- 로딩속도가 길수록 사이트 이용자 / 수익이 줄어듭니다.
3. 트래픽 분산으로 인한 트래픽 관련 비용 절감
- 지역에 맞게 서버의 성능과 인터넷의 성능을 낮춘다 해도 무리 없이 서비스를 제공할 수 있습니다

 

네트워크 구성 방식
Scattered 방식 : 최대한 낮은 응답시간에 집중하여 세계 곳곳에 비교적 낮은 성능의 데이터 센터를 구성하고 연결해 두어야 합니다.
1. 세계 곳곳에 최대한 많은 캐시 서버를 제공
2. 낮은 수용량의 데이터 센터 및 캐시 서버
3. 매운 높은 관리비용 및 사용자 요금
4. 연결 수요가 적은 지역 대상으로 적절한 방식

 

Consolidated 방식 : 여러 서버를 통합하여 운용하는 방식으로 Scattered 방식에서 사용했던 낮은 성능 대신 고성능의 데이터 센터들을 운용해야 합니다. 비록 응답시간이 증가하지만 데이터 센터의 수가 줄어듦으로 데이터 센터의 관리 및 유지 비용을 절감할 수 있습니다.
1. 다수의 고성능 서버로 통합하여 운용하는 방식
2. 응답시간 증가. 하지만 관리 및 유지 비용이 낮아짐
3. 연결 수요가 많은 지역 대상으로 적절한 방식