로드밸런서 뒤에서 벌어지는 일

로드밸런서는 요청을 나눠주는 장치로만 알려져 있지만, 실제로는 연결 관리·헬스체크·타임아웃까지 떠안고 있습니다.

연결은 어디서 끊기는가

클라이언트와 로드밸런서 사이의 연결, 로드밸런서와 서버 사이의 연결은 별개입니다. 이 둘을 하나로 착각하면 타임아웃 설정이 어긋납니다.

정리

앞단과 뒷단의 타임아웃을 함께 보는 습관이 장애 시간을 줄여줍니다.