어느 월요일 아침, 번화가에 위치한 매장의 자물쇠를 풀러 갔는데 누군가 모든 자물쇠를 접착제로 붙였다면 어떤 공포에 직면하게 될지 상상해 보세요. 평소처럼 문을 활짝 열어 고객을 맞이하고 간판도 '영업 중'으로 바꿔놓지 않았다면, 고객들은 당연히 불만을 품고 다른 곳에서 돈을 쓰겠다고 발걸음을 돌릴 것입니다.
지난 몇 달 동안 한 곳도 아니고 두 곳의 주요 CDN 사업자에게서 이런 일이 발생했습니다. CDN 사업자에 대해 들어본 적이 없더라도 이 사업자의 서비스 중단으로 인해 대형 인터넷 웹사이트가 다운되는 경우가 있습니다.
더 큰 인프라는 유용하지만 수요가 많은 트래픽에 대한 완전한 해결책은 아닙니다. 더 많은 서버, 더 많은 클라우드 리소스 또는 더 큰 호스팅 공간을 추가하면 용량을 확실히 늘릴 수 있지만 수요가 갑자기 폭증할 때 핵심 문제를 자동으로 해결하지는 못합니다. 대부분의 경우 문제는 인프라의 총량이 아니라 트래픽이 주요 병목 지점에 도달하는 속도와 집중도입니다.
그렇기 때문에 큰 것이 항상 좋은 것은 아닙니다. 엔터프라이즈 시스템은 여전히 계정 서비스, 데이터베이스, 인벤토리 로직, API, 결제 단계와 같은 중요한 경로에 의존하고 있으며, 이러한 경로들은 대규모 아키텍처 내에서도 불안정해질 수 있습니다. 자동 확장은 유용하지만 본질적으로 반응형이며, 갑작스러운 급증은 추가 용량이 완전히 효과를 발휘할 수 있는 속도보다 더 빨리 발생하는 경우가 많습니다.
Queue-Fair는 단순히 더 큰 인프라가 모든 것을 흡수하기를 바라는 대신 도착 속도를 제어함으로써 다른 각도에서 문제를 해결합니다. 코드 한 줄로 배포할 수 있고, 보통 5분 정도면 라이브 상태가 되며, 무료 대기열도 무료로 제공합니다. 엔터프라이즈 조직의 경우, 만일을 대비해 스택의 모든 부분을 확장하는 것보다 더 안전하고 비용 효율적인 결과를 제공하는 경우가 많습니다.
트래픽이 급증해도 시스템에 균등하게 부하가 분산되지 않기 때문에 대규모 플랫폼에서 여전히 충돌이 발생할 수 있습니다. 트래픽 이벤트는 로그인, 제품 상세 정보, 좌석 선택, 재고 예약 또는 결제 오케스트레이션과 같이 여정의 한 좁은 부분에 압력이 집중될 수 있습니다. 일단 병목 현상이 발생하면 전체 인프라 공간이 아무리 훌륭해 보여도 나머지 플랫폼은 그 주변에서 문제가 발생할 수 있습니다.
이것이 '그냥 더 크게 만들기'가 오해의 소지가 있는 이유 중 하나입니다. 용량 업그레이드는 도움이 되지만 아키텍처 제약, 써드파티 종속성 또는 동시성 충격을 제거하지는 못합니다. 갑자기 트래픽이 급증하면 반응형 확장은 가장 취약한 구성 요소를 충분히 신속하게 보호하지 못할 수 있습니다. 그렇기 때문에 대규모의 정교한 엔터프라이즈 웹사이트에서도 주요 이벤트가 발생하는 동안 속도 저하, 503 오류, 전체 중단이 발생할 수 있습니다.
Queue-Fair는 병목 지점에 도달하기 전에 도착 곡선을 평활화하여 이러한 플랫폼을 보호합니다. 오리진에 피해를 주는 버스트를 허용하는 대신 공정한 선착순 방식으로 액세스를 측정합니다. 코드 한 줄로 약 5분 만에 추가할 수 있고 무료 대기열로 무료로 시작할 수 있으므로 더 큰 인프라를 끝없이 쫓지 않고도 탄력성을 추가할 수 있는 실용적인 방법입니다.
더 나은 해결책은 일반적으로 합리적인 수용 인원 계획과 능동적인 트래픽 관리를 결합하는 것입니다. 용량 계획도 중요하지만, 도착 시간과 흐름을 제어할 수 있는 가상 대기실과 함께 사용할 때 가장 효과적입니다. 이렇게 하면 사이트에서는 통제되지 않은 충격이 아닌 안정적이고 예측 가능한 부하를 볼 수 있습니다.
이 접근 방식은 출시, 판매, 마감일 또는 발표로 인해 트래픽이 극도로 몰리는 기업 조직에 특히 효과적입니다. 극히 드문 순간을 대비해 시스템의 모든 부분을 과도하게 구축하는 대신 대기열을 통해 사이트를 보호하고 인프라를 보다 효율적으로 사용하면서 고품질의 고객 경험을 유지할 수 있습니다. 이는 대규모 호스팅만으로 모든 급증을 무차별적으로 처리하는 것보다 저렴하고 안전한 경우가 많습니다.
Queue-Fair는 바로 이러한 전략을 위해 만들어졌습니다. 매우 정확한 흐름 제어, 선착순 공정성, 코드 한 줄로 5분 내외의 빠른 배포, 무료 대기열 옵션을 무료로 제공합니다. 따라서 단순히 모든 것을 더 크게 만드는 비싸고 종종 불완전한 로직에 대한 매우 매력적인 대안이 될 수 있습니다.
콘텐츠 전송 네트워크는 클라우드 기반 소프트웨어입니다. 이는 우리 모두가 당연하게 여기는 거대한 웹사이트로 가는 일종의 지름길입니다. 우리는 모든 것을 24시간 연중무휴로 빠른 속도와 효율성으로 즉시 액세스할 수 있는 고객 경험이 거의 당연시되는 사회에 살고 있으며, 이러한 경험이 사라진다면 엄청난 대가를 치러야 할 것입니다.
CDN 사업자는 많은 대형 웹사이트 운영자에게 서버와 로컬 파일 호스팅을 제공하며, 전 세계 다양한 위치에서 더 빠르고 효율적인 로컬 연결을 제공하여 기본 사이트와 서버를 백업합니다.
예를 들어, 런던에 살고 있지만 최신 뉴스를 확인하기 위해 뉴욕 타임즈. 최신 뉴스와 가십을 찾는 수많은 미국인을 이미 관리하고 있는 미국의 서버에 연결하는 대신 집에서 훨씬 더 가까운 대체 서버에 연결하여 중요한 정보를 로컬 데이터 센터에 캐싱할 수 있습니다. 이를 통해 뉴욕타임즈 방문자는 특히 비디오 기사나 인터뷰 스트리밍과 같이 속도가 필수적인 상황에서 가장 효율적이고 즐거운 경험을 할 수 있습니다. 이는 제대로 작동할 때 고객 경험을 개선합니다.
지금까지는 모두 이상적으로 들립니다. '콘텐츠 본부'에 편승하여 매우 빠른 연결과 액세스를 제공합니다. 하지만 여기에 문제가 있습니다. 거의 모든 대형 제공업체를 처리하는 소수의 주요 CDN이 있기 때문에, 이들이 무너지면 다른 업체들도 함께 무너집니다.
최근 한 주요 CDN 사업자를 비롯해 Amazon, eBay, StackOverflow, Reddit, PayPal, Shopify, Github, Twitch, HMRC, 그리고 생각할 수 있는 거의 모든 뉴스 조직에서 이러한 일이 발생했습니다.
이러한 대기업에서 일하는 대부분의 엔지니어는 최대한 빨리 문제를 해결하지만, 관련 소매업체의 입장에서는 결코 빠를 수 없습니다.
웹사이트가 오프라인 상태가 되는 순간부터 고객 유입으로 인한 수익 손실이 발생합니다.
가디언은 SEO 에이전시인 Reboot가 제공한 몇 가지 수치를 인용하여 아마존이 최근 CDN 공급업체를 중단하는 동안 약 3,200만 달러의 매출 손실을 입었을 것으로 추정했습니다. 이들의 연구에 따르면 이 거대 소매업체는 초당 6천 달러 이상의 비용이 소요되며, 거의 한 시간 동안 오프라인 상태가 지속되면 곧 상당한 손실이 발생하게 됩니다.
3,200만 달러나 되는 금액이네요!
한 달 후에 다운된 또 다른 CDN 제공업체는 블로그에 "이 서비스를 사용하는 약 500명의 고객 중 상당수가 자동으로 경로를 변경하여 몇 분 안에 운영을 복구했습니다... 나머지 대다수의 고객은 곧 수동으로 경로를 변경했습니다."라고 썼습니다.
그러나 대형 은행의 서비스가 정상적인 고객 흐름으로 완전히 복구되는 데 30분에서 두 시간 정도 걸렸습니다.
그래서 CDN 제공업체가 다운되었고 모든 사람의 가상 도어록이 서로 연결되었습니다. 메시지 '오류 503 서비스를 사용할 수 없음' 라는 메시지가 수백만 명의 사용자 눈앞에 번쩍거리며 나타나 혼란스러워했습니다. 엄지손가락의 피부나 휴대폰 화면의 유리가 닳을 때까지 계속 새로고침 버튼을 누른 사용자들은 포기하고 다른 곳으로 이동했을 가능성이 높습니다. 대기열 관리 시스템으로 이러한 문제를 해결하고 대기열과 관련된 데이터 및 사이트의 사용량을 모니터링합니다. 이러한 실시간 지표, 과거 데이터 및 서비스 보고서는 비즈니스 인텔리전스를 위한 인사이트도 제공합니다.
고객에게 어떤 장난꾸러기가 도어락을 모두 붙였다고 말하지 않고, 서버 전송을 제어하는 CDN 운영자의 코드에 버그가 발생하여 한 시간 내에 모든 것이 정상화될 것이라고 말할 수 있다고 상상해 보세요.
더 좋은 점은, 당신이 그들을 위해 대기열에서 그들의 자리를 구해준다면 얼마나 많은 사람들이 여전히 다른 곳에서 쇼핑할 것이라고 생각하십니까?
이것이 바로 Queue-Fair 가상 대기실이 제공하는 기능입니다.
이러한 중단은 일어나서는 안 되는 일입니다. 관련 CDN 운영자조차도 버그를 더 일찍 발견하지 못했다는 사실에 실망하고 놀랐으며, 이러한 오류가 자신들의 네트워크를 통과할 수 있다는 사실과 이로 인해 고객들에게 많은 문제를 일으켰습니다. 그들은 적절한 사과문을 발표하고 평소처럼 업무를 재개했습니다.
안타깝게도 이러한 오류는 때때로 발생하며, 다음번에는 최근의 CDN 장애보다 훨씬 더 심각한 영향을 미칠 수 있습니다.
비즈니스에 종사하는 사람이라면 누구나 듣고 싶어 하지 않는 말입니다. 우리는 보호를 원합니다.
A Queue-Fair 가상 대기실은 바로 이러한 보호 기능을 제공합니다.
인터넷에 장애가 발생하면(공급업체의 서버 또는 귀사의 서버일 수 있음) 고객은 가상 대기실로 리디렉션되며, 가상 대기실에서 진행 중인 상황과 정상화 시점, 방문 예정 사이트로 공정하고 정직하게 안내할 수 있는 대기 페이지로 연결됩니다.
혼란스럽고 교육받지 못한 채 사이버 공간으로 떠돌아다니는 고객을 그냥 내버려두는 것보다 훨씬 더 많은 고객을 유지할 수 있으며, 이로 인해 손실될 수 있는 수입의 규모를 제한할 수 있습니다.
특히 가치가 있는 곳이라면 최선의 옵션을 선택하는 것이 중요하지만, 때로는 가장 큰 비즈니스로 향하는 것이 항상 옳은 방법은 아닙니다.
경험상 가장 개인적이고 효과적인 서비스를 제공하는 것은 소규모 사업장이라는 사실을 알게 되었습니다. 직원들은 비즈니스와 시스템을 잘 알고 있기 때문에 업그레이드, 새로운 아이디어 관리, 직원과의 관계에서 훨씬 더 효율적인 경향이 있습니다.
저희는 수백 명의 직원을 고용하지 않으며 그럴 필요도 없습니다. 우리 같은 기업이라면 하루 종일 그들이 무엇을 하는지 알고 싶고, 고객이 돈으로 무엇을 얻고 있는지 걱정할 것입니다. 이러한 모든 추가 임금은 궁극적으로 가격 인상 결국 온라인 대기열 SaaS 제품의 가격을 인상하게 됩니다.
저희의 프레임워크는 누구 못지않게 강력합니다. 최근 다운된 주요 공급업체 중 어느 곳에서도 제공하는 CDN을 사용하지 않고 Google을 사용하며, Google 서버에 장애가 발생하더라도 도메인을 해당 서버가 아닌 핵심 서버로 리디렉션하고 대기열에 넣을 수 있는 독보적인 위치에 있습니다. 이처럼 강력한 대기열 관리 시스템을 통해 고객 대기열을 스마트하게 관리하여 비즈니스 문제를 해결하고 고객 만족도를 향상시킬 수 있습니다.
또한 중단 후 서버에 가장 큰 부담을 주는 것은 서버를 다시 초기화할 때인데, 이에 대한 비즈니스 인텔리전스가 많지 않을 수 있으므로 주의해야 합니다. 서버는 시스템 재시작과 관련된 모든 숫자를 관리해야 할 뿐만 아니라 고객의 백업 요청을 관리하느라 엄청난 추가 부하를 받습니다. 서비스 중단 후에는 평소보다 훨씬 많은 대기 고객이 서비스에 액세스하기 위해 대기하고 있으며, 서버는 이미 데이터베이스를 다시 연결하고 캐시를 채워야 하는 부담을 안고 있습니다.
Queue-Fair 대기실을 도입하면 이러한 모든 부담을 덜 수 있으며, 고객은 관리하도록 설계된 속도로 페이지에 다시 유입될 때까지 가상 대기실에서 안전하게 대기할 수 있습니다. 평균 대기 시간만 표시하는 것이 아니라 각 특정 방문자의 대기 시간을 표시하여 고객에게 정보를 제공하고 고객 여정 전반에 걸쳐 고객 만족도를 높일 수 있습니다.
또한, 당사의 가상 대기실은 업계에서 가장 정확도가 높아 매분 정확한 인원을 웹사이트에 전달합니다. 정확도가 높기 때문에 서버 부하가 더 안정적이며 다른 제공업체보다 더 많은 트래픽을 처리할 수 있습니다. 방문자 흐름의 운영 효율성이 높아지면 고객 대기열의 대기 시간을 줄이는 동시에 온라인 공정성을 보장할 수 있습니다. 각 방문자의 대기 시간이 짧아지면 더 많은 매출이 발생합니다.
대기열 관리 시스템을 통해 항상 서비스 전략을 유지할 수 있는 전문화된 운영이 가능합니다.
마지막으로, 겉으로 보기에 더 커 보이는 기업들 중 상당수가 자금 조달 방식 때문에 더 커진 것일 뿐이라는 점입니다.
많은 SaaS (서비스형 소프트웨어) 스타트업이 시작하고 운영하기 위해서는 자금이 필요합니다. 막대한 자금을 보유한 벤처 캐피털리스트가 바로 그들입니다. 벤처캐피털로부터 거액의 투자를 받은 신생 기업은 한 푼도 벌기 전에 방대한 전문가 팀을 구성하고 가장 인상적인 사무실 공간에 이들을 수용할 수 있습니다. 결국 다른 대기업을 유치하기 위해서는 대기업처럼 보여야 하고, 그것이 시스템이 작동하는 방식이기 때문에 돈이 가는 곳입니다.
VC가 더 많이 투자할수록 수익률이 높아지고, SaaS 스타트업이 더 많은 비용을 지출할수록 상환을 감당하기 위해 더 비싼 제품을 만들어야 합니다.
때로는 더 큰 것이 더 좋은 것이 아니라 더 큰 것일 수도 있습니다.
Queue-Fair는 여전히 최초 발명자 소유로 운영되고 있습니다. 100%. 투자자도, 불필요한 추가 직원도, 말도 안 되는 일도 없으며, 고객 피드백을 수집할 때 G2에서 지속적으로 최고로 평가받고 있습니다. 합리적인 규모의 지원팀은 고객을 잘 알고 항상 대기하고 도움을 줄 준비가 되어 있으며, 동급 최고의 대기열 관리 시스템으로 고객 대기열을 현명하게 처리하고 있습니다.
20.07.2021
가상 대기실은 실제로 어떻게 운영되나요?
과도한 웹사이트 트래픽의 위험과 기회
기술 가이드
가상 대기실 선택 방법
전자상거래를 위한 가상 대기실
가상 대기실용 온라인 대기열 시스템 유형
