SmartWAN AI 가속: Zeta TCP 백서

목차 

 

 개요 

 TCP 최적화 

 ZetaTCP 소개 

 작동 원리 

 결론 

 

 

 1. 개요 

 TCP(Transmission Control Protocol, 전송 제어 프로토콜 ) 는 약 40 년 동안 사용되어 왔습니다 . 원래는 DARPA 와 대학 연구 기관을 주요 대상으로 개발된 프로토콜이었으나 , 오늘날에는 인터넷 트래픽의 90% 이상을 처리하는 핵심 기술이 되었습니다 . 

 하지만 인터넷의 발전과 함께 TCP 는 웹 성능을 최적화하는 데 있어 하나의 병목 현상으로 작용하게 되었습니다 . 

 TCP 의 가장 중요한 목표는 모든 패킷을 정확한 순서로 전송하고 , 누락 없이 도착하게 하는 것입니다 . 이를 위해 TCP 는 한 번에 보낼 수 있는 패킷 수를 제한하고 , 각 패킷에 대한 수신 확인 (ACK) 을 받은 후에야 추가 전송을 허용합니다 . 이 방식은 신뢰성을 높이는 데에는 효과적이지만 , 네트워크 혼잡 상황을 정확히 반영하지 못할 때가 많아 대역폭을 비효율적으로 사용하게 하고 , 결과적으로 최종 사용자 경험을 저하시킬 수 있습니다 . 

 특히 표준 TCP 는 패킷 손실을 네트워크 혼잡의 신호로 인식하고 , 전송 속도를 조절하는데 , 이러한 접근법은 실제 네트워크 상태를 충분히 반영하지 못하여 느리고 비효율적인 데이터 전송을 초래할 수 있습니다 . 

 

 2. TCP 최적화 

 현재까지 TCP 최적화 방식은 세 가지 세대로 구분할 수 있습니다 . 

 

 손실 기반 (loss-based) : 패킷 손실을 통해 속도를 조절 

 지연 기반 (delay-based) : 손실 대신 대기 지연을 기준으로 속도를 조절 

 학습 기반 (learning-based) : 세션 데이터를 분석하고 학습하여 실시간으로 속도를 조절 

 

 손실 기반 방식 은 오늘날 네트워크 용량이 과거보다 훨씬 커졌음에도 , 기본적으로 여전히 손실 발생을 통해 속도를 제어합니다 . 초기 혼잡 윈도우 (CWND) 크기를 늘리고 손실 복구를 개선하는 등의 시도가 이루어졌지만 , 결국 여전히 손실을 기준으로 전송 속도를 제한하기 때문에 불안정하고 비효율적인 결과를 낳습니다 . 또한 이 방식은 기본적으로 고정적 (static) 입니다 . 네트워크 상황에 따라 유연하게 조정되지 않습니다 . 

 TCP Reno 나 Cubic 이 대표적인 손실 기반 최적화 예시입니다 . 

 지연 기반 방식 은 손실이 아니라 RTT(Round Trip Time, 왕복 시간 ) 의 변화를 모니터링하여 전송 속도를 조절합니다 . 이 방법은 불필요한 속도 저하를 방지하고 패킷 손실 자체를 줄이는 데 기여하여 , 특히 비디오 스트리밍이나 웹 페이지 로딩처럼 고속 안정 흐름이 필요한 상황에 유리합니다 . 그러나 모바일 네트워크처럼 지연이 자주 변하는 환경에서는 성능이 저하될 수 있으며 , 이 역시 기본적으로 고정적인 성격을 가지고 있습니다 . 

 FastTCP 가 대표적인 지연 기반 최적화 사례입니다 . 

 학습 기반 방식 은 TCP 플로우의 특성을 실시간으로 관찰하고 분석하여 , 세션별로 최적의 전송 결정을 내리는 접근법입니다 . 기존의 고정형 방식의 한계를 극복하며 , 보다 정확하게 혼잡을 감지하고 대응할 수 있습니다 . 

 ZetaTCP 는 바로 이 학습 기반 방식을 기반으로 개발되었습니다 . 

 

   

 3. ZetaTCP 소개 

 Appex Networks 는 학습 기반 TCP 가속화 기술인 ZetaTCP 를 개발하였습니다 . ZetaTCP 는 다음과 같은 설계 목표를 바탕으로 만들어졌습니다 . 

 ▪ 투명성 

 ZetaTCP 는 기존 TCP 스택을 대체하거나 변경하지 않고 , 완전히 호환되면서 성능을 향상 시키도록 설계되었습니다 . TCP 플로우를 받아 최적화한 뒤 다시 내보내는 방식이기 때문에 , 수신 측에서는 ZetaTCP 의 존재를 인식할 필요가 없습니다 . 

 ZetaTCP 는 스마트폰 , 태블릿 , 노트북과 같은 클라이언트 기기에 내장하거나 , 서버 , 로드 밸런서 , 캐시 장비 등에 설치할 수 있습니다 . 구성은 다음과 같습니다 : 표준 TCP 스택과 네트워크 인터페이스 드라이버 사이에 ZetaTCP 가 위치하여 , 모든 애플리케이션은 기존 TCP 스택과 그대로 통신합니다 . 배포 방식이 어떠하든 , 애플리케이션이나 네트워크 장비 입장에서는 ZetaTCP 가 완전히 투명하게 동작 합니다 . 

 ▪ 학습 기반 

 ZetaTCP 는 자체 특허를 보유한 알고리즘을 통해 TCP 플로우의 특성을 실시간으로 학습하고 분석 합니다 . 이를 통해 정확하고 빠른 의사결정을 내리고 , 기존 TCP 로는 도달할 수 없던 성능 수준을 실현합니다 . 

 ▪ 확장성 

 ZetaTCP 는 높은 확장성 을 갖추었습니다 . 산업용 네트워크 장비 ( 라우터 , 게이트웨이 , 애플리케이션 전송 컨트롤러 등 ) 에 탑재하면 수백만 개의 TCP 플로우와 수십 기가비트급 트래픽을 처리할 수 있습니다 . 반면 , 스마트폰이나 가정용 무선 공유기 같은 소비자용 기기에도 소수의 메모리만으로 쉽게 적용할 수 있습니다 . 

 이러한 설계 목표 덕분에 ZetaTCP 는 다양한 환경에서 뛰어난 네트워크 성능 향상을 제공 할 수 있습니다 . 

 

 4. 작동 원리 

 ZetaTCP 엔진은 대부분의 최적화 로직과 제어 기능을 담당합니다 . TCP 입출력 모듈에서 패킷을 큐잉 ( 임시 저장 ) 하고 , WAN( 광역 네트워크 ) 측 중심으로 처리가 이루어집니다 . 

 ZetaTCP 는 다음과 같은 주요 컴포넌트로 구성되어 있습니다 . 

 

 ▪ 학습 상태 머신 (Learning State-Machine) 

 ZetaTCP 의 핵심 지능 허브입니다 . 네트워크 경로에 대한 정보를 축적하며 , 세션별 실시간 의사결정을 내립니다 . ( 예 : 데이터 전송 속도 조정 , 재전송 타이밍 결정 ) 

 ▪ 플로우 프로파일러 (Flow Profiler) 

 각 TCP 플로우의 특성을 추출하여 학습 상태 머신에 기록하고 유지합니다 . 

 ▪ 손실 감지기 (Loss Detector) 

 패킷 손실을 감시하고 , 손실이 무작위적 요인인지 네트워크 혼잡 때문인지 구분합니다 . 

 ▪ 혼잡 제어기 (Congestion Controller) 

 학습된 정보를 바탕으로 핵심 혼잡 제어 로직을 실행합니다 . 

 ▪ 예외 처리기 (Exception Handler) 

 TCP 플로우를 직접 가속화하는 대신 , 경로상의 오류를 감지하여 최적 가속을 지원합니다 . ( 일부 장비나 스택은 TCP 구현이 잘못되어 있는 경우가 있어 , 이를 지능적으로 탐지합니다 .) 

 ▪ 윈도우 컨트롤러 (Window Controller) 

 LAN 및 WAN 양쪽에서 수신 패킷 수를 제어하기 위해 , 광고 윈도우 크기를 계산합니다 . 가속 성능과 시스템 자원 사이의 균형을 유지합니다 . 

 ▪ 리소스 관리자 (Resource Manager) 

 메모리와 CPU 사용량을 추적하고 제어합니다 . 모든 TCP 플로우 간에 자원을 공평하게 분배하며 , 대규모 세션 수를 효율적으로 처리할 수 있도록 지원합니다 . 

 ▪ 혼잡 감지 및 처리 개선 

 표준 TCP 의 혼잡 회피 (congestion avoidance) 알고리즘은 수십 년 전 설계되었습니다 . 이 알고리즘은 모든 패킷 손실을 혼잡의 신호로 간주 하는 단순한 전제를 따릅니다 . 하지만 오늘날 대부분의 네트워크에서는 손실이 반드시 혼잡 때문에 발생하는 것이 아닙니다 . 특히 무선 · 모바일 네트워크에서는 신호 약화로 인한 자연스러운 손실이 자주 발생합니다 . 이런 환경에서는 표준 TCP 가 제대로 성능을 발휘하지 못합니다 . 

 지연 기반 접근법은 지연 시간 증가를 혼잡의 신호로 인식해 손실보다 나은 성능을 보여주긴 합니다 . 그러나 이 방식 역시 고정적이며 , 상황 변화에 민감하게 대응하지 못합니다 . 

 예를 들어 , 네트워크 경로에 얕은 큐 ( 버퍼 ) 가 존재할 경우 , 지연이 충분히 쌓이지 않아 혼잡을 감지하지 못하고 전송 속도를 줄이지 못하는 문제가 생깁니다 . 이로 인해 대량의 패킷 손실이 발생하고 , 복구에도 오랜 시간이 걸립니다 . 또 다른 예로는 , 경로 상의 네트워크 장비가 간헐적으로 처리 지연을 일으킬 때인데 , 이 경우 지연 기반 TCP 는 이를 잘못된 혼잡 신호로 오해하여 필요 이상으로 속도를 줄이게 됩니다 . 

 ZetaTCP 는 이러한 한계를 극복하기 위해 지능적인 알고리즘을 학습 상태 머신에 내장 하였습니다 . TCP 연결마다 실시간 트래픽 통계를 기반으로 다음과 같은 요소를 고려하여 혼잡을 정확히 감지합니다 . 

 

 RTT( 왕복 시간 ) 

 ACK( 응답 간격 ) 

 SACK( 선택적 응답 ) 및 패킷 순서 엉킴 정도 

 

 이러한 학습을 통해 ZetaTCP 는 각 연결 경로의 특성을 파악하고 , 혼잡을 더 빠르고 정확하게 감지하며 , 효과적으로 대응합니다 . 그 결과 , 대규모 손실을 예방하고 , 혼잡 이후에도 부드럽게 복구하여 가용 대역폭을 효율적으로 활용할 수 있습니다 . 

 

 ▪ TCP 최적화 방식 비교 

 아래 도표 ( 문서 Figure 3 참조 ) 는 네 가지 대표적 네트워크 상황에서 손실 기반 , 지연 기반 , 학습 기반 접근법의 혼잡 대응 성능을 비교한 것입니다 . 

 

 비혼잡성 손실 상황 

 대용량 버퍼 혼잡 

 소형 버퍼 혼잡 

 네트워크 장비의 처리 지연 발생 

 

 

 결과를 보면 , 지연 기반 접근법이 손실 기반보다 두드러지게 나은 성능을 보였지만 , 얕은 큐 혼잡 상황에서는 혼잡을 인지하지 못하여 성능이 급격히 떨어졌습니다 . 또 , 장비의 처리 지연을 혼잡으로 오인하여 불필요한 속도 저하도 발생했습니다 . 

 반면 ZetaTCP 는 모든 상황에서 정확히 혼잡을 감지하고 빠르게 복구 하여 , 평균 처리량 (throughput) 에서 압도적인 우위를 보였습니다 . 

 

 ▪ 정확하고 예측 가능한 손실 감지 및 빠른 복구 

 패킷 손실은 일반적으로 전송 기간 동안 고르게 분포하지 않고 , 특정 구간에 몰려서 발생하는 경향이 있습니다 . 

 표준 TCP( 특히 RFC 2582 나 SACK 지원 알고리즘인 RFC 3517 기반 ) 는 이와 같은 클러스터 손실 상황을 제대로 처리하지 못하고 , 누락된 패킷을 신속히 재전송하는 데 실패하는 경우가 많습니다 . 이로 인해 복구에 더 많은 왕복 시간이 소요되고 , 전송 지연이 커집니다 . 

 또한 , 재전송 타임아웃 (RTO) 이 발생할 경우 표준 TCP 는 마지막으로 성공한 ACK 시점까지 완전히 되돌아가 재전송을 시도합니다 . 이 방식은 효율이 극히 낮으며 , 상황을 오히려 악화시키기도 합니다 . 

 ZetaTCP 는 학습 기반 지능을 통해 손실 감지 및 복구 성능을 크게 개선했습니다 . TCP 연결마다 트래픽 통계를 수집하고 손실 유형을 분류하여 , 향후 손실을 더 빠르고 정확하게 감지할 수 있습니다 . 

 또한 , RTO 발생을 최소화 하려 노력하며 , 불가피하게 RTO 가 발생해도 , 마지막 ACK 지점까지 무조건 되돌리는 대신 , 실질적으로 손실된 것으로 판단되는 구간만 골라 재전송합니다 . 이 덕분에 복구 속도는 훨씬 빨라지고 , 불필요한 재전송 트래픽이 대폭 감소하여 대역폭 효율이 극대화됩니다 . 

 

 ▪ 실제 데이터 기반 테스트 결과 

 문서상의 Figure 4 실험은 다음 조건에서 진행되었습니다 : 

 

 RTT: 100ms 

 평균 손실률 : 1% 

 최대 수신 윈도우 : 65,535 바이트 ( 이론적 최대 대역폭 약 5.24Mbps) 

 

 테스트 결과 , 

 

 표준 TCP 는 손실 복구가 느려 기대치보다 훨씬 낮은 속도를 기록했습니다 . 

 ZetaTCP 는 손실을 신속히 감지하고 복구하여 , 높은 RTT 와 손실률에도 불구하고 최대 대역폭에 거의 근접하는 성능을 달성했습니다 . 

 

 

 특히 모바일 네트워크 환경 ( 라스트마일 무선 채널 손실이 빈번한 경우 ) 에서는 ZetaTCP 의 성능 차이가 더욱 뚜렷하게 나타났습니다 . 

 

 ▪ 제 3 자 성능 비교 테스트 

 문서의 Figure 5 는 제 3 자 기관이 수행한 비교 테스트 결과입니다 . 최대 대역폭 16Mbps 환경에서 여러 네트워크 시나리오를 시뮬레이션하여 , 

 

 손실 기반 (New Cubic TCP) 

 지연 기반 (Fast TCP 계열 ) 

 학습 기반 (ZetaTCP) 

 

 세 가지 접근법의 평균 처리량을 비교했습니다 . 

 결과는 명확합니다 . 

 

 

 손실 기반은 모든 시나리오에서 최악의 성능을 보였고 , 

 지연 기반은 그보다 개선되었지만 한계가 있었으며 , 

 ZetaTCP 는 모든 상황에서 가장 높은 처리량을 기록 했습니다 . 

 

 

 5. 결론 

 오늘날 인터넷 트래픽의 90% 이상이 TCP 위에서 전달되고 있지만 , TCP 는 현대 웹 서비스의 고속성과 민감한 지연 요구를 만족시키기에는 명백한 한계에 부딪히고 있습니다 . 

 기존 손실 기반 최적화는 일부 개선을 제공하지만 , 여전히 손실에 의해 속도가 지배되기 때문에 높은 전송 속도와 안정적 처리량은 기대하기 어렵습니다 . 지연 기반 접근법은 좀 더 현대적인 해법이지만 , 본질적으로 고정적이고 일괄적인 특성에서 벗어나지 못합니다 . 

 이에 따라 , 세션별로 실시간 최적화를 적용할 수 있는 ' 학습 기반 ' 접근법이 필수적 입니다 . 

 ZetaTCP 는 전 세계 수백 개 기업과 수백만 명의 사용자가 이미 신뢰하는 , 세계 최고 수준의 학습 기반 TCP 가속화 엔진 입니다 . 완전한 투명성으로 기존 TCP 스택과 호환되며 , 딜레이 민감한 애플리케이션의 성능을 대폭 향상시킵니다 .