Enhanced Control Path for Repeated TCP Connections
초록/요약
This paper presents FALTCON that enhances the control path for repeated TCP connections. First, we measure and find that the control path of TCP stack consumes as many CPU cycles as that of the data path, which brings up the importance of optimizing the control path. Yet, to the best of our knowledge, there has been little research effort on investigating the control path. Also, we observe that a significant portion of TCP traffic (e.g., HTTP) is not only short-lived but also repeated for a server and client pair. We design FALTCON to take advantage of the property of being repeated. Specifically, FALTCON re-designs the control path to remove the duplicate allocation of the structures and redundant operations over them. FALTCON is implemented in Linux 5.1 that has the latest and highly efficient networking stack. Furthermore, we optimize FALTCON to be lockless entirely and to work per-core. The experiment results show that FALTCON achieves a higher number of connections than Linux, up to 19%, and with much less CPU cycles up to 31%. This research was published in APSys 2021 [16].
more초록/요약
본 연구에서는 반복적으로 연결되는 TCP 연결에 대한 control path 처리 성 능을 향상시키는 FALTCON을 제안한다. 먼저, 우리는 short-lived TCP 연결에 서 control path의 처리가 data path에서 처리하는 만큼 CPU cycle을 소모한다 는 것을 발견하였다. 이는 control path의 최적화가 성능 향상에 있어서 중요함 을 나타낸다. 또한, 우리는 TCP 연결의 대다수(e.g., HTTP)가 short-lived할 뿐 만 아니라, server와 client 간에 반복적으로 연결되는 특성을 갖는 다는 것을 관 찰하였다. 본 연구에서는 이러한 특성을 갖는 연결에 대해 장점을 갖는 FALTCON을 설계한다. 기존의 TCP 스택 구조는 동일한 server-client 간에 같은 자료구조를 반복적으로 할당하고, 중복된 작업을 수행한다. FALTCON은 이러한 불필요한 작업을 회피하도록 control path을 재설계한다. FATLCON은 최신의 효율적인 네트워킹 스택을 이용하기 위해 Linux 5.1에 구현한다. 더 나 아가, 우리는 lock-less를 달성하기 위해서 FALTCON을 core 별로 동작을 시 켜서 최적화한다. 실험 결과, FALTCON이 기존 Linux보다 19%까지 많은 connection을 처리하였고, 그에 대한 CPU cycle을 31%까지 감소시켰다. 이 연 구는 APSys 2021 [16]에 게재되었다
more목차
1 INTRODUCTION ......................................................................................1
2 RELATED WORK AND MOTIVATION ...................................................5
2.1 Related Work ........................................................................................5
2.2 Motivation.............................................................................................8
3 DESIGN....................................................................................................11
3.1 f-struct keeper .....................................................................................14
3.2 f-state keeper.......................................................................................16
3.3 FALTCON Archive Optimizations.......................................................17
4 EVALUATION..........................................................................................19
4.1 Settings ...............................................................................................19
4.2 CPU Consumption Improvement.........................................................21
4.3 Scalability on CPU Cores and Request Sizes.......................................23
5 CONCLUSION .........................................................................................25
6 REFERENCES .........................................................................................26
