如何测试Linux下tcp最大连接数限制详解

前言

关于TCP服务器最大并发连接数有一种误解就是“因为端口号上限为65535,所以TCP服务器理论上的可承载的最大并发连接数也是65535”。

先说结论:对于TCP服务端进程来说,他可以同时连接的客户端数量并不受限于可用端口号。并发连接数受限于linux可打开文件数,这个数是可以配置的,可以非常大,所以实际上受限于系统性能。

现在做服务器开发不加上高并发根本没脸出门,所以为了以后吹水被别人怼“天天提高并发,你自己实现的最高并发是多少”的时候能义正言辞的怼回去,趁着元旦在家没事决定自己写个demo搞一搞。

这个测试主要是想搞明白Linux下哪些参数配置限制了连接数的最大值,上限是多少。

一、先说下demo的思路:

服务端用epoll实现,就是简简单单的接收连接,然后客户端用go的goroutine,每个goroutine就是简单的建立连接,然后什么也不做。

上代码:

server:

  /*   * g++ -o test_epoll ./test_epoll.c   */  #include <unistd.h>  #include <sys/types.h>  #include <sys/socket.h>  #include <sys/epoll.h>  #include <netinet/in.h>  #include <arpa/inet.h>    #include <stdio.h>  #include <stdlib.h>  #include <string.h>  #include <errno.h>    int SetReuseAddr(int fd)  {   int optval = 1;   socklen_t optlen = sizeof(optval);   return setsockopt(fd, SOL_SOCKET, SO_REUSEADDR, &optval, optlen);  }    int main()  {   int fd = socket(AF_INET, SOCK_STREAM, 0);   int iRet = SetReuseAddr(fd);   if (iRet != 0)   {   printf("setsockopt for SO_REUSEADDR failed, error:%sn", strerror(iRet));   return iRet;   }     struct sockaddr_in addr;   memset(&addr, 0, sizeof(addr));   addr.sin_family = AF_INET;   addr.sin_port = htons(8080);   addr.sin_addr.s_addr = INADDR_ANY;   if (bind(fd, (struct sockaddr*)&addr, sizeof(addr)) == -1)   {   printf("bind failed, error:%sn", strerror(errno));   return errno;   }     if (listen(fd, 5) == -1)   {   printf("listen failed, error:%sn", strerror(errno));   return errno;   }   printf("Listening on 8080...n");     int epfd = epoll_create(102400);   struct epoll_event event;   event.events = EPOLLIN;   event.data.fd = fd;   epoll_ctl(epfd, EPOLL_CTL_ADD, fd, &event);     struct epoll_event revents[102400];   int iOnline = 0;   while (1)   {   int num = epoll_wait(epfd, revents, 102400, 60 * 1000);   printf("epoll_wait return %dn", num);   if (num > 0)   {    for (int i = 0; i < num; i++)    {    if (revents[i].data.fd == fd)    {     int client;     struct sockaddr_in cli_addr;     socklen_t cli_addr_len = sizeof(cli_addr);     client = accept(fd, (struct sockaddr*)&cli_addr, &cli_addr_len);     if (client == -1)     {     printf("accept failed, error:%sn", strerror(errno));     if (errno == EMFILE)     {      printf("per-process limit reachedn");      exit(errno);     }     if (errno == ENFILE)     {      printf("system-wide limit reachedn");      exit(errno);     }     continue;     }       iOnline++;     printf("Receive a new connection from %s:%dn", inet_ntoa(cli_addr.sin_addr), cli_addr.sin_port);     event.events = EPOLLIN;     event.data.fd = client;     epoll_ctl(epfd, EPOLL_CTL_ADD, fd, &event);    }    }   }   printf("Online number:%dn", iOnline);   }     return 0;  }

client:

  package main    import (   "net"   "fmt"   "time"   "strconv"   "runtime"  )    func Connect(host string, port int) {   _, err := net.Dial("tcp", host+":"+strconv.Itoa(port))   if err != nil {   fmt.Printf("Dial to %s:%d failedn", host, port)   return   }     for {   time.Sleep(30 * 1000 * time.Millisecond)   }  }    func main() {   count := 0   for {   go Connect("192.168.63.128", 8080)   count++;   fmt.Printf("Gorutue num:%dn", runtime.NumGoroutine())   time.Sleep(100 * time.Millisecond)   }  }

二、开始测试

第一次:

先说结果,连接数达到1031时accept失败了,当时还没有对errno做判断,所以只打印输出了accept失败。

如何测试Linux下tcp最大连接数限制详解 Linux 第1张

然后首先想到的是ulimit -n的限制,查看了一下,默认值1024,然后就是修改这个值,在/etc/security/limits.conf中添加一下内容:

  1 * soft nofile 102400  2 * hard nofile 102400

然后关闭当前xshell连接,重新连接即生效,现在看ulimit -n就是102400了。

这两行的意思就是将每个进程能打开的文件描述符个数的soft、hard限制调整为102400,

注:ulimit -n 102400也可以生效,但是这个修改是临时的。

然后进行第二次测试。

第二次:

逗比了,其实连接数只有2000+,我之前还在奇怪为啥Windows的默认连接数能有这么高呢,原来有些连接已经断了,但是因为我没有做处理,所以以为还在呢,看来我得再安装一个虚拟机了[二哈]

待继续。。。

安装虚拟机去,

时间:2017-12-31 00:09:00

虚拟机安装好了,接着搞,

这次是真的超过10K了。

如何测试Linux下tcp最大连接数限制详解 Linux 第2张

如何测试Linux下tcp最大连接数限制详解 Linux 第3张

连接数还在增加,不知道能不能最终达到10万呢,小小的期待ing

时间:2017-12-31 00:41:00,最终上限卡在28232,golang一直报dial失败,由于忘了打印出具体错误信息了,所以无从知道为什么dial失败,所以只能再跑一次T_T

如何测试Linux下tcp最大连接数限制详解 Linux 第4张

 时间:2017-12-31 01:01:00,添加打印dial失败的错误信息的,又跑了一遍,还是在28232时出现dial失败,错误信息:

如何测试Linux下tcp最大连接数限制详解 Linux 第5张

golang的标准库文档中么有对错误信息的解释,从错误信息来看,是分配地址失败,于是想是不是端口地址范围限制了。

如何测试Linux下tcp最大连接数限制详解 Linux 第6张

查看了一下端口地址范围,确认就是这个限制,由于端口地址是16位,所以,就算把这个端口地址范围修改为1024--65535,也最多能开启64521个连接,而我现在只有一台虚拟机作为客户端,所以想要实现10万连接是不可能了,但是通过这次测试,也让我搞明白了,到底哪些参数会限制连接的上限,这就是我想要的。

最后,感谢Linux内核团队的大神们推出了epoll这么牛逼的机制,才使得我们现在想实现高并发是如此的容易,希望自己有一天也能这么牛逼,哈哈。

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对脚本之家的支持。

参与评论