之前有一位读者抱怨，有次口试，好约束易熬到到本事终面，谁知谈口试官短暂放个大招问他：一台就业器最大能扶持若干条 TCP 衔接踩脚袜 足交，把他径直给问懵了……（请自行脑补那无语的所在与歧视）。
是以，今天就来商议一下这个问题。
一台就业器最大能大开的文献数
达成参数
咱们知谈在Linux中一切齐文献，那么一台就业器最大能大开若干个文献呢？Linux上能大开的最大文献数目受三个参数影响，辞别是：
fs.file-max （系统级别参数） ：该参数形色了统统系统不错大开的最大文献数目。但是root用户不会受该参数达成（比如：刻下统统系统大开的文献形色符数目已达到fs.file-max ，此时root用户仍然不错使用ps、kill等敕令或大开其他文献形色符）。
soft nofile（程度级别参数） ：达成单个程度上不错大开的最大文献数。只可在Linux上设立一次，不可针对不同用户设立不同的值。
欧美色fs.nr_open（程度级别参数） ：达成单个程度上不错大开的最大文献数。不错针对不同用户设立不同的值。
这三个参数之间还有耦合关系，是以设立值的时代还需要注重以下三点：
如果思加大soft nofile，那么hard nofile参数值也需要通盘疗养。如果因为hard nofile参数值诞生的低，那么soft nofile参数的值诞生的再高也没灵验，试验成效的值会按照二者最低的来。
如果增大了hard nofile，那么fs.nr_open也都需要随着通盘疗养（fs.nr_open参数值一定要大于hard nofile参数值）。如果不防卫把hard nofile的值诞生的比fs.nr_open还大，那么后果相比严重。会导致该用户无法登录，如果诞生的是*，那么所灵验户都无法登录。
如果加大了fs.nr_open，但是是用的echo "xxx" > ../fs/nr_open敕令来修改的fs.nr_open的值，那么刚改完可能不会有问题，但是只消机器一重启，那么之前通过echo敕令诞生的fs.nr_open值便会失效，用户如故无法登录。是以杰出不暴戾使用echo的相貌修改内核参数！！！
疗养就业器能大开的最大文献数示例
假定思让程度不错大开100万个文献形色符，这里用修改conf文献的相貌给出一个暴戾。如果日后使命里有肖似的需求不错行为参考。
一台就业器最大能扶持若干衔接
咱们知谈TCP衔接，从根蒂上看其实即是client和server端在内存中退换的一组【socket内查对象】（这里也对应着TCP四元组：源IP、源端口、方针IP、方针端口），他们只消冒失找到对方，那么就算是一条衔接。那么一台就业器最大能建立若干条衔接呢？
由于TCP衔接本色上不错并吞为是client-server端的一双socket内查对象，那么从表面上将应该是【2^32 (ip数) * 2^16 (端口数)】条衔接（约等于两百多万亿）。
但是试验上由于受其他软硬件的影响，咱们一台就业器不可能能建立这样多衔接（主若是受CPU和内存达成）。
如果只以ESTABLISH景况的衔接来算（这些衔接只是建立，但是不收发数据也不处理计议的业务逻辑）那么一台就业器最大能建立若干衔接呢？以一台4GB内存的就业器为例！
这种情况下，那么能建立的衔接数目主要取决于【内存的大小】（因为如果是）ESTABLISH景况的平定衔接，不会花消CPU（固然有TCP保活包传输，但这个影响杰出小，不错忽略不计）。
咱们知谈一条ESTABLISH景况的衔接大致花消【3.3KB内存】，那么通过策画得知一台4GB内存的就业器，【不错建立100w+的TCP衔接】（天然这里只是策画扫数的衔接都只建立衔接但不发送和处理数据的情况，如真的实场景中罕有据贸易和处理（数据采纳和发送都需要苦求内存，数据处理便需要CPU），那便会花消更高的内存以及占用更多的CPU，并发不可能达到100w+）。
上头商议的都是进建立衔接的理思情况，在现实中如果有时时的数据收发和处理（比如：压缩、加密等）踩脚袜 足交，那么一台就业器能扶持1000衔接都算好的了，是以一台就业器能扶持若干衔接还要荟萃具体的场景去分析，不可光靠表面值去算。抛开业务逻辑单纯的谈并发莫得太大的试验真谛。
就业器的支出大头时常并不是衔接自己，而是每条衔接上的数据收发，以及请求业务逻辑处理！！！
一台客户端机器最多能发起若干条衔接
咱们知谈客户端每和就业端建立一个衔接便会花消掉client端一个端口。一台机器的端口范围是【0 ~ 65535】，那么是不是说一台client机器最多和一台就业端机器建立65535个衔接呢（这65535个端口里还有好多保留端口，可用端口可能唯有64000个摆布）？
由TCP衔接的四元组特色可知，只消四元组里某一个元素不同，那么就以为这是不同的TCP衔接。是以需要分情况商议：
【情况一 】、如果一台client仅有一个IP，server端也仅有一个IP而且仅运行一个要领，监听一个端口的情况下，client端和这台server端最大可建立的衔接条数即是 65535 个。
因为源IP固定，方针IP和端口固定，四元组中唯独可变化的即是【源端口】，【源端口】的可用范围又是【0 ~ 65535】，是以一台client机器最大能建立65535个衔接。
【情况二 】、如果一台client有多个IP（假定客户端有 n 个IP），server端仅有一个IP而且仅运行一个要领，监听一个端口的情况下，一台client机器最大能建立的衔接条数是：n * 65535 个。
因为方针IP和端口固定，有 n 个源IP，四元组中可变化的即是【源端口】+ 【源IP】，【源端口】的可用范围又是【0 ~ 65535】，是以一个IP最大能建立65535个衔接，那么n个IP最大就能建立 n * 65535个衔接了。
以刻下的本事，给一个client分拨多个IP曲直常容易的事情，只需要去计议你们网管就不错作念到。
【情况三 】、如果一台client仅有一个IP，server端也仅有一个IP但是server端运行多个要领，每个要领监听一个端口的情况下（比如server端运行了m个要领，监听了m个不同端口），一台client机器最大能建立的衔接数目为：65535 * m。
源IP固定，方针IP固定，方针端口数目为m个，可变化的是源端口，而源端口变化范围是【0 ~ 65535】，是以一台client机器最大能建立的TCP衔接数目是 65535 * m个。
其余情况类推，但是客户端的可用端口范围一般够不上65535个，受内核参数net.ipv4.ip_local_port_range达成，如果要修改client所能使用的端口范围，不错修改这个内核参数的值。
是以，不光是一台server端不错采纳100w+个TCP衔接，一台client照样能发出100w+个衔接。
其他
三次捏手里socket的全衔接队伍长度由参数net.core.somaxconn来限度，默许大小是128，当两台机器离的杰出近，但是建立衔接的并发又杰出高时，可能会导致半衔接队伍或全衔接队伍溢出，进而导致server端丢弃捏手包。然后酿成client超时重传捏手包（至少1s以后才会重传），导致三次捏手衔接建立耗时过长。咱们不错疗养参数net.core.somaxconn来加多去按衔接队伍的长度，进而减小丢包的影响
巧合代咱们通过 ctrl + c相貌来终止了某个程度，但是当重启该程度的时代发现报错端口被占用，这种问题是因为【操作系统还莫得来得及回收该端口，等霎时重启哄骗就好了】
client要领在和server端建立衔接时，如果client莫得调用bind次第传入指定的端口，那么client在和server端建立衔接的时代便会我方立时选拔一个端口来建立衔接。一朝咱们client要领调用了bind次第传入了指定的端口，那么client将会使用咱们bind里指定的端口来和server建立衔接。是以不暴戾client调用bind次第，bind函数会篡改内核选拔端口的计谋
在Linux一切齐文献，天然也包括之前TCP衔接中说的socket。程度大开一个socket的时代需要创建好几个内查对象，换一句直白的话说即是大开文献对象吃内存，是以Linux系统基于安全角度酌量（比如：灵验户程度坏心的大开大都的文献形色符，那不得把系统搞奔溃了），在多个位置都达成了可大开的文献形色符的数目。
内核是通过【hash表】的相貌来照管扫数也曾建立好衔接的socket，以便于有请求到达时快速的通过【TCP四元组】查找到内核中对应的socket对象。
在epoll模子中，通过红黑树来照管epoll对象所照管的扫数socket，用红黑树结构来均衡快速删除、插入、查找socket的成果。
计议试验问题
在蚁合征战中，好多东谈主对一个基础问题永远莫得透顶搞显明，那即是一台机器最多能扶持若干条TCP衔接。不外由于客户端和就业端对端口使用相貌不同，这个问题阻隔来并吞要容易一些。
注重，这里说的是客户端和就业端都只是变装，并不是指某一台具体的机器。举例关于咱们我方征战的哄骗要领来说，当他反映客户端请求的时代，他即是就业端。当他向MySQL请求数据的时代，他又变成了客户端。
"too many open files" 报错是怎样回事，该如何搞定
你在线上可能遭逢过too many open files这个失误，那么你并吞这个报错发生的旨趣吗？如果让你确立这个失误，应该如那里理呢？
因为每大开一个文献（包括socket），都需要花消一定的内存资源。为了幸免个别程度不受限度的大开了过多文献而让统统就业器奔溃，Linux对大开的文献形色符数目有达成。如果你的程度触发到内核的达成，那么"too many open files" 报错就产生了。
不错通过修改fs.file-max 、soft nofile、fs.nr_open这三个参数的值来修改程度能大开的最大文献形色符数目。
需要注重这三个参数之间的耦合关系！
一台就业端机器最大究竟能扶持若干条衔接
因为这里要酌量的是最大数，因此先不酌量衔接上的数据收发和处理，仅酌量ESTABLISH景况的空衔接。那么一台就业端机器上最大不错扶持若干条TCP衔接？这个衔接数会受哪些成分的影响？
在不酌量衔接上数据的收发和处理的情况下，仅酌量ESTABLISH景况下的空衔接情况下，一台就业器上最大可扶持的TCP衔接数目基本上不错说是由内存大小来决定的。
四元组唯独细则一条衔接，但就业端不错采纳来自任性客户端的请求，是以凭据这个表面策画出来的数字太大，莫得试验真谛。另外文献形色符达成其实亦然内核为了看重某些哄骗要领不受达成的大开【文献句柄】而添加的达成。这个达成只消修改几个内核参数就不错加大。
一个socket大致花消3kb摆布的内存，这样的确制约就业端机器最大并发数的即是内存，拿一台4GB内存的就业器来说，不错扶持的TCP衔接数目大致是100w+。
一条客户端机器最大究竟能扶持若干条衔接
和就业端不同的是，客户端每次建立一条衔接都需要花消一个端口。在TCP左券中，端口是一个2字节的整数，因此范围只然则0~65535。那么客户单最大只可扶持65535条衔接吗？有莫得见地冲破这个达成，有的话有哪些见地？
客户度每次建立一条衔接都需要花消一个端口。从数字上来看，似乎最多只可建立65535条衔接。但试验上咱们有两种见地澌灭65535这个达成。
相貌一，为客户端设立多IP 相貌二，辞别衔接不同的就业端
是以一台client发起百万条衔接是莫得任何问题的。
作念一个长衔接推送居品，扶持1亿用户需要若干台机器
假定你是系统架构师，刻下雇主给你一个需求，让你作念一个肖似友盟upush这样的居品。要在就业端机器上保持一个和客户端的长衔接，绝大部分情况下衔接都是平定的，每天也就酌夺推送两三次摆布。总用户范畴展望是1亿。那么刻下请你来评估一下需要若干台就业器不错扶持这1亿条长衔接。
关于长衔接推送模块这种就业来说，给客户端发送数据只是偶尔的，一般一天也就酌夺一两次。绝大部分情况下TCP衔接都是平定的，CPU支出不错忽略。
再基于内存来酌量，假定就业器内存是128G的，那么一台就业器不错酌量扶持500w条并发。这样会花消掉大致不到20GB内存用来保存这500w条衔接对应的socket。还剩下100GB以上的内存来叮嘱采纳、发送缓冲区等其他的支出豪阔了。是以，一亿用户踩脚袜 足交，只是需要20台就业器就差未几够用了！