在日常的運(yùn)維工作中，經(jīng)常會用到nginx服務(wù)，也時常會碰到nginx因高并發(fā)導(dǎo)致的性能瓶頸問題。今天這里簡單梳理下nginx性能優(yōu)化的配置（僅僅依據(jù)本人的實(shí)戰(zhàn)經(jīng)驗(yàn)而述，如有不妥，敬請指出~）
一、這里的優(yōu)化主要是指對nginx的配置優(yōu)化，一般來說nginx配置文件中對優(yōu)化比較有作用的主要有以下幾項(xiàng)：
1）nginx進(jìn)程數(shù)，建議按照cpu數(shù)目來指定，一般跟cpu核數(shù)相同或?yàn)樗谋稊?shù)。
2）為每個進(jìn)程分配cpu，上例中將8個進(jìn)程分配到8個cpu，當(dāng)然可以寫多個，或者將一個進(jìn)程分配到多個cpu。
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000 10000000;
3）下面這個指令是指當(dāng)一個nginx進(jìn)程打開的最多文件描述符數(shù)目，理論值應(yīng)該是系統(tǒng)的最多打開文件數(shù)（ulimit -n）與nginx進(jìn)程數(shù)相除，但是nginx分配請求并不是那么均勻，所以最好與ulimit -n的值保持一致。
worker_rlimit_nofile 65535;
4）使用epoll的I/O模型，用這個模型來高效處理異步事件
5）每個進(jìn)程允許的最多連接數(shù)，理論上每臺nginx服務(wù)器的最大連接數(shù)為worker_processes*worker_connections。
worker_connections 65535;
6）http連接超時時間，默認(rèn)是60s，功能是使客戶端到服務(wù)器端的連接在設(shè)定的時間內(nèi)持續(xù)有效，當(dāng)出現(xiàn)對服務(wù)器的后繼請求時，該功能避免了建立或者重新建立連接。切記這個參數(shù)也不能設(shè)置過大！否則會導(dǎo)致許多無效的http連接占據(jù)著nginx的連接數(shù)，終nginx崩潰！
7）客戶端請求頭部的緩沖區(qū)大小，這個可以根據(jù)你的系統(tǒng)分頁大小來設(shè)置，一般一個請求的頭部大小不會超過1k，不過由于一般系統(tǒng)分頁都要大于1k，所以這里設(shè)置為分頁大小。分頁大小可以用命令getconf PAGESIZE取得。
client_header_buffer_size 4k;
8）下面這個參數(shù)將為打開文件指定緩存，默認(rèn)是沒有啟用的，max指定緩存數(shù)量，建議和打開文件數(shù)一致，inactive是指經(jīng)過多長時間文件沒被請求后刪除緩存。
open_file_cache max=102400 inactive=20s;
9）下面這個是指多長時間檢查一次緩存的有效信息。
open_file_cache_valid 30s;
10）open_file_cache指令中的inactive參數(shù)時間內(nèi)文件的最少使用次數(shù)，如果超過這個數(shù)字，文件描述符一直是在緩存中打開的，如上例，如果有一個文件在inactive時間內(nèi)一次沒被使用，它將被移除。
open_file_cache_min_uses 1;
11）隱藏響應(yīng)頭中的有關(guān)操作系統(tǒng)和web server（Nginx）版本號的信息，這樣對于安全性是有好處的。
12）可以讓sendfile()發(fā)揮作用。sendfile()可以在磁盤和TCP socket之間互相拷貝數(shù)據(jù)(或任意兩個文件描述符)。Pre-sendfile是傳送數(shù)據(jù)之前在用戶空間申請數(shù)據(jù)緩沖區(qū)。之后用read()將數(shù)據(jù)從文件拷貝到這個緩沖區(qū)，write()將緩沖區(qū)數(shù)據(jù)寫入網(wǎng)絡(luò)。sendfile()是立即將數(shù)據(jù)從磁盤讀到OS緩存。因?yàn)檫@種拷貝是在內(nèi)核完成的，sendfile()要比組合read()和write()以及打開關(guān)閉丟棄緩沖更加有效(更多有關(guān)于sendfile)。
13）告訴nginx在一個數(shù)據(jù)包里發(fā)送所有頭文件，而不一個接一個的發(fā)送。就是說數(shù)據(jù)包不會馬上傳送出去，等到數(shù)據(jù)包最大時，一次性的傳輸出去，這樣有助于解決網(wǎng)絡(luò)堵塞。
14）告訴nginx不要緩存數(shù)據(jù)，而是一段一段的發(fā)送--當(dāng)需要及時發(fā)送數(shù)據(jù)時，就應(yīng)該給應(yīng)用設(shè)置這個屬性，這樣發(fā)送一小塊數(shù)據(jù)信息時就不能立即得到返回值。
比如：
http {
server_tokens off;
sendfile on;
tcp_nopush on;
tcp_nodelay on;
......
}
15）客戶端請求頭部的緩沖區(qū)大小，這個可以根據(jù)系統(tǒng)分頁大小來設(shè)置，一般一個請求頭的大小不會超過1k，不過由于一般系統(tǒng)分頁都要大于1k，所以這里設(shè)置為分頁大小。
client_header_buffer_size 4k;
客戶端請求頭部的緩沖區(qū)大小，這個可以根據(jù)系統(tǒng)分頁大小來設(shè)置，一般一個請求頭的大小不會超過1k，不過由于一般系統(tǒng)分頁都要大于1k，所以這里設(shè)置為分頁大小。
分頁大小可以用命令getconf PAGESIZE取得。
[root@test-huanqiu ~]# getconf PAGESIZE
4096
但也有client_header_buffer_size超過4k的情況，但是client_header_buffer_size該值必須設(shè)置為“系統(tǒng)分頁大小”的整倍數(shù)。
16）為打開文件指定緩存，默認(rèn)是沒有啟用的，max 指定緩存數(shù)量，建議和打開文件數(shù)一致，inactive 是指經(jīng)過多長時間文件沒被請求后刪除緩存。
open_file_cache max=65535 inactive=60s;
17）open_file_cache 指令中的inactive 參數(shù)時間內(nèi)文件的最少使用次數(shù)，如果超過這個數(shù)字，文件描述符一直是在緩存中打開的，如上例，如果有一個文件在inactive 時間內(nèi)一次沒被使用，它將被移除。
open_file_cache_min_uses 1;
18）指定多長時間檢查一次緩存的有效信息。
open_file_cache_valid 80s;
下面是一個本人使用的簡單的nginx配置文件：
[root@dev-huanqiu ~]# cat /usr/local/nginx/conf/nginx.conf
user www www;
worker_processes 8;
worker_cpu_affinity 00000001 00000010 00000100 00001000 00010000 00100000 01000000;
error_log /www/log/nginx_error.log crit;
pid /usr/local/nginx/nginx.pid;
worker_rlimit_nofile 65535;
events
{
use epoll;
worker_connections 65535;
}
http
{
include mime.types;
default_type application/octet-stream;
charset utf-8;
server_names_hash_bucket_size 128;
client_header_buffer_size 2k;
large_client_header_buffers 4 4k;
client_max_body_size 8m;
sendfile on;
tcp_nopush on;
keepalive_timeout 60;
fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2
keys_zone=TEST:10m
inactive=5m;
fastcgi_connect_timeout 300;
fastcgi_send_timeout 300;
fastcgi_read_timeout 300;
fastcgi_buffer_size 16k;
fastcgi_buffers 16 16k;
fastcgi_busy_buffers_size 16k;
fastcgi_temp_file_write_size 16k;
fastcgi_cache TEST;
fastcgi_cache_valid 200 302 1h;
fastcgi_cache_valid 301 1d;
fastcgi_cache_valid any 1m;
fastcgi_cache_min_uses 1;
fastcgi_cache_use_stale error timeout invalid_header http_500;
open_file_cache max=204800 inactive=20s;
open_file_cache_min_uses 1;
open_file_cache_valid 30s;
tcp_nodelay on;
gzip on;
gzip_min_length 1k;
gzip_buffers 4 16k;
gzip_http_version 1.0;
gzip_comp_level 2;
gzip_types text/plain application/x-javascript text/css application/xml;
gzip_vary on;
server
{
listen 8080;
server_name huan.wangshibo.com;
index index.php index.htm;
root /www/html/;
location /status
{
stub_status on;
}
location ~ .*\.(php|php5)?$
{
fastcgi_pass 127.0.0.1:9000;
fastcgi_index index.php;
include fcgi.conf;
}
location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|js|css)$
{
expires 30d;
}
log_format access '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" $http_x_forwarded_for';
access_log /www/log/access.log access;
}
}
二、關(guān)于FastCGI的幾個指令
1）這個指令為FastCGI緩存指定一個路徑，目錄結(jié)構(gòu)等級，關(guān)鍵字區(qū)域存儲時間和非活動刪除時間。
fastcgi_cache_path /usr/local/nginx/fastcgi_cache levels=1:2 keys_zone=TEST:10m inactive=5m;
2）指定連接到后端FastCGI的超時時間。
fastcgi_connect_timeout 300;
3）向FastCGI傳送請求的超時時間，這個值是指已經(jīng)完成兩次握手后向FastCGI傳送請求的超時時間。
fastcgi_send_timeout 300;
4）接收FastCGI應(yīng)答的超時時間，這個值是指已經(jīng)完成兩次握手后接收FastCGI應(yīng)答的超時時間。
fastcgi_read_timeout 300;
5）指定讀取FastCGI應(yīng)答第一部分 需要用多大的緩沖區(qū)，這里可以設(shè)置為fastcgi_buffers指令指定的緩沖區(qū)大小，上面的指令指定它將使用1個 16k的緩沖區(qū)去讀取應(yīng)答的第一部分，即應(yīng)答頭，其實(shí)這個應(yīng)答頭一般情況下都很?。ú粫^1k），但是你如果在fastcgi_buffers指令中指 定了緩沖區(qū)的大小，那么它也會分配一個fastcgi_buffers指定的緩沖區(qū)大小去緩存。
6）指定本地需要用多少和多大的緩沖區(qū)來 緩沖FastCGI的應(yīng)答，如上所示，如果一個php腳本所產(chǎn)生的頁面大小為256k，則會為其分配16個16k的緩沖區(qū)來緩存，如果大于256k，增大 于256k的部分會緩存到fastcgi_temp指定的路徑中， 當(dāng)然這對服務(wù)器負(fù)載來說是不明智的方案，因?yàn)閮?nèi)存中處理數(shù)據(jù)速度要快于硬盤，通常這個值 的設(shè)置應(yīng)該選擇一個你的站點(diǎn)中的php腳本所產(chǎn)生的頁面大小的中間值，比如你的站點(diǎn)大部分腳本所產(chǎn)生的頁面大小為 256k就可以把這個值設(shè)置為16 16k，或者4 64k 或者64 4k，但很顯然，后兩種并不是好的設(shè)置方法，因?yàn)槿绻a(chǎn)生的頁面只有32k，如果用4 64k它會分配1個64k的緩沖區(qū)去緩存，而如果使用64 4k它會分配8個4k的緩沖區(qū)去緩存，而如果使用16 16k則它會分配2個16k去緩存頁面，這樣看起來似乎更加合理。
7）這個指令我也不知道是做什么用，只知道默認(rèn)值是fastcgi_buffers的兩倍。
fastcgi_busy_buffers_size 32k;
8）在寫入fastcgi_temp_path時將用多大的數(shù)據(jù)塊，默認(rèn)值是fastcgi_buffers的兩倍。
fastcgi_temp_file_write_size 32k;
9）開啟FastCGI緩存并且為其制定一個名稱。個人感覺開啟緩存非常有用，可以有效降低CPU負(fù)載，并且防止502錯誤。但是這個緩存會引起很多問題，因?yàn)樗彺娴氖莿討B(tài)頁面。具體使用還需根據(jù)自己的需求。
10）為指定的應(yīng)答代碼指定緩存時間，如上例中將200，302應(yīng)答緩存一小時，301應(yīng)答緩存1天，其他為1分鐘。
fastcgi_cache_valid 200 302 1h;
fastcgi_cache_valid 301 1d;
fastcgi_cache_valid any 1m;
11）緩存在fastcgi_cache_path指令inactive參數(shù)值時間內(nèi)的最少使用次數(shù)，如上例，如果在5分鐘內(nèi)某文件1次也沒有被使用，那么這個文件將被移除。
fastcgi_cache_min_uses 1;
12）不知道這個參數(shù)的作用，猜想應(yīng)該是讓nginx知道哪些類型的緩存是沒用的。
fastcgi_cache_use_stale error timeout invalid_header http_500;
以上為nginx中FastCGI相關(guān)參數(shù)，
另外，F(xiàn)astCGI自身也有一些配置需要進(jìn)行優(yōu)化，如果你使用php-fpm來管理FastCGI，可以修改配置文件中的以下值：
1）同時處理的并發(fā)請求數(shù)，即它將開啟最多60個子線程來處理并發(fā)連接。
<value name="max_children">60</value>
2）最多打開文件數(shù)。
<value name="rlimit_files">65535</value>
3）每個進(jìn)程在重置之前能夠執(zhí)行的最多請求數(shù)。
<value name="max_requests">65535</value>
三、關(guān)于內(nèi)核參數(shù)的優(yōu)化，在/etc/sysctl.conf文件內(nèi)
1）timewait的數(shù)量，默認(rèn)是180000。(Deven:因此如果想把timewait降下了就要把tcp_max_tw_buckets值減小)
net.ipv4.tcp_max_tw_buckets = 6000
2）允許系統(tǒng)打開的端口范圍。
net.ipv4.ip_local_port_range = 1024 65000
3）啟用TIME-WAIT狀態(tài)sockets快速回收功能;用于快速減少在TIME-WAIT狀態(tài)TCP連接數(shù)。1表示啟用;0表示關(guān)閉。但是要特別留意的是：這個選項(xiàng)一般不推薦啟用，因?yàn)樵贜AT(Network Address Translation)網(wǎng)絡(luò)下，會導(dǎo)致大量的TCP連接建立錯誤，從而引起網(wǎng)站訪問故障。
net.ipv4.tcp_tw_recycle = 0
實(shí)際上，net.ipv4.tcp_tw_recycle功能的開啟，要需要net.ipv4.tcp_timestamps（一般系統(tǒng)默認(rèn)是開啟這個功能的）這個開關(guān)開啟后才有效果；
當(dāng)tcp_tw_recycle 開啟時（tcp_timestamps 同時開啟，快速回收 socket 的效果達(dá)到），對于位于NAT設(shè)備后面的 Client來說，是一場災(zāi)難！
會導(dǎo)致到NAT設(shè)備后面的Client連接Server不穩(wěn)定（有的 Client 能連接 server，有的 Client 不能連接 server）。
也就是說，tcp_tw_recycle這個功能，是為內(nèi)部網(wǎng)絡(luò)（網(wǎng)絡(luò)環(huán)境自己可控 ” ——不存在NAT 的情況）設(shè)計(jì)的，對于公網(wǎng)環(huán)境下，不宜使用。
通常來說，回收TIME_WAIT狀態(tài)的socket是因?yàn)椤盁o法主動連接遠(yuǎn)端”，因?yàn)闊o可用的端口，而不應(yīng)該是要回收內(nèi)存（沒有必要）。
即：需求是Client的需求，Server會有“端口不夠用”的問題嗎？
除非是前端機(jī)，需要大量的連接后端服務(wù)，也就是充當(dāng)著Client的角色。
正確的解決這個總是辦法應(yīng)該是：
net.ipv4.ip_local_port_range = 9000 6553 #默認(rèn)值范圍較小
net.ipv4.tcp_max_tw_buckets = 10000 #默認(rèn)值較小，還可適當(dāng)調(diào)小
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_fin_timeout = 10
4）開啟重用功能，允許將TIME-WAIT狀態(tài)的sockets重新用于新的TCP連接。這個功能啟用是安全的，一般不要去改動！
net.ipv4.tcp_tw_reuse = 1
5）開啟SYN Cookies，當(dāng)出現(xiàn)SYN等待隊(duì)列溢出時，啟用cookies來處理。
net.ipv4.tcp_syncookies = 1
6）web應(yīng)用中l(wèi)isten函數(shù)的backlog默認(rèn)會給我們內(nèi)核參數(shù)的net.core.somaxconn限制到128，而nginx定義的NGX_LISTEN_BACKLOG默認(rèn)為511，所以有必要調(diào)整這個值。
net.core.somaxconn = 262144
7）每個網(wǎng)絡(luò)接口接收數(shù)據(jù)包的速率比內(nèi)核處理這些包的速率快時，允許送到隊(duì)列的數(shù)據(jù)包的最大數(shù)目。
net.core.netdev_max_backlog = 262144
8）系統(tǒng)中最多有多少個TCP套接字不被關(guān)聯(lián)到任何一個用戶文件句柄上。如果超過這個數(shù)字，孤兒連接將即刻被復(fù)位并打印出警告信息。這個限制僅僅是為了防止簡單的DoS攻擊，不能過分依靠它或者人為地減小這個值，更應(yīng)該增加這個值(如果增加了內(nèi)存之后)。
net.ipv4.tcp_max_orphans = 262144
9）記錄的那些尚未收到客戶端確認(rèn)信息的連接請求的最大值。對于有128M內(nèi)存的系統(tǒng)而言，缺省值是1024，小內(nèi)存的系統(tǒng)則是128。
net.ipv4.tcp_max_syn_backlog = 262144
10）時間戳可以避免序列號的卷繞。一個1Gbps的鏈路肯定會遇到以前用過的序列號。時間戳能夠讓內(nèi)核接受這種“異?！钡臄?shù)據(jù)包。
net.ipv4.tcp_timestamps = 1
有不少服務(wù)器為了提高性能，開啟net.ipv4.tcp_tw_recycle選項(xiàng)，在NAT網(wǎng)絡(luò)環(huán)境下，容易導(dǎo)致網(wǎng)站訪問出現(xiàn)了一些connect失敗的問題
個人建議：
關(guān)閉net.ipv4.tcp_tw_recycle選項(xiàng)，而不是net.ipv4.tcp_timestamps；
因?yàn)樵趎et.ipv4.tcp_timestamps關(guān)閉的條件下，開啟net.ipv4.tcp_tw_recycle是不起作用的；而net.ipv4.tcp_timestamps可以獨(dú)立開啟并起作用。
11）為了打開對端的連接，內(nèi)核需要發(fā)送一個SYN并附帶一個回應(yīng)前面一個SYN的ACK。也就是所謂三次握手中的第二次握手。這個設(shè)置決定了內(nèi)核放棄連接之前發(fā)送SYN+ACK包的數(shù)量。
net.ipv4.tcp_synack_retries = 1
12）在內(nèi)核放棄建立連接之前發(fā)送SYN包的數(shù)量。
net.ipv4.tcp_syn_retries = 1
13）如果套接字由本端要求關(guān)閉，這個參數(shù) 決定了它保持在FIN-WAIT-2狀態(tài)的時間。對端可以出錯并永遠(yuǎn)不關(guān)閉連接，甚至意外當(dāng)機(jī)。缺省值是60秒。2.2 內(nèi)核的通常值是180秒，你可以按這個設(shè)置，但要記住的是，即使你的機(jī)器是一個輕載的WEB服務(wù)器，也有因?yàn)榇罅康乃捞捉幼侄鴥?nèi)存溢出的風(fēng)險，F(xiàn)IN- WAIT-2的危險性比FIN-WAIT-1要小，因?yàn)樗疃嘀荒艹缘?.5K內(nèi)存，但是它們的生存期長些。
net.ipv4.tcp_fin_timeout = 30
14）當(dāng)keepalive起用的時候，TCP發(fā)送keepalive消息的頻度。缺省是2小時。
net.ipv4.tcp_keepalive_time = 30
下面貼出一個本人常用的內(nèi)核參數(shù)的標(biāo)準(zhǔn)配置
[root@dev-huanqiu ~]# cat /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.default.rp_filter = 1
net.ipv4.conf.default.accept_source_route = 0
kernel.sysrq = 0
kernel.core_uses_pid = 1
net.ipv4.tcp_syncookies = 1 //這四行標(biāo)紅內(nèi)容，一般是發(fā)現(xiàn)大量TIME_WAIT時的解決辦法
kernel.msgmnb = 65536
kernel.msgmax = 65536
kernel.shmmax = 68719476736
kernel.shmall = 4294967296
net.ipv4.tcp_max_tw_buckets = 6000
net.ipv4.tcp_sack = 1
net.ipv4.tcp_window_scaling = 1
net.ipv4.tcp_rmem = 4096 87380 4194304
net.ipv4.tcp_wmem = 4096 16384 4194304
net.core.wmem_default = 8388608
net.core.rmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.core.netdev_max_backlog = 262144
net.core.somaxconn = 262144
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.tcp_max_syn_backlog = 262144
net.ipv4.tcp_timestamps = 1 //在net.ipv4.tcp_tw_recycle設(shè)置為1的時候，這個選擇最好加上
net.ipv4.tcp_synack_retries = 1
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_tw_recycle = 1 //開啟此功能可以減少TIME-WAIT狀態(tài)，但是NAT網(wǎng)絡(luò)模式下打開有可能會導(dǎo)致tcp連接錯誤，慎重。
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 30
net.ipv4.ip_local_port_range = 1024 65000
net.ipv4.ip_conntrack_max = 6553500
-------------------------------------記一次小事故----------------------------------------------------
net.ipv4.tcp_tw_recycle = 1 這個功能打開后，確實(shí)能減少TIME-WAIT狀態(tài)，習(xí)慣上我都會將這個參數(shù)打開。
但是也因?yàn)檫@個參數(shù)踩過一次坑：
公司的一個發(fā)布新聞的CMS后臺系統(tǒng)，采用haproxy+keepalived代理架構(gòu)，后端的real server服務(wù)器外網(wǎng)ip全部拿掉。
現(xiàn)象：在某一天早上發(fā)文高峰期，CMS后臺出現(xiàn)訪問故障，重啟php服務(wù)后會立刻見效，但持續(xù)一段時間后，訪問就又出現(xiàn)故障。
排查nginx和php日志也沒有發(fā)現(xiàn)什么，后來google了一下，發(fā)現(xiàn)就是net.ipv4.tcp_tw_recycle這個參數(shù)搗的鬼！
這種網(wǎng)絡(luò)架構(gòu)對于后端的realserver來說是NAT模式，打開這個參數(shù)后，會導(dǎo)致大量的TCP連接建立錯誤，從而引起網(wǎng)站訪問故障。
最后將net.ipv4.tcp_tw_recycle設(shè)置為0，關(guān)閉這個功能后，后臺訪問即刻恢復(fù)正常
以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。
