PHP-FPM拉起过多UDP连接导致域名解析失败

背景

最近遇到一个问题,很烦,真的很烦。无缘无故在你吃麻辣烫的时候有台机器就告警,突然它用不了。当然,幸好我们提供的服务集群,一个干不了活,可以用其他来干。但即使这样,我还是很烦告警。

收到的告警是:Unknown: php_network_getaddresses: getaddrinfo failed: Name or service not known

这个提示很熟悉,显然是DNS解析出现问题了。

检查

业务中很多地方用到域名访问API,尝试取一个redis域名测试,用www.test.com代替实际域名。

dig排查下问题:

    dig www.test.com
    dig: isc_socket_bind: address in use

域名解析www.test.com出现问题

直接dig一下:

    dig
    dig: isc_socket_bind: address in use

域名解析有问题,但是该dns服务在其他机器上没有问题。

使用tcp协议查询(dig默认是使用udp):

    dig www.test.com +tcp
    ; <<>> DiG 9.9.4-RedHat-9.9.4-29.el7_2.2 <<>> www.test.com +tcp
    ;; global options: +cmd
    ;; Got answer:
    ;; ->>HEADER<<- opcode: QUERY, status: NOERROR, id: 1269
    ;; flags: qr aa rd ra; QUERY: 1, ANSWER: 1, AUTHORITY: 1, ADDITIONAL: 1

    ;; OPT PSEUDOSECTION:
    ; EDNS: version: 0, flags:; udp: 4096
    ;; QUESTION SECTION:
    ;www.test.com.      IN      A

    ;; ANSWER SECTION:
    www.test.com. 6     IN      A       client_ip

    ;; AUTHORITY SECTION:
    www.test.com. 6     IN      NS      www.test.com.

    ;; Query time: 2 msec
    ;; SERVER: ip#port(ip)
    ;; WHEN: Wed Aug 30 20:47:28 CST 2017
    ;; MSG SIZE  rcvd: 83

tcp出去是ok的。说明udp有点小问题

telnet测试redis服务:

    Trying ip...
    Connected to ip.
    Escape character is '^]'.

说明redis服务没问题。

ping测试,提示:

    connect: Resource temporarily unavailable

我ping了在其他机器上可以ping通的域名,但这台机器出现该提示,我找了资料,Linux文档提示服务器监听队列已满后,客户端会报连接拒绝错,就可能出现该错误。所以dns解析过程会不会也是因为这个问题引起的呢?

上面一系列检查,得出假设:很有可能是udp连接出现问题,可能是服务器端口占用过多,导致域名解析失败,因为域名走udp协议。

进一步验证

    ss -anul|wc -l
    28237

这个参数确实有点多。

再看下udp端口范围:

    cat /proc/sys/net/ipv4/ip_local_port_range
    32768   61000

61000 - 32768 = 28232 < 28237
果然端口号不够用,所以造成之前的问题。

看看是什么东西占用大量的UDP端口号:

    ss -anulp|head -n50
    UNCONN     0      0            *:36756       *:*   users:(("php-fpm",pid=16546,fd=72))
    UNCONN     0      0            *:36757       *:*   users:(("php-fpm",pid=16173,fd=54))
    UNCONN     0      0            *:36758       *:*   users:(("php-fpm",pid=16307,fd=60))
    UNCONN     0      0            *:36759       *:*   users:(("php-fpm",pid=16414,fd=65))
    UNCONN     0      0            *:36760       *:*  users:(("php-fpm",pid=16093,fd=69))

原来是php-fpm!!作为世界上最好的语言怎么能出现这种问题呢!!好气啊!

追查问题根源:

是不是php-fpm配置问题

那么问题来了?为何php-fpm会拉起这么多的udp连接,我很是不解。脚本程序中没有使用udp的地方呀?一开始我以为是php-fpm配置有问题,害我把php-fpm的对子进程的管理方式以及相关配置改了个遍,验证一段时间后还是出现这个问题。

是不是nginx配置问题

所以不是php-fpm配置的问题,那会不会nginx配置问题,但理论上nginx只做一个转发,不会造成这种现象。对nginx的参数进行调优测试,也是用默认的nginx配置测试,在一段时间后,服务器还是会报错。

是不是程序的问题

既然niginx和php-fpm都没有问题,那么会不会程序出问题了。
我使用了的业务接口 ,假设www.a.com/api ,并且创建了一个纯净的www.a.com/test.php. (脚本里面就一个echo)

访问www.a.com/test.php,查看php-fpm拉起的UDP端口数:

    ss -anup|grep php-fpm|wc -l
    0

是0啊,好像没有问题。

访问www.a.com/api:

    ss -anup|grep php-fpm|wc -l
    1

再访问一次www.a.com/api:

    ss -anup|grep php-fpm|wc -l
    2

再访问一次!

    ss -anup|grep php-fpm|wc -l
    3

我擦,问题就在这里!!
于是迅速定位了这个api,查到了某个可疑的扩展,是一个第三方扩展,将其屏蔽,再次访问,没有占用任何udp端口。

我重新改写和编译了该扩展,这个问题就得到解决,一个php-fpm子进程最多占用一个udp端口(之前的一个php-fpm会占用几十乃至更多的端口,造成端口不够用)。

总结

表象:PHP-FPM拉起过多的UDP端口,一直占用,导致dns无法解析,而业务中需要访问域名,所以出现了问题。

根源:第三方扩展使用了UDP,会不停地创建线程,api是不会回收相关线程的连接句柄。导致UDP端口过多,导致UDP在机器上的其他服务不能用。

解决方法:第三方扩展的不停创建线程和不释放句柄修改掉。不放心的同学可以写一个crontab,查询UDP session,如果超多一定数量(用ss,会币netstat快一些),那就平滑重启php-fpm,隔一段时间执行。

tips:如果访问量不是很大,php-fpm.conf配置中可以使用pm=ondemand模式拉起子进程,其中的pm.process_idle_timeout = 10s;设置会在空闲的时候,会平滑关闭worker,这样你的UDP session也会因此减少,这当然只是个辅助方案。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容

  • 1. Nginx的模块与工作原理 Nginx由内核和模块组成,其中,内核的设计非常微小和简洁,完成的工作也非常简单...
    rosekissyou阅读 10,184评论 5 124
  • 第一章 Nginx简介 Nginx是什么 没有听过Nginx?那么一定听过它的“同行”Apache吧!Ngi...
    JokerW阅读 32,636评论 24 1,002
  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,585评论 18 139
  • 更改ip和dnsVi /etc/sysconfig/network-scripts/ifcfg-eth0vi /...
    Xwei_阅读 1,796评论 0 3
  • 冲动的咆哮扼杀了现在, 冷静的思考成就着未来! 01 这是一个不缺少新闻的时代,如同京津冀的天气变化一样,总是在你...
    吕小迷阅读 359评论 1 2