一个让人尴尬癌犯了的问题，数不清的僵尸 sshd 进程

[zwpaper]

今天真是长见识了，一台服务器上面突然发现上万个僵尸进程，大部分是 sshd ，现在还能登陆上去，但是运行的程序有的又会变僵尸……

/var/log/ 下面也没什么 log 输出

Google 出来的结果都让重启机器……

我有点不知所措了

[pagxir]

父进程状态异常了吧，估计被暂停了。

[zwpaper]

@pagxir 找不到父进程了，现在好像都被挂到 init 下面了，现在 kill 也 kill 不掉，然后僵尸进程数还在增加

[k9982874]

猜是谁写了个 sshd 自动执行脚步互锁了？

[zwpaper]

@k9982874 主要是没有 log ，无从下手有点尴尬，明天去公司还得再战这个问题

[solrted]

@zwpaper lsof -p pid

[qceytzn]

@solrted lsof: illegal process ID: pid

[lslqtz]

kill 后又复活？
试试看多执行几次 killall

[lslqtz]

对于 CentOS 来说：
service sshd stop
killall sshd
然后进一步排查问题(?) 或许很怪查不出

[ryd994]

是用了 docker 里的 sshd 么？
如果是的话，不要直接启动 sshd ，用 sh 之类的间接启动

[zwpaper]

@qceytzn 基本上 lsof -p 输出都是空的

[zwpaper]

@lslqtz killall 不起作用，返回是 0 ，但是进程数一点没少， killall sshd 把我自己踢出去了，再进来还是一样的

[zwpaper]

@ryd994 貌似没有用 docker

[MartinWu]

同病相怜。。。

[anjingme]

重启下 sshd 看看，当然重启失败了，自己也会被踢出来，搞个 nc 开个口子先再重启。

[MartinWu]

千万别去重启 sshd 啊。。。。

[MartinWu]

我的情况是，表面跟楼主描述的大致相同。最后放弃治疗，打算把上面的业务迁移到其他机器，就重启了。但是把业务都迁移走了后，突然发现，所有的僵尸都没了。然而我并没有追踪到是哪个进程关闭后，就把僵尸都埋了。

而我现在只追查到，发现 ssh 僵尸都是 sshd 这个用户的，而这个僵尸应该就是 sshd fork 出来负责验证权限的子进程。

[lslqtz]

@MartinWu 我以为楼主是在机房...

[zwpaper]

@MartinWu 我现在是我 sshd 退出来了，还能再登进去，只是不知道哪天 pid 要被用完了就上不去了

现在好像我运行一个后台程序，再退出 bash ，后台程序就变僵尸了

[zwpaper]

@lslqtz 😳 我现在 service xxx 直接都是 timeout 了。。。
想把我堵 ssh 外面都不行。。。

[zwpaper]

@MartinWu 我基本放弃治疗了。。。但是这个问题感觉有点意思呢

[w2exzz]

chkconfig --level35 sshd off
reboot

/usr/sbin/sshd -d

[MartinWu]

@zwpaper 对，就是这样的状况。

[zwpaper]

@w2exzz 现在重启很大可能可以解决问题，但是一个是不希望重启，一个是希望保存现场，研究一下问题到底在哪里。
所以暂时还不 reboot

[MartinWu]

@zwpaper 能否看下 kernel 的日志有没有什么信息？ 或者 /proc/里

[MartinWu]

@zwpaper 在不影响业务的基础上，继续摸索下吧，在线等更新。我现在就后悔去重启了。。

[jyf007]

dropbear

[zwpaper]

@MartinWu 现在发现了一个问题就是 systemd hung 住了，感觉有可能问题出在这个地方。

今天还找到一个说是 210 以前的 systemd 有 bug ，有可能会让 systemd hung 住，但是我的机器上的好像是 213 的，按说不应该。具体版本号我忘了，后来忙别的去了，可以肯定的是比 210 新。
在这看到的： https://bbs.archlinux.org/viewtopic.php?id=178168

现在 /var/log 基本上没有新写入东西了， rsyslog 也在一次失败的实验中变僵尸了。。。

现在新发现是 journalctl 里有不少 log ，这个没来得及看，明天看看有没有空看一下。

别在线等啊，我还有个活背着呢，你要有什么想法也可以告诉我，我来试试，再给你反馈结果😳

[zwpaper]

@MartinWu kernel 的日志你说的是哪个位置？/proc/ 没找到比较特别的地方呢，就是僵尸的 proc stat 都是 Z ， ppid 都是 1

[zwpaper]

@jyf007 这是一个 ssh 工具？恕在下愚钝，没想到用法啊。。。
不过 Matt Johnston ，这个名字有点印象，好像这两天有搜到他报类似的 bug

[jyf007]

@zwpaper 不，我是说换成这种路由器用到的，再装个 openssh-sftp-server 就行了

[zwpaper]

@MartinWu 突然想起来，这个貌似有人去 centOS 报 bug 了，看看官方怎么回复吧

[MartinWu]

@zwpaper 啊咧？我去看看。

[zwpaper]

@MartinWu https://bugs.centos.org/view.php?id=12291

[MartinWu]

@zwpaper 我的是 centos6 诶，貌似不是 systemd 导致的，而且 centos6 还是用 initd 的。。

[zwpaper]

@MartinWu #34 这就奇怪了，我倒确实是 7 的，所以这个 systemd 的问题感觉还挺像的

[okudayukiko0]

不用 SSH ，改用串口 /VirtIO Console 或远程卡试试，不排除病毒

[zwpaper]

@okudayukiko0 机器在机房，而且也已经重启了，病毒的话，也没有查到一些相关的说法……

[MartinWu]

我发现了一个点，可使用内存太少，导致 init 无法 fork 出线程来回收僵尸进程。

[zwpaper]

@MartinWu #38 可惜没有环境了啊。。。。

[MartinWu]

@zwpaper 哈哈哈，等下次吧。 😂

[zwpaper]

@MartinWu #40 这个是最尴尬的 😂