记一个 Node 并发数太多出错问题的排查
今天有人问我一个问题,做离线爬虫服务,一次性发出 10000 以上的请求去拉取数据,会返回很多失败。
这是为什么??
于是写个两段代码实践了下。?
其中一段代码就是起一个服务提供一个接口,同时记录下 libuv I/O 的 activeHandles 和 activeRequests.?
activeHandles 是指事件循环队列中未解决的任务数,
activeRequests 是指未解决的请求数。?
server.js
?另一段代码如下,
sendRequest.js
果然报很多错误,


上网查下 EMFILE 错误,是由于打开了太多文件形容符,文件形容符包括磁盘文件,命名管道,网络套接字和由所有进程打开的设施。
处理方法一方面是将系统文件形容符的上限扩大,另一方面是限制并发数。?
参考资料:?
https://stackoverflow.com/questions/19981065/nodejs-error-emfile-too-many-open-files-on-mac-os
https://superuser.com/questions/433746/is-there-a-fix-for-the-too-many-open-files-in-system-error-on-os-x-10-7-1
http://landcareweb.com/questions/7995/node-jszhong-de-lian-jie-emfile-cuo-wu
https://codeday.me/bug/20170919/75603.html
https://blog.csdn.net/sdn_prc/article/details/28661661
说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » 记一个 Node 并发数太多出错问题的排查
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » 记一个 Node 并发数太多出错问题的排查