V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐关注
Meteor
JSLint - a JavaScript code quality tool
jsFiddle
D3.js
WebStorm
推荐书目
JavaScript 权威指南第 5 版
Closure: The Definitive Guide
haozhang
V2EX  ›  JavaScript

Nodejs 使用 Async 库多层嵌套之后产生的问题

  •  
  •   haozhang · 2015-06-12 14:54:34 +08:00 · 4789 次点击
    这是一个创建于 3487 天前的主题,其中的信息可能已经有所发展或是发生改变。
    itemCount ++;
    if (itemCount === items) {
        pageCount ++;
        if (pageCount === pages) cb(null);
    
        async.eachSeries(webSites, function (site, cb___) {
            fs.appendFile(filepath, site, function (err) {
                if (err) console.error(err);
            });
            cb___();
        });
    
        cb_();
    }
    
    cb__();
    

    我写的爬虫,在爬了一个page的所有item之后,还要深入到每个item里面取数据,取完之后写到文件里去,然后再爬下一个页面。

    我使用了多层嵌套async.eachSeries之后发现,我只会在最深层级的回调中获取外层(套了很多层)的回调次数然后判断是不是继续下一步,所以写了很多的计数器。

    有没有更好的解决方法呢?

    8 条回复    2015-06-13 09:12:28 +08:00
    xinyu198736
        1
    xinyu198736  
       2015-06-12 15:06:41 +08:00
    1. eachSeries有第三个参数。
    2. 计数器是没有必要的,可以再加一层嵌套
    ```
    var pageArr = [];
    for(var i=1;i<=pageCount;i++){
    pageArr.push(i)
    }
    async.eachLimit(pageArr...

    ```
    ZackYang
        2
    ZackYang  
       2015-06-12 16:30:40 +08:00
    你需要的只是一个 EventEmitter
    ekousp
        3
    ekousp  
       2015-06-12 18:20:50 +08:00
    你需要的是使用 ES7 的 async 和 await。
    haozhang
        4
    haozhang  
    OP
       2015-06-12 20:15:34 +08:00
    @ekousp 标题大大的使用Async库...
    haozhang
        5
    haozhang  
    OP
       2015-06-12 20:16:00 +08:00
    @xinyu198736 eachLimit解决了我的问题,thx 。
    magicdawn
        6
    magicdawn  
       2015-06-12 20:20:46 +08:00
    你需要的是ES7 的async await,然而没卵用,目前没哪个js engine支持~
    但是可以曲线救国,Generator + Promise,yield Promise = await Task

    甩一个示例 https://github.com/magicdawn/yun-playlist-downloader
    Phariel
        7
    Phariel  
       2015-06-12 20:31:07 +08:00 via Android
    你真的需要promise
    xinyu198736
        8
    xinyu198736  
       2015-06-13 09:12:28 +08:00
    @haozhang 哈哈,看回答,浮躁的JS圈
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2837 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 07:36 · PVG 15:36 · LAX 23:36 · JFK 02:36
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.