日本不卡不码高清免费观看,久久国产精品久久w女人spa,黄色aa久久,三上悠亚国产精品一区二区三区

您的位置:首頁技術文章
文章詳情頁

node.js - node async寫的爬蟲小程序請求高手指導

瀏覽:248日期:2024-08-03 18:32:21

問題描述

var cnodeUrl = 'https://segmentfault.com/';// 存放所有主題鏈接鏈接var topicUrls = [];/** * 所有的url請求完成后,ep控制異步結束,進入每一個主題 */ep.after(’topic_html’, topicUrls.length, function(topics) { var concurrencyCount = 0; // 記錄并發數 /** * 進入主題,取得題目 * @callback topics [{title:’’}] */ var fetchUrl = function(myurl, callback) {var fetchStart = new Date().getTime();concurrencyCount++;console.log(’現在的并發數是’, concurrencyCount, ’,正在抓取的是’, myurl);superagent.get(myurl).end(function(err, ssres) { if (err) {callback(err, myurl + ’ error happened!’); } var time = new Date().getTime() - fetchStart; console.log(’抓取 ’ + myurl + ’ 成功’, ’,耗時’ + time + ’毫秒’); concurrencyCount--; var $ = cheerio.load(ssres.text); var reslut = {title: $(’.question__author>a>strong’).text(),answer: $(’#answers-title’).text() }; callback(null, result);}) } // 控制最大并發數為5,在結果中取出callback返回來的整個結果數組。 async.mapLimit(topicUrls, 5, function (myurl, callback) {fetchUrl(myurl, callback); }, function (err, result) {console.log(’===== result: ======n’, result);//res.send(result); });})// 獲得所有主題鏈接 topicUrlssuperagent.get(cnodeUrl).end(function(err, sres) { if(err) {return next(err); } var $ = cheerio.load(sres.text); $(’.stream-list’).each(function(idx, element) {var $element = $(element).find(’.title>a’);var href = url.resolve(cnodeUrl, $element.attr(’href’));topicUrls.push(href); }) console.log(’get authorUrls successful!n’, topicUrls); ep.emit(’topic_html’, ’get topicUrls successful’);})

得到的結果是:

node.js - node async寫的爬蟲小程序請求高手指導

請教一下哪里出了問題?

問題解答

回答1:

重寫了下:

var async = require(’async’);var cheerio = require(’cheerio’);var superagent = require(’superagent’);var url = require(’url’);var cnodeUrl = 'https://segmentfault.com/';// 存放所有主題鏈接鏈接var topicUrls = [];// 獲得所有主題鏈接 topicUrlssuperagent.get(cnodeUrl).end(function(err, sres) { if(err) {return next(err); } var $ = cheerio.load(sres.text); $(’.stream-list__item’).each(function(idx, element) {var $element = $(element).find(’.title>a’);var href = url.resolve(cnodeUrl, $element.attr(’href’));topicUrls.push(href); }) // 控制最大并發數為5,在結果中取出callback返回來的整個結果數組。 async.mapLimit(topicUrls, 5, function (myurl, callback) {fetchUrl(myurl, callback); }, function (err, result) {console.log(’===== result: ======’, result); });})function fetchUrl(myurl,callback) { var fetchStart = new Date().getTime(); superagent.get(myurl).end(function(err, ssres) {if (err) { callback(err, myurl + ’ error happened!’);}var time = new Date().getTime() - fetchStart;console.log(’抓取 ’ + myurl + ’ 成功’, ’,耗時’ + time + ’毫秒’);// concurrencyCount--;var $ = cheerio.load(ssres.text);var reslut = { title: $(’.question__author>a>strong’).text(), answer: $(’#answers-title’).text()};callback(null, reslut); })}

你上面的代碼,我感覺你是參考

https://github.com/alsotang/node-lessons/blob/master/lesson4/app.js

這個課程寫的吧,應該是你用的eventproxy方式不正確

相關文章:
日本不卡不码高清免费观看,久久国产精品久久w女人spa,黄色aa久久,三上悠亚国产精品一区二区三区
精品一区av| 超碰超碰人人人人精品| 欧美日韩精品在线一区| 日韩毛片视频| 欧美日韩黑人| 九九精品调教| 亚洲激情婷婷| 日本一区二区三区视频在线看| 91嫩草精品| 国产在线视频欧美一区| 999国产精品永久免费视频app| 国产精品日本| 国产精品毛片久久久| av一区在线| 免费精品视频最新在线| 国产高清视频一区二区| 日韩精品影视| 亚洲精品动态| 欧美精品二区| 成人看片网站| 亚洲一区国产一区| 国产精品一区高清| 成人精品亚洲| 亚洲3区在线| 91视频精品| 亚洲一区中文| 蜜桃精品视频| 欧美日韩国产一区精品一区| 欧美一级全黄| 日韩毛片在线| 日韩av一区二区三区| | 日韩精品网站| 视频国产精品| 日本激情一区| 综合激情五月婷婷| 日韩成人精品一区| 亚洲免费专区| 亚洲天堂1区| 欧美在线不卡| 婷婷六月综合| 国产精品99久久免费观看| 欧美日韩高清| 久久精品伊人| 亚洲精品字幕| 亚洲91久久| 国产精久久久| 男人操女人的视频在线观看欧美| 高清不卡亚洲| 18国产精品| 噜噜噜躁狠狠躁狠狠精品视频| 红杏一区二区三区| 91亚洲精品在看在线观看高清| 国产99亚洲| 成人在线视频免费| 午夜精品福利影院| 蜜桃成人av| 成人福利av| 国产探花一区二区| 中文一区一区三区免费在线观 | 久久中文在线| 日本va欧美va瓶| 亚洲一级在线| 视频小说一区二区| 国产精品久久久久久久久妇女| 日本少妇一区二区| 在线视频亚洲欧美中文| 婷婷综合网站| 四虎国产精品免费观看| 欧美日韩一区二区三区四区在线观看| 亚洲精品一区二区妖精| 亚洲成人一区在线观看| 精品一二三区| 久久av资源| 18国产精品| 亚洲人www| 美女网站久久| 香蕉久久国产| 欧美综合国产| 奶水喷射视频一区| 国产精品美女久久久| 不卡在线一区二区| 999国产精品永久免费视频app| 成人亚洲一区二区| 国产成人精品免费视| 精品国产精品国产偷麻豆 | 99久久精品费精品国产| 久久精品欧洲| 精品中文字幕一区二区三区| 国产精品久久久久久久免费软件| 日韩精品中文字幕一区二区| 亚洲欧美网站在线观看| 四虎在线精品| 日本国产一区| 日韩国产在线观看一区| 日韩va欧美va亚洲va久久| 日韩美女精品| 欧美亚洲网站| 国产精品极品| 欧美91在线| 精品国产乱码久久久久久樱花| 精品美女久久| 91中文字幕精品永久在线| 日韩在线看片| 黄色成人在线网址| 在线日韩成人| 国产图片一区| 欧美国产偷国产精品三区| av亚洲一区二区三区| 欧美福利专区| 四虎精品永久免费| 国产精品欧美大片| 国产在线观看91一区二区三区| 精品国产不卡一区二区| 日韩在线第七页| 中文在线一区| 日韩精品一区二区三区中文字幕| 日韩欧美中文字幕一区二区三区| 日韩一区二区三区高清在线观看| 国产日韩亚洲| 国产夫妻在线| 99在线精品免费视频九九视| 亚洲精品一区二区在线播放∴| 国产精品一区二区三区www| 正在播放日韩精品| 国产精品普通话对白| 777久久精品| 97国产精品| 国产午夜精品一区二区三区欧美 | 亚洲国产专区校园欧美| 亚洲欧美日韩国产综合精品二区| 亚洲精品无播放器在线播放| 麻豆久久一区| 性欧美69xoxoxoxo| 欧美一区激情| 日韩久久精品| 免费观看在线综合| 久久久久伊人| 国产模特精品视频久久久久| 国产日韩欧美一区二区三区 | 伊人久久婷婷| 久久激情五月激情| 欧美一区二区三区激情视频| 日韩精品视频在线看| 中文在线资源| 亚洲三级国产| 电影天堂国产精品| 日本综合视频| 国产在线观看www| 日韩专区欧美专区| 成人黄色av| 亚洲三级观看| 亚洲爱爱视频| 国产精品毛片视频| 免费久久99精品国产自在现线| 久久精品国产精品亚洲毛片| 一级欧洲+日本+国产| 久久久久伊人| 亚洲欧美久久精品| 在线视频观看日韩| 欧美成人精品一级| 丝袜亚洲另类欧美| 日本а中文在线天堂| 亚洲九九精品| 成人自拍av| 欧美日一区二区在线观看| 欧美一级精品| 精品91福利视频| 日本中文字幕视频一区| 色爱综合网欧美| 日韩精彩视频在线观看| 91久久国产| 国产在线观看www| 欧美一区二区三区久久精品| 九九在线精品| 高清一区二区三区| 国产精品v亚洲精品v日韩精品| 六月婷婷一区| 日韩精品第一区| 国产精品日本一区二区三区在线| 图片区亚洲欧美小说区| 国产成年精品| 国产精品密蕾丝视频下载| 日韩在线一二三区| 欧美69视频| 天堂√中文最新版在线| 久久久国产精品入口麻豆| 亚洲精品三级| 日韩一区二区免费看| 在线中文字幕播放| 久久三级中文| 国产精品成人国产| 日韩精品高清不卡| 中文字幕中文字幕精品| 久久影院一区| 999国产精品| 日韩精品欧美激情一区二区| 97精品中文字幕| 国产不卡精品| 韩日一区二区|