/*超简易的一个爬虫,爬慕课网的数据,并做处理*/
const http = require('http')
const cheerio = require('cheerio')
const url = 'http://www.imooc.com/learn/348'
//http模块发出get请求,执行回调函数
http.get(url, (res) => {
var html = ''
//res触发data事件,拼接html字符串
res.on('data', (data) => {
html += data
})
//res最后触发end事件,输出html字符串源码
res.on('end', () => {
let courseData = filterChapters(html) //res结束后,把拼装好的html过滤处理
printCourseInfo(courseData)
})
}).on('error', () => {
console.log('获取数据出错!');
})
//用cheerio模块解析获取的html字符串,爬取数据
function filterChapters(html) {
let $ = cheerio.load(html)
let chapters = $('.chapter')
// 期望获取的数据结构
// [{
// chapterTitle: '',
// videos: [{
// title: '',
// id: ''
// }]
// }]
let courseData = []
chapters.each((index, item) => { //不能用箭头函数,因为没有this
let chapter = $(item) //用箭头函数就要找出回调,回调参数log大法找
let chapterTitle = chapter.find('h3 strong').text()
let videos = chapter.find('.video').children('li')
let chapterData = {
chapterTitle,
videos: []
}
videos.each((index, item) => { //不能用箭头函数,因为没有this
let video = $(item) //用箭头函数就要找出回调,回调参数log大法找
let videoTitle = video.find('.J-media-item').text()
let id = video.data('media-id')
chapterData.videos.push({
title: videoTitle,
id: id
})
})
courseData.push(chapterData)
})
return courseData
}
//打印出爬取信息
function printCourseInfo(courseData) {
courseData.forEach((item) => {
let chapterTitle = item.chapterTitle
console.log(chapterTitle);
item.videos.forEach((video) => {
console.log(`[${video.id}] ${video.title}`);
})
})
}
nodejs爬虫制作
最后编辑于 :
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 内容要点 一步一脚印实现一个爬虫,前面的内容比较简单,有了解可以直接跳过而且文章内容较长和多图,建议在pc下阅读源...
- <最终爬取全部的图片全部放在了本地的images中 /** * Created by wusicheng on 2...
- 项目地址:点击 预览地址:点击 api地址:点击 爬虫地址:点击 技术栈:vue + vue-router + v...