ispider

0.0.4 • Public • Published

ispder

这是一个用superagent + phantomjs 写的一个小爬虫,尽量简单,代码几乎都是用ES6语法写的,简单直白。

  • 主体核心是core.js这个文件,这是一个继承自EventEmitter的类。

expamle

例子可以参见examples文件夹的

API

创建一个爬虫需要定义 urlInfo

urlInfo是一个对象,它有以下属性:

  • 必须 url : {string} 需要抓取的地址。
  • 选填 isDynamic : {boolean} 默认false,true设置是用phantomjs请求url
  • 选填 phantomConfig : {string} phantomjs执行的【静态】命令config.json文件路径,可以不用配置,默认有一个,如果配置的false,那么默认的也不用
  • 选填 phantomLines : {array} phantomjs执行的【动态】命令,比如proxy呀,cookie文件呀,默认不用设置 //具体配置参见http://phantomChild.org/api/command-line.html
  • 选填 phantomBridgeJs : {string} 和phantomjs桥接js,可以自己再写一个,默认有一个,如果要自定义,可以参照[_lib/phantom-spec.js]。
  • 选填 isGenerateImg : {boolean} 设置是否生成图片和html,[true] :生成的图片会以 [域名 + 时间]组合
  • 选填 generatePath : {string} 生成图片存放在哪里,默认:会放置在examples里面
  • 选填 tiemout : {number} 执行的超时时间,默认:10000毫秒 即10秒

Package Sidebar

Install

npm i ispider

Weekly Downloads

3

Version

0.0.4

License

MIT

Last publish

Collaborators

  • yuexing0921