240 发简信
IP属地:浙江
  • pyspider 分布式搭建

    1. 背景 之前将pyspider部署在了一台机子上,这一台负责「数据存储」,「消息队列」,「任务调度」,「URL抓取」,「任务处理」。现在发现...

  • Mac环境下的Python多环境共存(pyenv + pyenv-virtualenv)

    前提步骤 1. 安装zlib 2. 指定zlib link 安装 pyenv 1. 安装pyenv 2.配置 3. 常用命令 安装 pyenv-...

  • 边读pyspider源码边学习边使用

    用了一段时间的pyspider,一直没有研究源码。这两天抽空看了看,稍微拿几个点出来研究一下,如果读到哪里不对的地方,请及时指出我好纠正,本文我...

  • git基本操作教程

    用git也将近半年了,一直没有系统地整理一下,今天刚好有空,就把一切基本的操作整理一下。注意:本文章只包含基本的上传代码,切换分支,删除分支,添...

  • 基于asyncio与aiohttp实现异步爬虫

    之前爬虫一直用的python2.7,不用第三方框架的话只能用多线程来提升爬虫效率。自从听说python3.5原生自带异步后,就拿来实现了一下,效...

  • 执行力,开始

    感想: 今天在微博中看到科比的采访,我虽然不是他的粉丝,但是还是挺赞同他的“Mamba Mentality”,总结起来就是五个字: 对目前的我来...

个人介绍
Java developer,Python developer