推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
scrapy 框架支持通用爬取吗？想写一个通用爬取的框架，还要做到增量爬取，大神们给点意见和建议
wei6666 · 2018-05-10 10:29:04 +08:00 · 1698 次点击这是一个创建于 2415 天前的主题，其中的信息可能已经有所发展或是发生改变。
 |
1
codepark 2018-05-10 14:33:06 +08:00
scrapy 可以的 以上两个问题 你定好自己的规则就 OK 了~
|
 |
2
mimvp 2018-05-14 17:28:42 +08:00
可以的，Python scrapy 框架专门就是为了爬虫而生，具体使用可以在 github 上搜索下开源的项目
我使用 scrapy 框架做爬虫，需要使用到代理 IP，参考了 github 源码： https://github.com/mimvp/mimvp-proxy-demo/tree/master/PythonScrapy |
 |
4
wei6666 OP 我写一个与公司业务对口的增量抓取框架，有哪位大神写过吗？能讲下或者分享下吗？
|
Select Language