多语言展示
当前在线:390今日阅读:167今日分享:27

windows系统安装配置python scrapy环境

scrapy是基于python的开源爬虫框架,功能极其强大,扩展性好,几十行代码就可以实现强大的python爬虫
工具/原料
1

python2.7环境

2

windows操作系统

3

Microsoft Visual C++ Compiler for Python 2.7

4

pywin32

方法/步骤
1

下载并安装Microsoft Visual C++ Compiler for Python 2.7(lxml的依赖环境,lxml是scrapy的依赖环境),下载地址:https://www.microsoft.com/en-us/download/confirmation.aspx?id=44266

2

安装lxml:可直接使用pip安装,有在线和本地两种安装方法,(1).在线 pip install lxml,(2)如果出现如下图的错误,可改用本地安装的方法,具体转第三步

3

下载适合自己环境的lxml包并安装,下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/#lxml,下载完成后使用如下命令安装:pip install+本地路径

4

下载安装pywin32(scrapy的依赖环境),下载地址:https://sourceforge.net/projects/pywin32/files/pywin32/

5

安装scrapy,直接输入pip install scrapy即可安装scrapy和相关依赖包。

注意事项
1

下载相关包或程序时一定注意操作系统时32位还是64位,和python是2.7还是3.X

2

本教程适用于python2.7环境,现在scrapy已经支持python3.x,具体安装方法没有经过测试,想必应该类似,可自行实验

推荐信息