Python爬虫建站入门手记——从零开始建立采集站点（一：环境搭建）
发布于 2016-05-05 02:26:27 | 520 次阅读 | 评论: 0 | 来源: 分享
Python编程语言
Python 是一种面向对象、解释型计算机程序设计语言，由Guido van Rossum于1989年底发明，第一个公开发行版发行于1991年。Python语法简洁而清晰，具有丰富和强大的类库。它常被昵称为胶水语言，它能够把用其他语言制作的各种模块（尤其是C/C++）很轻松地联结在一起。
从今天起，我将在这里更新一个系列的python简单爬虫到建立网站的实践手记。
内容将会从最简单的开始，环境搭建，基本爬虫，入库，用Django建立可供用户访问的网站，网站部署。
同时打算涉及简单的异步爬虫，piplibe，队列等等。
为了方便，将使用django和sqlite3来作为例子， 虽然有时候这并不是最合适的场景。。
最终目的：一个能用的自动更新的垃圾站
下面进入正题。
第一部分，买VPS，装环境。
本文的一切操作都在vps上
在Runabove建立最便宜的instance.
选择魁省机房-Sandbox-M-Ubuntu14.10-输入Instace名字”PythonSpider”-FireUp!
不出一分钟，VPS就建立好了。
用SSH 连接服务器
先建立一个screen，顺手更新apt-get,以后都在这里面操作，避免掉线导致任务中断。
bashscreen -S spider # 取名叫spider的screen
sudo apt-get update
sudp apt-get upgrade
再顺手安装一些肯定会用的东西
bashsudo apt-get install gcc python-dev -y
sudo - #这一步以后，用户就是root了 记住
nginx=stable # use nginx=development for latest development version
add-apt-repository ppa:nginx/$nginx
apt-get update
apt-get install nginx -y
apt-get install libxml2-dev libxslt1-dev lib32z1-dev -y
装pip和virtualenv
bashwget https://bootstrap.pypa.io/get-pip.py
python get-pip.py
pip install virtualenv
建立~/venv目录，建立virtualenv, 激活virtualenv
bashmkdir ~/venv
cd ~/venv
virtualenv spider
source ~/venv/spider/bin/activate
之后，shell提示符应该是这样
安装django(1.7)
bashpip install django
cd ~ # 返回用户目录
5秒钟后，django安装完毕，现在开始建立项目目录(Django的project)。我们爬虫站点的所有文件都放在里面。
bashdjango-admin startproject python_spider
再测试下安装是否成功
bashservice nginx stop # 为毛? 因为RunAbove的8000神马的端口不好用
python manage.py runserver 0.0.0.0:80 # 只能用80，真蛋疼
现在访问192.99.71.91,我就能看到Django的示例页面
没骗你吧？ 好了，看一眼能用就ctrl+c把服务器关掉。
然后，再建立一个app
bashcd python_spider
python manage.py startapp web
所以，现在我有一个Django项目，叫python_spider, 它里面有个app叫web.
未完待续。。。