发布于 2015-10-25 19:26:35 | 160 次阅读 | 评论: 0 | 来源: 网友投递

这里有新鲜出炉的Python多线程编程,程序狗速度看过来!

Python编程语言

Python 是一种面向对象、解释型计算机程序设计语言,由Guido van Rossum于1989年底发明,第一个公开发行版发行于1991年。Python语法简洁而清晰,具有丰富和强大的类库。它常被昵称为胶水语言,它能够把用其他语言制作的各种模块(尤其是C/C++)很轻松地联结在一起。


这篇文章主要介绍了Python中使用socket发送HTTP请求数据接收不完整问题解决方法,本文使用一个循环解决了数据不完整问题,需要的朋友可以参考下

由于工作的需求,需要用python做一个类似网络爬虫的采集器。虽然Python的urllib模块提供更加方便简洁操作,但是涉及到一些底层的需求,如手动设定User-Agent,Referer等,所以选择了直接用socket进行设计。当然,这样的话,需要对HTTP协议比较熟悉,HTTP协议这里就不做讲解了。整个python的代码如下:

#!/usr/bin env python
import socket
host="www.baidu.com"
se=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
se.connect((host,80))
se.send("GET / HTTP/1.1n")
se.send("Accept:text/html,application/xhtml+xml,*/*;q=0.8n")
#se.send("Accept-Encoding:gzip,deflate,sdchn")
se.send("Accept-Language:zh-CN,zh;q=0.8,en;q=0.6n")
se.send("Cache-Control:max-age=0n")
se.send("Connection:keep-aliven")
se.send("Host:"+host+"rn")
se.send("Referer:http://www.baidu.com/n")
se.send("user-agent: Googlebotnn")
print se.recv(1024)

代码运行正常,但是发现一个比较重要的问题,运行结果只返回了HTTP的头部信息,网页的内容则没有被返回。网上查找了很多资料,一无所获,经过一夜的思考,突然想到了一个问题,有可能我请求的资源非常大,一个网络的IP包的大小,它是受很多因素制约的,最典型的便是MTU(最大传输单元),那么会不会我请求的数据被分割了,HTTP的头部信息只是一部分,其它数据还在传输或者缓冲区呢?于是做了这样一个遍历:

while True:
  buf = se.recv(1024)
  if not len(buf):
    break
  print buf

这样发现所有请求的数据均被返回了,看来要想做好网络编程,深入理解TCP/IP协议是非常必要的。



相关阅读 :
Python中使用socket发送HTTP请求数据接收不完整问题解决方法
python中使用urllib2获取http请求状态码的示例代码
python中使用urllib2伪造HTTP报头的2个方法
python通过get,post方式发送http请求和接收http响应的方法
python中使用smtplib和email模块发送邮件实例
在Python中使用异步Socket编程性能测试
Python中使用scapy模拟数据包实现arp攻击、dns放大攻击例子
在Python中使用matplotlib模块绘制数据图的示例
在Python中使用zlib模块进行数据压缩的教程
python发送HTTP请求的方法小结
Python使用requests发送POST请求实例代码
Python中使用PyHook监听鼠标和键盘事件实例代码
最新网友评论  共有(0)条评论 发布评论 返回顶部

Copyright © 2007-2017 PHPERZ.COM All Rights Reserved   冀ICP备14009818号  版权声明  广告服务