博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Python利用Requests库写爬虫
阅读量:4449 次
发布时间:2019-06-07

本文共 3789 字,大约阅读时间需要 12 分钟。

  • 基本Get请求:
#-*- coding:utf-8 -*-import requestsurl = 'http://www.baidu.com'r = requests.get(url)print r.text
  • 带参数Get请求:
#-*- coding:utf-8 -*-import requestsurl = 'http://www.baidu.com'payload = {
'key1': 'value1', 'key2': 'value2'} r = requests.get(url, params=payload) print r.text
  • POST请求模拟登陆及一些返回对象的方法:
#-*- coding:utf-8 -*-import requestsurl1 = 'http://www.exanple.com/login'#登陆地址url2 = "http://www.example.com/main"#需要登陆才能访问的地址 data={ "user":"user","password":"pass"} headers = { "Accept":"text/html,application/xhtml+xml,application/xml;", "Accept-Encoding":"gzip", "Accept-Language":"zh-CN,zh;q=0.8", "Referer":"http://www.example.com/", "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36" } res1 = requests.post(url1, data=data, headers=headers) res2 = requests.get(url2, cookies=res1.cookies, headers=headers) print res2.content#获得二进制响应内容 print res2.raw#获得原始响应内容,需要stream=True print res2.raw.read(50) print type(res2.text)#返回解码成unicode的内容 print res2.url print res2.history#追踪重定向 print res2.cookies print res2.cookies['example_cookie_name'] print res2.headers print res2.headers['Content-Type'] print res2.headers.get('content-type') print res2.json#讲返回内容编码为json print res2.encoding#返回内容编码 print res2.status_code#返回http状态码 print res2.raise_for_status()#返回错误状态码

  • 使用Session()对象的写法(Prepared Requests):
#-*- coding:utf-8 -*-import requestss = requests.Session()url1 = 'http://www.exanple.com/login'#登陆地址 url2 = "http://www.example.com/main"#需要登陆才能访问的地址 data={ "user":"user","password":"pass"} headers = { "Accept":"text/html,application/xhtml+xml,application/xml;", "Accept-Encoding":"gzip", "Accept-Language":"zh-CN,zh;q=0.8", "Referer":"http://www.example.com/", "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36" } prepped1 = requests.Request('POST', url1, data=data, headers=headers ).prepare() s.send(prepped1) ''' 也可以这样写 res = requests.Request('POST', url1, data=data, headers=headers ) prepared = s.prepare_request(res) # do something with prepped.body # do something with prepped.headers s.send(prepared) ''' prepare2 = requests.Request('POST', url2, headers=headers ).prepare() res2 = s.send(prepare2) print res2.content
  • 另一种写法 :
#-*- coding:utf-8 -*- import requests s = requests.Session() url1 = 'http://www.exanple.com/login'#登陆地址 url2 = "http://www.example.com/main"#需要登陆才能访问的页面地址 data={ "user":"user","password":"pass"} headers = { "Accept":"text/html,application/xhtml+xml,application/xml;", "Accept-Encoding":"gzip", "Accept-Language":"zh-CN,zh;q=0.8", "Referer":"http://www.example.com/", "User-Agent":"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/42.0.2311.90 Safari/537.36" } res1 = s.post(url1, data=data) res2 = s.post(url2) print(resp2.content)

  • 其他的一些请求方式
>>> r = requests.put("http://httpbin.org/put")>>> r = requests.delete("http://httpbin.org/delete") >>> r = requests.head("http://httpbin.org/get") >>> r = requests.options("http://httpbin.org/get")

遇到的问题:


在cmd下执行,遇到个小错误:

UnicodeEncodeError:'gbk' codec can't encode character u'\xbb' in   position 23460: illegal multibyte sequence

分析:

1、Unicode是编码还是解码

UnicodeEncodeError

很明显是在编码的时候出现了错误

2、用了什么编码

'gbk' codec can't encode character

使用GBK编码出错

解决办法:

确定当前字符串,比如

#-*- coding:utf-8 -*-import requestsurl = 'http://www.baidu.com'r = requests.get(url)print r.encoding >utf-8

已经确定html的字符串是utf-8的,则可以直接去通过utf-8去编码。

print r.text.encode('utf-8')
 
文/Jelvis(简书作者)
原文链接:http://www.jianshu.com/p/e1f8b690b951
著作权归作者所有,转载请联系作者获得授权,并标注“简书作者”。
 
文/Jelvis(简书作者)
原文链接:http://www.jianshu.com/p/e1f8b690b951
著作权归作者所有,转载请联系作者获得授权,并标注“简书作者”。
 
posted on
2016-10-25 10:03  阅读(
...) 评论(
...) 收藏

转载于:https://www.cnblogs.com/auto-tester-space/p/5995598.html

你可能感兴趣的文章
[QT编程]QT实现的一个渐隐渐显窗体
查看>>
在Web工程中引入Jquery插件报错解决方案
查看>>
大学总结之影响我最深的十本书
查看>>
用myEclipse连接数据源生成动态数据报表
查看>>
[myeclipse]@override报错问题
查看>>
자주 쓰이는 정규표현식
查看>>
超简单的listview单选模式SingleMode(自定义listview item)
查看>>
vue-11-路由嵌套-参数传递-路由高亮
查看>>
HDU 1199 - Color the Ball 离散化
查看>>
[SCOI2005]骑士精神
查看>>
Hibernate原理解析-Hibernate中实体的状态
查看>>
六时车主 App 隐私政策
查看>>
C语言常见问题 如何用Visual Studio编写C语言程序测试
查看>>
Web用户的身份验证及WebApi权限验证流程的设计和实现
查看>>
hdu 2098 分拆素数和
查看>>
[ONTAK2010]Peaks kruskal重构树,主席树
查看>>
ECMAScript6-let与const命令详解
查看>>
iOS 使用系统相机、相册显示中文
查看>>
什么是敏捷设计
查看>>
SCSS的基本操作
查看>>