Python爬虫scrapy框架Cookie池(微博Cookie池)的使用
(编辑：jimmy 日期: 2024/11/16 浏览：3 次 )
下载代码Cookie池（这里主要是微博登录，也可以自己配置置其他的站点网址）
下载代码GitHub：https://github.com/Python3WebSpider/CookiesPool
下载安装过后注意看网页下面的相关基础配置和操作！！！！！！！！！！！！！
自己的设置主要有下面几步：
1、配置其他设置
2、设置使用的浏览器
3、设置模拟登陆
源码cookies.py的修改（以下两处不修改可能会产生bug）：
4、获取cookie
随机获取Cookies： http://localhost:5000/weibo/random（注意：cookie使用时是需要后期处理的！！）
简单的处理方式，如下代码（偶尔需要对获取的cookie处理）：
def get_cookie(self):
return requests.get('http://127.0.0.1:5000/weibo/random').text
def stringToDict(self,cookie):
itemDict = {}
items = cookie.replace(':', '=').split(',')
for item in items:
key = item.split('=')[0].replace(' ', '').strip(' "')
value = item.split('=')[1].strip(' "')
itemDict[key] = value
return itemDict
scrapy爬虫的使用示例（爬取微博）：
middlewares.py中自定义请求中间件
def start_requests(self):
ua = UserAgent()
headers = {
'User-Agent': ua.random,
}
cookies = self.stringToDict(str(self.get_cookie().strip('{|}')))
yield scrapy.Request(url=self.start_urls[0], headers=headers,
cookies=cookies, callback=self.parse)
cookies = self.stringToDict(str(self.get_cookie().strip('{|}')))
yield scrapy.Request(url=self.start_urls[0], headers=headers,
cookies=cookies, callback=self.parse)
settings.py 中的配置：
5、录入账号和密码：
格式规定（账号----密码）
6、验证：（注意：使用cmd）
7、使用时注意保持cmd打开运行！！
使用时一定要打开cmd,并运行如第6步。
得到Cookie是判断是否处理处理Cookie（几乎都需要！！）类比第4步！！！
下一篇：python 进制转换 int、bin、oct、hex的原理