在本篇文章里小编给大家整理了关于python3中运用urllib抓取贴吧的邮箱以及QQ的实例内容，需要的朋友们可以学习下
我们首先来看下实例代码：

import urllib
import urllib.request
import re
from urllib import parse#抓取贴吧页面数量信息
def gettiebalistnumbers(name):  #计算搜索的关键词有多少页 输入名字 返回页数url="https://tieba.baidu.com/f?"headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36 QIHU 360SE"} # header 字典形式word = {"kw": name} # 接口  贴吧的名字word = parse.urlencode(word) # 编码成字符串url = url + word # 拼接urlrequest = urllib.request.Request(url, headers=headers) # 发送请求# 也可以通过调用Request.add_header() 添加/修改一个特定的 headerrequest.add_header("Connection", "keep-alive") # 一直活着response = urllib.request.urlopen(request) # 打开请求data = response.read().decode("utf-8") # 读取数据print(response.code) # 可以查看相应状态码restr = "<span class=\"card_infoNum\">([\s\S]*?)</span>" # 正则这个贴吧有多少帖子regex = re.compile(restr, re.IGNORECASE)mylist = regex.findall(data) #寻找页面所有符合条件的tienumbers = mylist[0].replace(",","") #替换逗号tienumbers = eval(tienumbers)  #str转化为数字#print(tienumbers)restr = "<span class=\"card_menNum\">([\s\S]*?)</span>" # 正则关注贴吧的数regex = re.compile(restr, re.IGNORECASE)mylist = regex.findall(data) # 寻找页面所有符合条件的Peoplenumbers = mylist[0].replace(",", "") # 替换逗号Peoplenumbers = eval(Peoplenumbers) # str转化为数字#print(Peoplenumbers)return tienumbers,Peoplenumbersdef gettiebalist(name):  #抓取所有的符合name的页数 输入搜索关键词，返回所有的页数urlnumberstuple=gettiebalistnumbers(name)  #(元组）tienumbers=numberstuple[1]  #帖子的数量tiebalist = []if tienumbers%54==0:  #生成页面列表for i in range(tienumbers//54):tiebalist.append("https://tieba.baidu.com/f?kw="+name+"&pn="+str(i*50))else:for i in range(tienumbers//54+1):tiebalist.append("https://tieba.baidu.com/f?kw="+name+"&pn="+str(i*50))#print(tiebalist)return tiebalist
def geturllistformpage(url):   #抓取页面的每个帖子url 输入一页url 返回列表内的的所有urlheaders = {"User-Agent": "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);"}request = urllib.request.Request(url, headers=headers) # 发起请求，# 也可以通过调⽤Request.add_header() 添加/修改⼀个特定的 headerresponse=urllib.request.urlopen(request)data=response.read().decode("utf-8","ignore")#打开请求，抓取数据#print(response.code) # 可以查看响应状态码restr = "<ul id=\"thread_list\" class=\"threadlist_bright j_threadlist_bright\">([\s\S]*?)<div class=\"thread_list_bottom clearfix\">" # 正则表达式，（）只要括号内的数据regex = re.compile(restr, re.IGNORECASE)mylist = regex.findall(data)#print(mylist[0])#抓取整个表格restr = "href=\"/p/(\d+)\"" # 正则表达式，（）只要括号内的数据regex = re.compile(restr, re.IGNORECASE)urltitlelist = regex.findall(data)#print(urltitlelist)   #抓取的url变化的数字urllist=[]for title in urltitlelist:urllist.append("http://tieba.baidu.com/p/"+title)  #拼接链接#print(urllist) #得到每个页面的帖子url列表return urllist
def getallurllist(url):     #获取每一页里面的分页  输入一个帖子url 输出所有分页url链接headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36 QIHU 360SE"} # header 字典形式request = urllib.request.Request(url, headers=headers) # 发送请求# 也可以通过调用Request.add_header() 添加/修改一个特定的 headerresponse = urllib.request.urlopen(request) # 打开请求tiebadata = response.read().decode("utf-8", "ignore") # 读取数据allurllist1=[]restr = "共<span class=\"red\">(\d+)</span>页</li>" # 正则表达式，（）只要括号内的数据regex = re.compile(restr, re.IGNORECASE)numalllist = regex.findall(tiebadata)nums=eval(numalllist[0])for i in range(1,nums+1):allurllist1.append(url+"?pn="+str(i))return allurllist1# print(urltitlelist)   #抓取的url变化的数字def getpagedata(url):headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36 QIHU 360SE"} # header 字典形式request = urllib.request.Request(url, headers=headers) # 发送请求# 也可以通过调用Request.add_header() 添加/修改一个特定的 headerresponse = urllib.request.urlopen(request) # 打开请求pagedata = response.read().decode("utf-8","ignore") #读取数据return pagedata
def getemaillistfrompage(pagedata): #在帖子内页面，把每一个邮箱抓取下来  输入一个帖子url 返回邮箱emaillist = []restr = "[A-Z0-9._%+-]+[@][A-Z0-9.-]+\.[A-Z]{2,4}" # 正则表达式，（）只要括号内的数据regex = re.compile(restr, re.IGNORECASE)emaillist = regex.findall(pagedata)return emaillist   #返回提取的邮箱列表def QQlistfrompage(url): #在帖子内页面，把每一个邮箱抓取下来  输入一个帖子url 返回QQheaders = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36 QIHU 360SE"} # header 字典形式request = urllib.request.Request(url, headers=headers)response = urllib.request.urlopen(request)#data = response.read().decode("utf-8","ignore") #读取数据QQlist = []while True:line = response.readline()line = line.decode('utf-8')if not line:breakif line.find("QQ") != -1 or line.find("Qq") != -1 or line.find("qq") != -1:restr = "[1-9]\\d{4,10}" # 正则表达式，（）只要括号内的数据regex = re.compile(restr, re.IGNORECASE)templist = regex.findall(line)QQlist.extend(templist)return QQlist#print(gettiebalistnumbers("python"))#print(gettiebalist("python3"))#mylist=gettiebalist("python3")
#for line in mylist:
#  print(line)
#geturllistformpage("https://tieba.baidu.com/f?kw=python3&ie=utf-8&pn=4000")
#print(getemaillistfrompage(getpagedata("http://tieba.baidu.com/p/6490450301")))
#print(QQlistfrompage("http://tieba.baidu.com/p/3950107421"))
""" 
name="qqmail"
emailalllist=[]
for numberurl in gettiebalist(name):  #取出这个关键词 所有页面的urltieziurllist=geturllistformpage(numberurl) #取出每个页面的 帖子urlfor fentieziurllist in tieziurllist:tieziurllist1=getallurllist(fentieziurllist)for pagetext in tieziurllist1:   pagedata=getpagedata(pagetext)  #取出每个页面的代码datas=getemaillistfrompage(pagedata) #正则提取邮箱if len(datas) !=0:    #如果提取的里面一个页面上的一个帖子 邮箱不是空的话emailalllist.append(datas[0])
print(emailalllist)       #测试可以提取一个 贴吧的所有邮箱"""
"""
name="qqmail"
QQalllist=[]
for numberurl in gettiebalist(name):  #取出这个关键词 所有页面的urltieziurllist=geturllistformpage(numberurl) #取出每个页面的 帖子urlfor url in tieziurllist:QQnumberlist=QQlistfrompage(url)  #提取的里面一个页面上的一个帖子的QQ#print(QQnumberlist)if len(QQnumberlist) != 0:  #如果一个页面QQ不为空的话for qqdata in QQnumberlist:  #一个页面QQ列表遍历QQalllist.append(qqdata)  #添加到列表中#  qq=QQalllist.append(QQnumberlist[0])
#print(QQalllist)# #提取一个贴吧的所有QQ 测试成功
"""name="qqmail"
savefilepath="qqmail_qq.txt"
savefile=open(savefilepath,"wb")
for numberurl in gettiebalist(name):  #取出这个关键词 所有页面的urltieziurllist=geturllistformpage(numberurl) #取出每个页面的 帖子urlfor fenurl in tieziurllist:tieziurllist1=getallurllist(fenurl)  #一个页面分页的所有链接for url in tieziurllist1:QQnumberlist=QQlistfrompage(url)  #提取的里面一个页面上的一个帖子的QQ#print(QQnumberlist)if len(QQnumberlist) != 0:  #如果一个页面QQ不为空的话print(QQnumberlist)qqstr=" ".join(QQnumberlist)savefile.write((qqstr+"\r\n").encode("utf-8"))#  qq=QQalllist.append(QQnumberlist[0])
#最后写入文件测试， 写入qq.txt 69K
# TimeoutError: [WinError 10060] 由于连接方在一段时间后没有正确答复或连接的主机没有反应，连接尝试失败。
#可优化为timeout=  或者导入 import time 进行time.sleep(3) 睡眠定时访问操作，
#为避免出错，还需再访问url时加入 try  except 出错避过

知识点扩充：

Proxy 的设置

urllib2 默认会使用环境变量 http_proxy 来设置 HTTP Proxy。如果想在程序中明确控制 Proxy 而不受环境变量的影响，可以使用下面的方式

import urllib2
enable_proxy = True
proxy_handler = urllib2.ProxyHandler({"http" : 'http://some-proxy.com:8080'})
null_proxy_handler = urllib2.ProxyHandler({})if enable_proxy:opener = urllib2.build_opener(proxy_handler)
else:opener = urllib2.build_opener(null_proxy_handler)urllib2.install_opener(opener)

这里要注意的一个细节，使用 urllib2.install_opener() 会设置 urllib2 的全局 opener 。这样后面的使用会很方便，但不能做更细粒度的控制，比如想在程序中使用两个不同的 Proxy 设置等。比较好的做法是不使用 install_opener 去更改全局的设置，而只是直接调用 opener 的 open 方法代替全局的 urlopen 方法。
写到这里，给大家推荐一个资源很全的python学习聚集地，点击进入，这里有资深程序员分享以前学习心得，学习笔记，还有一线企业的工作经验，且给大家精心整理一份python零基础到项目实战的资料，每天给大家讲解python最新的技术，前景，学习需要留言的小细节

以上就是python3用urllib抓取贴吧邮箱和QQ实例的详细内容