python爬蟲遇到爬取文件內容時，需要一頁頁的翻頁爬取，這樣很是麻煩，其實可以獲取每個列表信息下的文件名和文件鏈接，讓文件名和文件鏈接處理為列表，保存后下載，實現智能翻頁批量下載文件，本文以以京客隆為例，批量下載文件，如財務資料，他的每一份報告都是一份pdf格式的文檔。以此頁面為目標，下載他每個分類的文件python爬蟲實戰之智能翻頁批量下載文件。
1、引入庫
import requests
import pandas as pd
from lxml import etree
import re
import os
2、解析初始頁面
baseUrl ='http://www.jkl.com.cn/cn/invest.aspx' # 爬取頁面的數據
heade ={
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko)
Chrome/81.0.4044.92 Safari/537.36'
}
res =requests.get(url=baseUrl,headers=heade).text
# print(res.text)
html = etree.HTML(res)
res =requests.get(url=baseUrl,headers=heade).text # 設置變量接受 基礎頁的響應數據
# print(res.text)
html = etree.HTML(res)
3、獲得投資關系的分類名稱和url地址
data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投資者列表的名字
data_link = html.xpath('//div[@class="infoLis"]//@href') # 全部列表的鏈接
name = [data_name.strip() for data_name in data_name] # 通過for循環去掉空字符
link = ['http://www.jkl.com.cn/cn/'+ data_link for data_link in data_link] # 拼接字符串
# 合并為字典，方便保存文件
file = dict(zip(name,link))
4、每個列表信息，保存一個文件夾
for name,link in file.items():
name=name.replace('/','.')
name=name.replace('...','報表')
# 上面的把文件名帶特許字符的 強制轉換為我們想要的文本類型
path = 'E:/'+ name
if not os.path.exists(path):
os.mkdir(path)
#建立儲存位置
5、對列表的每個項目鏈接進行解析，拿到尾頁
res_list = requests.get(url = link, headers = heade).text
list_html = etree.HTML(res_list)
# print(html_erJi) 解析每個分類的鏈接
weiYe = list_html.xpath('//a[text()="尾頁"]/@href')
# print(html_weiye)
# 拿到尾頁信息
if weiYe !=[]:
# 正則提取尾頁信息
get_weiYe =re.search("(\d+)'\)",html_weiye[0])
get_yeMa = get_html_weiYe.group(1)
else:
get_yeMa=1
# print(get_html_yeMa) 看看是不是提取成功
6、獲取每個列表信息下的文件名和文件鏈接
for get_yeMa in range(1,int(get_yeMa)+1): # 翻頁
yaMa= {
'__EVENTTARGET': 'AspNetPager1',
'__EVENTARGUMENT': get_yeMa
}
get_lei_html = requests.get(url = link, headers = heade, params = yaMa).text
res3 =etree.HTML(get_lei_html)
# print(res3)
pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')
# print(pdf_name)
pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')
7、讓文件名和文件鏈接處理為列表，保存后下載
pdf_names = [pdf_name.strip() for pdf_name in pdf_name]
# print(pdf_names)
if all(pdf_url):
pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]
# print(pdf_url)
pdf_data=dict(zip(pdf_names,pdf_urls)) # pdf地址和名字整合為字典
for pdfName,pdfUrl in pdf_data.items():
pdfName =pdfName.replace('/','.')
res_pdf= requests.get(url =pdfUrl,headers=heade).content
houZui = pdfUrl.split('.')[-1]
pdf_pash = path + '/' + pdfName + '.'+ houZui #
# print(pdf_pash)
with open(pdf_pash,'wb') as f:
f.write(res_pdf)
print(pdfName,'下載成功')
到此這篇關于python爬蟲智能翻頁批量下載文件的實例詳解的文章就介紹到這了,更多相關python爬蟲實戰之智能翻頁批量下載文件內容請搜索腳本之家以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持腳本之家！
您可能感興趣的文章:- Python 批量下載陰陽師網站壁紙
- Python爬蟲之批量下載喜馬拉雅音頻
- 用python批量下載apk
- 用python爬蟲批量下載pdf的實現
- python 批量下載bilibili視頻的gui程序
- Python爬蟲實戰之批量下載快手平臺視頻數據
