目錄
- 一、實(shí)現(xiàn)數(shù)據(jù)解析
- 二、安裝庫
- 三、bs4 的用法
- 四、爬取圖片
- 五、爬取三國演義
一、實(shí)現(xiàn)數(shù)據(jù)解析
因?yàn)檎齽t表達(dá)式本身有難度，所以在這里為大家介紹一下 bs4 實(shí)現(xiàn)數(shù)據(jù)解析。除此之外還有 xpath 解析。因?yàn)?xpath 不僅可以在 python 中使用，所以 bs4 和 正則解析一樣，僅僅是簡(jiǎn)單地寫兩個(gè)案例（爬取可翻頁的圖片，以及爬取三國演義）。以后的重點(diǎn)會(huì)在 xpath 上。
二、安裝庫
閑話少說，我們先來安裝 bs4 相關(guān)的外來庫。比較簡(jiǎn)單。
1.首先打開 cmd 命令面板，依次安裝bs4 和 lxml。
2. 命令分別是 pip install bs4 和 pip install lxml 。
3. 安裝完成后我們可以試著調(diào)用他們，看看會(huì)不會(huì)報(bào)錯(cuò)。
因?yàn)楸救怂接邢?，所以如果出現(xiàn)報(bào)錯(cuò)，兄弟們還是百度一下好啦。（總不至于 cmd 命令打錯(cuò)了吧 ~~）
三、bs4 的用法
閑話少說，先簡(jiǎn)單介紹一下 bs4 的用法。
四、爬取圖片
import requests
from bs4 import BeautifulSoup
import os
if __name__ == "__main__":
# 創(chuàng)建文件夾
if not os.path.exists("./糗圖（bs4）"):
os.mkdir("./糗圖（bs4）")
# UA偽裝
header = {
"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/90.0.4430.72 Safari/537.36"
}
# 指定 url
for i in range(1, 3): # 翻兩頁
url = "https://www.qiushibaike.com/imgrank/page/%s/" % str(i)
# 獲取源碼數(shù)據(jù)
page = requests.get(url = url, headers = header).text
# 數(shù)據(jù)解析
soup = BeautifulSoup(page, "lxml")
data_list = soup.select(".thumb > a")
for data in data_list:
url = data.img["src"]
title = url.split("/")[-1]
new_url = "https:" + url
photo = requests.get(url = new_url, headers = header).content
# 存儲(chǔ)
with open("./糗圖（bs4）/" + title, "wb") as fp:
fp.write(photo)
print(title, "下載完成?。。?)
print("over!!!")
五、爬取三國演義
import requests
from bs4 import BeautifulSoup
if __name__ == "__main__":
# UA 偽裝
header = {
"user-agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.90 Safari/537.36"
}
# URL
url = "http://sanguo.5000yan.com/"
# 請(qǐng)求命令
page_text = requests.get(url = url, headers = header)
page_text.encoding = "utf-8"
page_text = page_text.text
soup = BeautifulSoup(page_text, "lxml")
# bs4 解析
li_list = soup.select(".sidamingzhu-list-mulu > ul > li")
for li in li_list:
print(li)
new_url = li.a["href"]
title = li.a.text
# 新的請(qǐng)求命令
response = requests.get(url = new_url, headers = header)
response.encoding = "utf-8"
new_page_text = response.text
new_soup = BeautifulSoup(new_page_text, "lxml")
page = new_soup.find("div", class_ = "grap").text
with open("./三國演義.txt", "a", encoding = "utf-8") as fp:
fp.write("\n" + title + ":" + "\n" + "\n" + page)
print(title + "下載完成！??！")
到此這篇關(guān)于python爬蟲之bs4數(shù)據(jù)解析的文章就介紹到這了,更多相關(guān)python bs4數(shù)據(jù)解析內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
您可能感興趣的文章:- python爬蟲請(qǐng)求庫httpx和parsel解析庫的使用測(cè)評(píng)
- Python爬蟲之爬取最新更新的小說網(wǎng)站
- 用Python爬蟲破解滑動(dòng)驗(yàn)證碼的案例解析
- Python爬蟲爬取愛奇藝電影片庫首頁的實(shí)例代碼
- Python爬蟲之爬取嗶哩嗶哩熱門視頻排行榜
- 上手簡(jiǎn)單,功能強(qiáng)大的Python爬蟲框架——feapder
- python爬蟲之爬取百度翻譯
- python爬蟲基礎(chǔ)之簡(jiǎn)易網(wǎng)頁搜集器
- python爬蟲之利用selenium模塊自動(dòng)登錄CSDN
- python爬蟲之爬取筆趣閣小說
- python爬蟲之利用Selenium+Requests爬取拉勾網(wǎng)
- python基礎(chǔ)之爬蟲入門
