Pythonのバッチ画像クロールはどのように実現されていますか?
PythonのrequestsライブラリとBeautifulSoupライブラリを使用してWebページからコンテンツを取得し、正規表現または他の方法で画像URLを抽出し、requestsライブラリを使用して画像をダウンロードすることで、画像を大量にクロールできます。
下面是一个基本的示例代码:
import requests
from bs4 import BeautifulSoup
import os
# 定义要爬取的网页URL
url = 'http://example.com'
# 发送GET请求获取网页内容
response = requests.get(url)
html = response.text
# 创建保存图片的目录
os.makedirs('images', exist_ok=True)
# 使用BeautifulSoup解析网页内容
soup = BeautifulSoup(html, 'html.parser')
# 查找所有的图片标签
img_tags = soup.find_all('img')
# 遍历图片标签,获取图片的URL并下载
for img_tag in img_tags:
img_url = img_tag['src']
img_name = img_url.split('/')[-1] # 获取图片文件名
img_path = os.path.join('images', img_name) # 拼接图片保存路径
# 发送GET请求下载图片
img_response = requests.get(img_url)
with open(img_path, 'wb') as f:
f.write(img_response.content)
print(f'Downloaded {img_path}')
指定したWebページのURLからすべての画像をスクレイピングして、現在のディレクトリの「images」フォルダに保存します。必要に応じてコードを適切に変更してください。