Go言語で並行ファイルダウンロードの問題を解決する方法

2年 ago
海斗, 葵
1 minute

Go言語では、非同期のファイルダウンロード問題を goroutine と channel で解決できます。簡単な実装手順を次に示します。

  1. ダウンロードファイル情報を格納する構造体を作成する（ファイルURL、ファイル名など）。
type File struct {
URL      string
FileName string
}
  1. HTTPパッケージのGet関数でファイルを取得するために、ファイル情報を引数として受け取ってファイルを取得するための関数を生成する。
func DownloadFile(file File) {
response, err := http.Get(file.URL)
if err != nil {
fmt.Println("下载文件失败:", file.URL)
return
}
defer response.Body.Close()
out, err := os.Create(file.FileName)
if err != nil {
fmt.Println("创建文件失败:", file.FileName)
return
}
defer out.Close()
_, err = io.Copy(out, response.Body)
if err != nil {
fmt.Println("保存文件失败:", file.FileName)
return
}
fmt.Println("下载文件成功:", file.FileName)
}
  1. ファイル情報のスライスを受け取り、goroutineを使用してファイルを並列ダウンロードする関数を作成する。
func ConcurrentDownload(files []File) {
// 创建一个无缓冲的channel，用于控制并发数
semaphore := make(chan struct{}, 5)
defer close(semaphore)
// 创建一个等待组，用于等待所有文件下载完成
var wg sync.WaitGroup
for _, file := range files {
// 向等待组添加一个任务
wg.Add(1)
// 启动一个goroutine来下载文件
go func(file File) {
// 从channel中获取一个信号量
semaphore <- struct{}{}
// 执行下载文件操作
DownloadFile(file)
// 释放一个信号量到channel
<-semaphore
// 任务完成，从等待组中删除一个任务
wg.Done()
}(file)
}
// 等待所有任务完成
wg.Wait()
}
  1. メイン関数から並列ダウンロード関数を呼び出し、ダウンロードが必要なファイル情報の配列を渡します。
func main() {
files := []File{
{URL: "http://example.com/file1.txt", FileName: "file1.txt"},
{URL: "http://example.com/file2.txt", FileName: "file2.txt"},
{URL: "http://example.com/file3.txt", FileName: "file3.txt"},
}
ConcurrentDownload(files)
}

以上はgoroutineとchannelを使用してゴルーチン内で同時ダウンロード問題を解決する基本手順です。goroutineの並列処理番号を制御することで、並列ダウンロード数を効果的に制御し、サーバーに大きな負荷圧力がかかりすぎないようにすることができます。

bannerAds