どのようにドッカーでHadoopクラスターをインストールすればよいか

2年 ago
桜, 春樹
1 minute

DockerでHadoopクラスタを構築するには、以下の手順を実行します。

  1. Dockerがマシンにインストールされていることを最初にご確認ください。’docker –version’ を実行すると Docker がインストールされているかどうかを確認できます。
  2. hadoopクラスターの各ノードを接続するDockerネットワークを作成します。hadoop-netというネットワークを作成するには以下を実行します。
docker network create hadoop-net
  1. 下载Hadoop镜像。你可以从Docker Hub上找到现成的Hadoop镜像。运行以下命令下载Hadoop镜像：
docker pull sequenceiq/hadoop-docker:2.7.1
  1. Hadoopクラスターの各ノードのDockerコンテナを作成するには、次のコマンドを実行します。
# 创建一个名为`namenode`的容器作为NameNode
docker run -itd --name namenode --hostname namenode --net hadoop-net -p 50070:50070 -p 8088:8088 sequenceiq/hadoop-docker:2.7.1 /etc/bootstrap.sh -bash
# 创建3个名为`datanodeX`的容器作为DataNode，其中X是1到3的数字
docker run -itd --name datanode1 --hostname datanode1 --net hadoop-net sequenceiq/hadoop-docker:2.7.1 /etc/bootstrap.sh -d
docker run -itd --name datanode2 --hostname datanode2 --net hadoop-net sequenceiq/hadoop-docker:2.7.1 /etc/bootstrap.sh -d
docker run -itd --name datanode3 --hostname datanode3 --net hadoop-net sequenceiq/hadoop-docker:2.7.1 /etc/bootstrap.sh -d

namenodeという名前のコンテナをNameNodeとして作成し、datanodeXという名前の3つのコンテナをDataNodeとして作成します。

  1. ネイムノード
docker exec -it namenode bash
hdfs namenode -format
start-all.sh
  1. http://localhost:50070 のみネイティブな日本語で言い換えます。

なお、上記の手順は既製の Hadoop イメージを使用してシンプルな Hadoop クラスタを作る場合を想定しています。実際、要件に応じてその他の設定や調整が必要になる場合があります。

bannerAds