shellでhadoopへアップロードする方法
Hadoopファイルのシェル上でのアップロード方法が複数あるが、その一例を以下に示す。
- scpコマンドを使用します。scpはセキュアコピーの略で、ローカルコンピューターとリモートサーバー間でファイルを転送します。シェルでscpコマンドを使用すると、ローカルファイルをリモートサーバーにアップロードできます。Hadoopファイルをアップロードするためのscpコマンドの例を以下に示します。
scp <本地文件路径> <远程服务器用户名>@<远程服务器IP地址>:<目标路径>
これは日本語ネイティブによるパラフレーズです。
scp /path/to/local/file.tar.gz user@remote-server:/path/to/destination/
これにより、ローカル内のfile.tar.gzファイルを、リモートサーバーの指定されたパスにアップロードされます。
- rsyncコマンドを用いる: rsyncはローカルのコンピュータとリモートサーバの間でファイルを転送できる高機能なファイル同期ツールであり、増分バックアップの機能を持つ。以下にHadoopのファイルをアップロードするためのrsyncコマンドの例を示す。
rsync -avzh <本地文件路径> <远程服务器用户名>@<远程服务器IP地址>:<目标路径>
例えば:
rsync -avzh /path/to/local/file.tar.gz user@remote-server:/path/to/destination/
ローカルにあるfile.tar.gzファイルをリモートサーバー上の指定パスにアップロードします。
シェルでHadoopファイルのアップロードを行うには、主に上記の2つの方法がありますので、各自のニーズに合わせて使い分けてください。