1. 復元手順には完全な再インストールが必要になるため、初期インストールで使用されるすべてのファイルを保存します。これには、以下が含まれる場合があります。

   • ~/.config/openshift/installer.cfg.yml (クイックインストール方式を使用する場合)
   • Ansible Playbook およびインベントリーファイル (通常インストール (Advanced installation)方式を使用する場合)
   • /etc/yum.repos.d/ose.repo (非接続インストール方式を使用する場合)
2. インストール後の手順についての手順をバックアップします。一部のインストールには、インストーラーに含まれない手順が含まれる場合があります。これには、OpenShift Container Platform が制御できる範囲を超えているサービスへの変更やモニターエージェントなどの追加サービスのインストールが含まれる場合があります。高度なインストーラーでサポートされていない追加の設定も、複数の認証プロバイダーの使用時などに影響を受ける可能性があります。

3. 各種のユーティリティーコマンドを提供するパッケージをインストールします。

   # yum install etcd

4. コンテナーベースのインストールを使用する場合、代わりに etcd イメージをプルします。

   # docker pull rhel7/etcd

1. OpenShift Container Platform を再インストールします。

   これは、OpenShift Container Platform が以前にインストールされたのと同じ方法で実行される必要があります。

2. 必要なすべてのインストール後の手順を実行します。

3. 各マスターで、証明書およびキーを復元します。

   # cd /etc/origin/master
   # tar xvf /tmp/certs-and-keys-$(hostname).tar

4. etcd バックアップから復元を実行します。

   # mv $ETCD_DATA_DIR $ETCD_DATA_DIR.orig
   # cp -Rp $ETCD_DATA_DIR.bak $ETCD_DATA_DIR
   # chcon -R --reference $ETCD_DATA_DIR.orig $ETCD_DATA_DIR
   # chown -R etcd:etcd $ETCD_DATA_DIR

5. etcd の --force-new-cluster オプションを使用して単一ノードクラスターを新規に作成します。これは、/etc/etcd/etcd.conf の値を使用して実行することも、systemd ユニットファイルを一時的に変更し、サービスを通常の方法で起動することによって実行することもできます。

   これを実行するには、/usr/lib/systemd/system/etcd.service ファイルを編集し、--force-new-cluster を追加します。

   # sed -i '/ExecStart/s/"$/  --force-new-cluster"/' /usr/lib/systemd/system/etcd.service
   # systemctl show etcd.service --property ExecStart --no-pager
   
   ExecStart=/bin/bash -c "GOMAXPROCS=$(nproc) /usr/bin/etcd --force-new-cluster"

   次に、etcd サービスを再起動します。

   # systemctl daemon-reload
   # systemctl start etcd

6. etcd サービスが適切に起動したことを確認してから、/usr/lib/systemd/system/etcd.service ファイルを再編集し、--force-new-cluster オプションを削除します。

   # sed -i '/ExecStart/s/ --force-new-cluster//' /usr/lib/systemd/system/etcd.service
   # systemctl show etcd.service --property ExecStart --no-pager
   
   ExecStart=/bin/bash -c "GOMAXPROCS=$(nproc) /usr/bin/etcd"

7. etcd サービスを再起動してから etcd クラスターが適切に実行されていることを確認し、OpenShift Container Platform の設定を表示します。

   # systemctl daemon-reload
   # systemctl restart etcd

1. etcd ホストで以下を実行します。

   # ETCD_DIR=/var/lib/etcd/
   # mv $ETCD_DIR /var/lib/etcd.orig
   # cp -Rp var/lib/etcd.orig/openshift-backup-pre-upgrade/ $ETCD_DIR
   # chcon -R --reference /var/lib/etcd.orig/ $ETCD_DIR
   # chown -R etcd:etcd $ETCD_DIR

2. バックアップまたは .rpmsave から /etc/etcd/etcd.conf ファイルを復元します。
3. 使用される環境に応じて、コンテナー化された etcd デプロイメントまたはコンテナー化されていない etcd デプロイメントについての説明に従ってください。

1. 新規 etcd メンバーが OpenShift Container Platform ノードでもある場合は、「必要なホスト数のクラスターへの追加」を参照してください。この手順の残りの部分では、1 つのホストのみを追加していることを前提としていますが、複数のホストを追加する場合には、それぞれのホストですべての手順を実行してください。

2. 存続するノードで etcd および iptables をアップグレードします。

   # yum update etcd iptables-services

   バージョン etcd-2.3.7-4.el7.x86_64 以上がインストールされており、同じバージョンが各ホストにインストールされていることを確認します。

3. 新規ホストで etcd および iptables をインストールします。

   # yum install etcd iptables-services

   バージョン etcd-2.3.7-4.el7.x86_64 以上がインストールされており、同じバージョンが新規ホストにインストールされていることを確認します。

4. クラスター設定の変更を行う前に、存続するホストで etcd データストアのバックアップを実行します。

5. 失敗した etcd メンバーを置き換える場合、新規メンバーを追加する 前 に、失敗したメンバーを削除します。

   # etcdctl -C https://<surviving host IP>:2379 \
     --ca-file=/etc/etcd/ca.crt     \
     --cert-file=/etc/etcd/peer.crt     \
     --key-file=/etc/etcd/peer.key cluster-health
   
   # etcdctl -C https://<surviving host IP>:2379 \
     --ca-file=/etc/etcd/ca.crt     \
     --cert-file=/etc/etcd/peer.crt     \
     --key-file=/etc/etcd/peer.key member remove <failed member identifier>

   失敗した etcd メンバーで etcd サービスを停止します。

   # systemctl stop etcd

6. 新規ホストで、適切な iptables ルールを追加します。

   # systemctl enable iptables.service --now
   # iptables -N OS_FIREWALL_ALLOW
   # iptables -t filter -I INPUT -j OS_FIREWALL_ALLOW
   # iptables -A OS_FIREWALL_ALLOW -p tcp -m state \
     --state NEW -m tcp --dport 2379 -j ACCEPT
   # iptables -A OS_FIREWALL_ALLOW -p tcp -m state \
     --state NEW -m tcp --dport 2380 -j ACCEPT
   # iptables-save > /etc/sysconfig/iptables

7. 新規ホストの必要な証明書を生成します。存続する etcd ホストで以下を実行します。

   1. /etc/etcd/ca/ ディレクトリーのバックアップを作成します。

   2. 証明書の変数および作業ディレクトリーを設定し、作成されていない場合には PREFIX ディレクトリーを作成します。

      # cd /etc/etcd
      # export NEW_ETCD="<NEW_HOST_NAME>"
      
      # export CN=$NEW_ETCD
      # export SAN="IP:<NEW_HOST_IP>"
      # export PREFIX="./generated_certs/etcd-$CN/"

   3. $PREFIX ディレクトリーを作成します。

      $ mkdir -p $PREFIX

   4. server.csr および server.crt 証明書を作成します。

      # openssl req -new -keyout ${PREFIX}server.key \
        -config ca/openssl.cnf \
        -out ${PREFIX}server.csr \
        -reqexts etcd_v3_req -batch -nodes \
        -subj /CN=$CN
      
      # openssl ca -name etcd_ca -config ca/openssl.cnf \
        -out ${PREFIX}server.crt \
        -in ${PREFIX}server.csr \
        -extensions etcd_v3_ca_server -batch

   5. peer.csr および peer.crt 証明書を作成します。

      # openssl req -new -keyout ${PREFIX}peer.key \
        -config ca/openssl.cnf \
        -out ${PREFIX}peer.csr \
        -reqexts etcd_v3_req -batch -nodes \
        -subj /CN=$CN
      
      # openssl ca -name etcd_ca -config ca/openssl.cnf \
        -out ${PREFIX}peer.crt \
        -in ${PREFIX}peer.csr \
        -extensions etcd_v3_ca_peer -batch

   6. etcd.conf および ca.crt ファイルをコピーし、ディレクトリーの内容をアーカイブします。

      # cp etcd.conf ${PREFIX}
      # cp ca.crt ${PREFIX}
      # tar -czvf ${PREFIX}${CN}.tgz -C ${PREFIX} .

   7. ファイルを新規の etcd ホストに転送します。

      # scp ${PREFIX}${CN}.tgz  $CN:/etc/etcd/

8. 存続している etcd ホスト上で、新規ホストをクラスターに追加します。

   1. 新規ホストをクラスターに追加します。

      # export ETCD_CA_HOST="<SURVIVING_ETCD_HOSTNAME>"
      # export NEW_ETCD="<NEW_ETCD_HOSTNAME>"
      # export NEW_ETCD_IP="<NEW_HOST_IP>"
      
      # etcdctl -C https://${ETCD_CA_HOST}:2379 \
        --ca-file=/etc/etcd/ca.crt     \
        --cert-file=/etc/etcd/peer.crt     \
        --key-file=/etc/etcd/peer.key member add ${NEW_ETCD} https://${NEW_ETCD_IP}:2380
      
      ETCD_NAME="<NEW_ETCD_HOSTNAME>"
      ETCD_INITIAL_CLUSTER="<NEW_ETCD_HOSTNAME>=https://<NEW_HOST_IP>:2380,<SURVIVING_ETCD_HOST>=https:/<SURVIVING_HOST_IP>:2380
      ETCD_INITIAL_CLUSTER_STATE="existing"

      etcdctl member add 出力の 3 つの環境変数をコピーします。これらは後で使用されます。

   2. 新規ホストで、コピーされた設定データを抽出し、パーミッションを設定します。

      # tar -xf /etc/etcd/<NEW_ETCD_HOSTNAME>.tgz -C /etc/etcd/ --overwrite
      # chown -R etcd:etcd /etc/etcd/*

   3. 新規ホストで、etcd データを削除します。

      # rm -rf /var/lib/etcd/member
      # chown -R etcd:etcd /var/lib/etcd

9. 新規 etcd ホストの etcd.conf ファイルで、以下を実行します。

   1. 以下を直前の手順で生成された値に置き換えます。

      • ETCD_NAME
      • ETCD_INITIAL_CLUSTER

      • ETCD_INITIAL_CLUSTER_STATE

        IP アドレスを以下の「NEW_ETCD」値に置き換えます。

      • ETCD_LISTEN_PEER_URLS
      • ETCD_LISTEN_CLIENT_URLS
      • ETCD_INITIAL_ADVERTISE_PEER_URLS

      • ETCD_ADVERTISE_CLIENT_URLS

        失敗したメンバーを置き換えるには、失敗したホストを etcd 設定から削除する必要があります。

10. 新規ホストで etcd を起動します。

    # systemctl enable etcd --now

11. 新規メンバーが正常に追加されたことを確認するには、以下を実行します。

    etcdctl -C https://${ETCD_CA_HOST}:2379 --ca-file=/etc/etcd/ca.crt \
      --cert-file=/etc/etcd/peer.crt     \
      --key-file=/etc/etcd/peer.key cluster-health

12. すべてのマスターで、新規 etcd ホストを参照するようマスター設定を更新します。

    1. クラスター内のすべてのマスターで、/etc/origin/master/master-config.yaml を編集します。
    2. etcdClientInfo セクションを見つけます。
    3. 新規 etcd ホストを urls 一覧に追加します。
    4. 失敗した etcd ホストが置き換えられている場合、これを一覧から削除します。

    5. マスター API サービスを再起動します。

       各マスターで以下を実行します。

       # systemctl restart atomic-openshift-master-api atomic-openshift-master-controllers

Jenkins デプロイメントのアプリケーションデータのバックアップ例

1. アプリケーションデータ mountPath を deploymentconfig から取得します。

   $ oc get dc/jenkins -o jsonpath='{ .spec.template.spec.containers[?(@.name=="jenkins")].volumeMounts[?(@.name=="jenkins-data")].mountPath }'
   /var/lib/jenkins

2. 現在実行中の Pod の名前を取得します。

   $ oc get pod --selector=deploymentconfig=jenkins -o jsonpath='{ .metadata.name }'
   jenkins-1-37nux

3. oc rsync コマンドを使用してアプリケーションデータをコピーします。

   $ oc rsync jenkins-1-37nux:/var/lib/jenkins /tmp/

Jenkins デプロイメントのアプリケーションデータの復元例

1. バックアップを確認します。

   $ ls -la /tmp/jenkins-backup/
   total 8
   drwxrwxr-x.  3 user     user   20 Sep  6 11:14 .
   drwxrwxrwt. 17 root     root 4096 Sep  6 11:16 ..
   drwxrwsrwx. 12 user     user 4096 Sep  6 11:14 jenkins

2. oc rsync ツールを使用してデータを実行中の Pod にコピーします。

   $ oc rsync /tmp/jenkins-backup/jenkins jenkins-1-37nux:/var/lib

   注記

   アプリケーションによっては、アプリケーションを再起動する必要があります。

3. 新規データでアプリケーションを再起動します (オプション)。

   $ oc delete pod jenkins-1-37nux

   または、デプロイメントを 0 にスケールダウンしてから再びスケールアップします。

   $ oc scale --replicas=0 dc/jenkins
   $ oc scale --replicas=1 dc/jenkins