- 印刷する
- PDF
Cluster の作成と管理
- 印刷する
- PDF
VPC環境で利用できます。
Cluster画面
Clusterメニューの基本的な説明は、次の通りです。
領域 | 説明 |
---|---|
① 基本機能 | [Cluster作成]: 新しいクラスタを作成 [サービスの詳細を見る]: Cloud Data Streaming Serviceの紹介ページに移動 [更新]: 画面を更新する |
② 機能のボタン | [削除]: クラスタを削除 [クラスタの再起動]: Kafka、Zookeeper、CMAKを再起動 [クラスタ管理]: Brokerノード設定と CMAKアクセスの設定 |
③ クラスタ情報 | クラスタの詳細情報を確認 |
クラスタ作成
- NAVERクラウドプラットフォームコンソールにアクセスします。
- Platform メニューの VPC をクリックして VPC環境に変更します。
- Services > Big Data & Analytics > Cloud Data Streaming Service メニューを順にクリックします。
- Cloud Data Streaming Service メニューで [Cluster作成] ボタンをクリックします。
- クラスタの設定情報を入力し、 [次へ] ボタンをクリックします。
- クラスタ名: クラスタの名前を入力
- Applicationバージョン: Kafkaバージョン、CMAKバージョンを選択
- ACG設定: 「cdss-クラスタコード」で ACGを自動作成
- Config Group設定: Clusterに適用する Config Groupを選択。Config Groupの作成方法は、Config Groupの作成と管理を参照
- Kafkaログの収集: Kafkaログの収集案内文。Kafkaログは Cloud Log Analyticsで確認可能
- Kafka Broker Port: Brokerと通信するためのポート。
9092
で自動設定され、変更不可 - Kafka Broker TLS Port: Brokerとの通信を暗号化できるポート。
9093
で自動設定され、変更不可 - Zookeeper Port: Zookeeper Clientと通信するためのポート。
2181
で自動設定され、変更不可 - CMAK Port:
9000
で自動設定され、変更不可 - CMAKアクセス権限: CMAKにアクセスするための IDとパスワードを入力。IDは変更不可
- ノード設定ステップでノード情報を入力し、 [次へ] ボタンをクリックします
- OSタイプ: 使用する OSタイプを選択
- VPC: 使用する VPCを選択
- マネージャノード Subnet: マネージャノードサーバの Subnetを選択。Public/Private Subnetの中から選択可能
- マネージャノード数: マネージャノードサーバ数。デフォルト値1が自動設定され、変更不可
- マネージャノードサーバタイプ: 選択できるサーバタイプ
- Brokerノード Subnet: Brokerノードの Subnetを選択。Private Subnetの中から選択可能
- Brokerノード数: Brokerノードサーバ数。デフォルト値は3台、最小3台から最大10台まで作成可能
- Brokerノードサーバタイプ: 選択できるサーバタイプ
- Brokerノードストレージ容量: Brokerノードストレージ容量を設定。OSストレージではない別途 Block Storageを使用し、Block Storageは Brokerノードごとに最大2000GBまで使用可能
- 入力した情報が正しいか確認し、 [Cluster作成] ボタンをクリックします。
- Cluster作成が完了するまで数分から数十分がかかることがあります。
2021年11月25日以前に作成されたクラスタは Kafkaログを収集しません。2021年11月25日以前に作成されたクラスタのログ収集が必要な場合は、カスタマーサポートまでお問い合わせください。
クラスタ管理
クラスタに Brokerノードを追加する方法と、ノードスペックを変更する方法、また CMAKにアクセスするために Brokerノードの Public Endpointを変更する方法、CMAKパスワードを変更する方法を説明します。
Brokerノード追加
Cluster運用中に Brokerノードが追加で必要な場合、Brokerノードを追加できます。追加された Brokerノードの数を減らすことはできず、新規 Brokerノードの追加のみ可能です。
Brokerノードを追加する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service メニューを順にクリックします。
- Brokerノードを追加する Clusterのチェックボックスをクリックし、 クラスタ管理 > Brokerノード追加 をクリックします。
- Brokerノード追加画面が表示されたら、追加するノード数を入力します。
- 追加するノード数を1に選択する場合、既存の3台に1台の Brokerノードが追加されます。
- 一度に最大10台まで追加できます。
- [確認] ボタンをクリックします。
- Brokerノードの増設が始まり、Clusterのサーバ状態が 変更中 と表示されます。
- Clusterのサーバ状態が 運用中 に変更されているか確認します。
ノードスペック変更
Cluster運用中に Managerまたは Brokerノードのスペック変更が必要な場合、ノードスペックを変更できます。現在使用中の CPUと Memoryスペックより低スペックに変更することは不可能で、高スペックに変更することのみ可能です。
ノードのスペックを変更する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service メニューを順にクリックします。
- ノードスペックを変更する Clusterのチェックボックスをクリックして、 クラスタ管理 > ノードスペック変更 をクリックします。
- ノードスペックの変更画面が表示されたら、変更するノードスペックを選択します。
- Manager、Brokerノードのスペックをそれぞれ選択します。
- 現在使用中のスペックより低スペックは選択できません。
- [確認] ボタンをクリックします。
- Clusterのサーバ状態が 変更中 に表示されます。
- ノードスペックの変更が完了すると Clusterのサーバ状態が 運用中 に表示されます。
Brokerノードの Public Endpoint設定変更
Brokerノードの設定ファイルに Public Endpoint専用の listener、advertised listenerを追加できます。Brokerノードの Public Endpoint設定を変更する前に、Load Balancer設定を参照して Load Balancer設定を完了する必要があります。
Brokerノードの Public Endpoint設定を変更する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- Brokerノードの Public Endpoint設定を変更する Clusterのチェックボックスをクリックし、 クラスタ管理 > Brokerノードの Public Endpoint設定変更 をクリックします。
- Brokerノードの Public Endpointで設定できる Load Balancerリストが表示されます。
- Load Balancerを選択します。
- Networkタイプ、Public IPを使用中の Load Balanceのみ選択できます。
- 他のクラスタで使用中の Load Balancerは選択できません。
- [確認] ボタンをクリックします。
- Sub Accountアカウントでアクセスした場合、当該アカウントに View/getLoadBalancerInstanceDetail権限がない場合は Load Balancerを選択できません。
- Public Endpoint設定ファイルに listener、advertised listenerを追加した状態で クラスタ管理 > Brokerノードの Public Endpoint設定変更 メニューをクリックすると、Brokerノードの Public Endpoint設定を初期化できます。
CMAKアクセス
CMAKにアクセスする方法は、CMAKアクセスをご参照ください。
CMAKアクセスパスワード初期化
CMAKアクセスのパスワードを忘れた場合、パスワードを変更できます。
CMAKアクセスパスワードを変更する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- クラスタ管理 > CMAKアクセスパスワード初期化 をクリックします。
- 変更するパスワードを入力し、 [確認] ボタンをクリックします。
- 変更したパスワードが適用されるまで数分かかります。
CMAKアクセスドメイン設定変更
CMAKにアクセスする前に CMAKサーバにアクセスできる Publicドメインを有効化状態に変更する必要があります。
CMAKアクセスドメイン設定を変更する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- クラスタ管理 > CMAKアクセスドメイン設定変更 をクリックします。
- ポップアップが表示されたら有効化、無効化メッセージを確認し、 [確認] ボタンをクリックします。
- Publicドメインが無効状態の場合、Publicドメインを有効化できます。
- Publicドメインが有効状態の場合、Publicドメインを無効化できます。外部からの CMAKアクセスが遮断されます。
クラスタ再起動
クラスタの状態に問題が発生した場合 CMAK、Kafka、Zookeeperを再起動します。
サービスを再起動する場合、データが消失するか、サービス遅延が発生する可能性があるためご注意ください。
すべてのサービス再起動
Kafka、Zookeeper、CMAKを一度に再起動する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- クラスタ再起動 > すべてのサービス再起動 をクリックします。
Kafka/Zookeeper再起動
Kafkaと Zookeeperを再起動する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- クラスタの再起動 > Kafka & Zookeeper再起動 をクリックします。
ノード別 Kafka再起動
ノード別に Kafkaを再起動する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- クラスタ再起動 > ノード別 Kafka再起動 をクリックします
- Kafkaを再起動するノードのチェックボックスをクリックし、 [確認] ボタンをクリックします。
- 選択したノードの Kafkaを再起動します。
CMAK再起動
CMAKを再起動する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- クラスタ再起動 > CMAK再起動 をクリックします
Load Balancer設定と ACG設定
Brokerノードの Public Endpointで設定できる Load Balancerを作成して設定する方法を説明します。
Target Group作成
Target Groupを作成する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service メニューを順にクリックします。
- クラスタの詳細情報で Brokerノード情報 の [詳細を見る] ボタンをクリックします。
- Brokerノードの情報画面が表示されたら、Public Endpoint PlainText Listener Portの情報を確認します。
- 各 Brokerノードに対応する Portを確認します。
- 暗号化通信を利用する場合、Public Endpoint TLS Listener Portの情報を確認します。
- NAVERクラウドプラットフォームコンソールで Services > Networking > Load Balancer > Target Group メニューを順にクリックします。
- Target Group作成 ボタンをクリックします。
- Target Group情報を入力し、 [次へ] ボタンをクリックします。
- Target Group名: Target Groupの名前を入力
- Target Groupタイプ: Target Groupのタイプを選択して、 VPC Server を選択
- VPC: Clusterを作成した VPCと同じ VPCを選択
- プロトコル: TCP プロトコルを選択
- ポート: 3番で確認した Brokerノードに対応する Portのうち一つを入力
- 各 Brokerノードに対応する Portに作成した Target Groupが必要です。
- Brokerノードが3つの場合、合計3つの Target Groupが必要です。
- Health Checkの設定情報を入力し、 [次へ] ボタンをクリックします。
- プロトコル: TCP プロトコルを選択
- ポート: 前のステップで入力した Portを入力
- Tager Groupに適用する Targetを選択し、 > ボタンをクリックします。
- 前のステップで入力した Portに対応する Brokerノードを選択します。
- Brokerノードに対応する Portは、Brokerノード情報の [詳細を見る] ボタンをクリックして確認できます。
- [次へ] ボタンをクリックします。
- 設定した情報を確認し、 [Target Group作成] ボタンをクリックします。
- ここまでの過程を繰り返して、Brokerノードの数だけ Target Groupを作成します。
Load Balancer作成
Load Balancerを作成する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Networking > Load Balancer > Load Balancer メニューを順にクリックします。
- [ロードバランサ作成] > [ネットワークロードバランサ作成] ボタンをクリックします。
- 他のタイプのロードバランサを作成する場合に、Cloud Data Streaming Serviceに表示されません。
- ロードバランサの作成情報を入力し、 [次へ] ボタンをクリックします。
- ロードバランサ名: ロードバランサの名前を入力
- Network: Public IPを選択
- 負荷処理性能: 負荷処理性能による Load Balancerサイズを選択
- 対象 VPC: Cloud Data Streaming Service Clusterの作成時に選択した VPCと同様な VPCを選択
- サブネット選択: Load Balancer専用の Subnetを選択
- リスナ設定項目で Brokerノードに対応する Portのうち一つを入力し、 [追加] ボタンをクリックします。
- 残りの Portは Load Balancer作成を完了した後、リスナの追加機能を利用して追加します。
- 残りの Portは Load Balancer作成を完了した後、リスナの追加機能を利用して追加します。
- [次へ] ボタンをクリックします。
- リスナの設定ステップで登録した Load Balancerポートに対応する Target Groupを選択し、 [次へ] ボタンをクリックします。
- 作成された情報が正しいか確認し、 [ロードバランサ作成] ボタンをクリックします。
Target Groupリスナ設定
残りの Target Groupに対してリスナの設定を完了する必要があります。
- NAVERクラウドプラットフォームコンソールで Services > Networking > Load Balancer > Load Balancer メニューを順にクリックします。
- リスナの設定を変更する Load Balancerのチェックボックスをクリックし、 [リスナ設定変更] ボタンをクリックします。
- [リスナ追加] ボタンをクリックします
- リスナ追加画面が表示されたら、情報を入力します。
- プロトコル: TCPを選択
- ポート: Brokerノードに対応する Portを入力
- Target Group: Portに対応する Target Groupを選択
- [確認] ボタンをクリックします。リスナが追加されます。
- Target Group作成ステップで作成したすべての Target Groupに対してリスナを登録します。
ACG設定
Load Balancerと外部から Brokerノードにアクセスできるように IPに対する ACGルールを設定する必要があります。
ACGルールを設定する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service > Cluster メニューを順にクリックします。
- ACG設定を変更するクラスタの詳細情報領域で Brokerノード ACGのイメージをクリックします。
- ACG設定画面に移動します。
- ACG設定画面に移動します。
- ACGリストで Brokerノード ACGを選択して [ACG設定] ボタンをクリックします。
- ACGルールの設定画面が表示されます。
- ACGルールの設定画面が表示されます。
- Load Balancerと外部から Brokerノードにアクセスするための IPに対する ACG Ruleをそれぞれ作成します。
- プロトコル: TCPを選択
- アクセスソース: Brokerノードにアクセスが必要な帯域の IPを入力
- Load Balancerアクセスすることを許可するために、Load Balancer専用 Subnetの IPアドレス範囲を入力
- [myip] : 自分のパブリック IPアドレスを確認し、当該 IPアドレスをアクセスソースに登録可能
- 許可ポート: 許可するポートを入力。特定ポートまたは範囲入力可能
- 追加したルールを確認し、 [適用] ボタンをクリックします。
- 当該ルールが ACGに適用されます。
- すべての IPアドレス帯域を含む全インターネットを対象として(IPアドレス: 0.0.0.0/0)のアクセスソースを許可する場合、セキュリティが甘くなる可能性があり、外部からの攻撃によりクラスタで実行している作業に影響を及ぼす可能性があるため、ご注意ください。
- ACGルールリストに基本的に登録された ACGルールは Cloud Data Streaming Serviceを管理するために必要な基本ルールです。ユーザーが任意で削除したり修正すると、クラスタの動作に影響を及ぼすことがありますのでご注意ください。
クラスタ削除
クラスタを削除する方法は、次の通りです。
- NAVERクラウドプラットフォームコンソールで Services > Big Data & Analytics > Cloud Data Streaming Service メニューを順にクリックします。
- Clusterメニューで削除するクラスタのチェックボックスをクリックし、 [削除] ボタンをクリックします。
- クラスタの削除画面が表示されたら、 [確認] ボタンをクリックします。