CData Syncを使ってJira内のオブジェクトをOracle Cloud Infrastracture(OCI)に構築済みのMySQL HeatWaveDatabase Serviceに連携する
はじめに
CData Syncは様々なSaaS/DBにあるデータを抽出して、データ分析基盤への同期に特化したデータパイプラインツールです。
詳しくはこちらをご覧ください。
CData Syncの現在のバージョンは「v23」となります。
以前のバージョンから UIのモダナイズ、dbt Cloud 対応、CDC 強化、新コネクタなどユーザビリティと機能面が強化されています。
今回は、CData Syncを使ってJiraのオブジェクトをOracle Cloud Infrastracture(OCI)に構築済みのMySQL HeatWaveDatabase Serviceに連携します。
OCIドキュメントでは、MySQL HeatWaveDatabase Serviceが正式名称ですが、今回は、このうちのOLTPエンジン部分にあたる旧来MySQL Database Service(以下「MDS」と表記)に対する連携となるため、本Blogでは、こちらの表現を利用します。
実現したい構成
OCI環境のパブリックサブネット内に配置されたComputeインスタンスにインストールされたCData SyncでJiraのデータをMDSへ連携する
前提条件
-
サーバにCData Syncがインストール済みであること
詳しくはこちらをご覧ください。
LinuxOS:CData Sync v23をインストールしてみる
WindowsServer:CData Sync v23をWindows Serverにインストールしてみる -
OCI上にMDSが構築済みであること
詳しくはこちらをご覧ください。
クラウドでMySQL Databaseを使う -
Jiraが利用可能であること
Jira Freeプラン
手順
1.MDSコネクション設定
まずは同期先となるMDSのコネクション設定を行います。
1.1.MDSに格納用のDBを作成する
同期したJiraのデータを格納するデータベースを事前にMDSに作成しておきます。
既存のデータベースにデータを格納することも可能です。
今回の場合は「jiraDB」という名前のデータベースを作成します。
コマンド例
mysql> CREATE DATABASE jiraDB;
1.2.CDataSyncのコネクタの設定
CDataSync管理コンソールにログイン後、左メニューの「接続」をクリックします。
「Connections」画面で「接続を追加」をクリックします。
「コネクタを選択」画面で「同期先」タブに切り替え、コネクタの一覧から「MySQL」を選択します。(今回は検索ワードでコネクタを検出しています)
設定画面で以下の各項目を設定します。
・接続名:任意の接続名を入力
・Server:MDSのIPアドレス
・Port:MDSのPort(デフォルトでは3306)
・Auth Scheme:「Password」を選択
・User:MDSの管理者ユーザ
・Password:MDSのPassword
・Database:同期データを格納するDBを指定
設定画面の右上にある「保存およびテスト」をクリックします。
「接続は正常に作成されました」と表示されれば設定が完了となります。
「Connections」画面を開き、MDSの接続が作成されていることを確認します。
2.Jiraコネクション設定
つぎにデータソースとなるJiraのコネクション設定を行います。
2.1.JiraのAPIトークンの取得
今回はAPIトークンを使って接続をするため、事前にAPIトークンを取得しておく必要があります。
取得方法については下記のリンクをご覧ください。
またAPIを作成したJiraアカウントと同じアクセス権が付与されるため、管理者ユーザでログインしてAPIを取得してください。
Atlassianアカウントの API トークン取得方法
2.2.CData Syncのコネクタの設定
CDataSync管理コンソールにログイン後、左メニューの「接続」をクリックします。
「Connections」画面で「接続を追加」をクリックします。
「コネクタを選択」画面で「データソース」タブになっていることを確認し、コネクタの一覧から「Jira」を選択します。(今回は検索ワードでコネクタを検出しています)
設定画面で以下の各項目を設定します。
・接続名:任意の接続名
・URL:Basic
・Auth Scheme:API Tokenを選択
・User:API Tokenを作成したユーザ名
・API Token:作成済みのAPI Token
設定画面の右上にある「保存およびテスト」をクリックします。
「接続は正常に作成されました」と表示されれば設定が完了となります。
「Connections」画面を開き、Jiraの接続が作成されていることを確認します。
3.ジョブ設定
データソースと同期先のコネクション設定が完了したら、JiraからMDSへのデータ連携ジョブを作成します。
3.1.CData Syncのジョブの設定
管理コンソールの左メニューの「ジョブ」をクリックします。
「ジョブ」画面で「ジョブを追加」をクリックします。
「ジョブを追加」ダイアログ画面で以下の項目を設定します。
・名前:任意のジョブ名
・データソース:Jiraのコネクション名
・同期先:MDSのコネクション名
項目を設定後、「ジョブを追加」をクリックします。
「ジョブ」画面でジョブが作成されていることを確認します。
作成したジョブをクリックし、ジョブの詳細画面で「タスク」タブに切り替えます。
「タスクを追加」をクリックします。
「タスクを追加」ダイアログが表示されます
データソースとなるJiraのオブジェクトが表示され、ここで選択したオブジェクトがテーブルとして連携されます。
任意のオブジェクトにチェックを入れ「タスクを追加」をクリックします。
ジョブの詳細画面で「タスク」タブに切り替え、追加したオブジェクトが設定されていることを確認します。
今回はわかりやすいように、同期先でのテーブル名を意図的に変更します。
追加したタスクをクリックし「タスクの詳細画面」で右側の「同期先情報」右上の「Edit Setting」アイコンをクリックします。
「同期先情報」ダイアログが表示され「テーブル名」を変更することができます。
デフォルトではオブジェクト名がそのままテーブル名として同期されます。
今回は、Jiraからのデータであることを明記するため「JIRA_ISSUES(オブジェクト名)」というテーブル名に変更します。
変更後、「保存」をクリックします。
同期先のテーブル名、カラム名を大文字に統一します。
同期先のDBによっては、テーブル名、カラム名に大文字、小文字が混在することでSQL文で名前を指定する際、ダブルクォーテーション(“”)で囲う必要があるため事前に統一しておきます。
「ジョブの詳細」画面の「高度な設定」タブでレプリケーションオプションの右上の「Edit Setting」アイコンをクリックします。
「追加オプション」に「StoresUppercaseIdentifiers = True」と入力して「保存」をクリックします。
「ジョブの詳細」画面で右上の「実行」をクリックします。
「ジョブ名(今回は[JIRA_MDS])が完了しました」と表示されればデータ連携が成功です。
同期先のMDSにデータが同期されていることを確認します。
以上がCData Syncを使用してJiraからMDSへデータ連携する流れとなります。
まとめ
今回、CData Syncでデータ連携を検証してみてみました。
今回は一部の機能のみを使用してデータ連携の検証を行いましたが、CData Syncには他にも多くの機能が備わっており既存の環境に合わせた柔軟なデータ連携が可能です。
CData Syncは400種類以上のデータソースと20種類以上のデータベースを同期先としてサポートしています。
複数のSaaS/DBを使用している環境において、データの集約と分析のための可視化を課題と感じられているお客様も多く、CData Syncであればシンプルな構成および手順(3ステップ)でデータ連携が実現できます。
また複数のデータソースから同一のデータベース同期先へ、複数連携の実現も容易です。