Amazon Redshiftで構築するビッグデータ分析環境の構成要素と全体像

Amazon Redshiftによるビッグデータ分析環境の構築（1）

　数多くのAWS（Amazon Web Sevices）サービスのうち、“ビッグデータ”を扱う環境として注目を浴びているのが、データウェアハウス（以下、DWH）サービスの「Amazon Redshift」です。機能追加や改善リリースも頻繁に行われています。しかし、興味や関心はあるものの、使い方や環境構築に不安、疑問をお持ちの方も多いのではないでしょうか。この連載では、Amazon Redshiftとその他のAWSサービスにより、BIクラスタ分析環境を構築する手順について解説します。

　本連載では、次のアーキテクチャ構成図にある環境を構築します。今回は、その環境に含まれる要素について説明します。

オンプレミス環境

　上記の構成図には「オンプレミス環境」と記載しましたが、オンプレミス／クラウドにかかわらず、「投入する対象のデータが生成・出力されている場所」と考えてください。環境を構築する際の「分析作業サイクル」の起点となる場所です。既存のデータベース環境からエクスポートされるファイルを利用する場合もあるでしょうし、新規に作成する場合もあるでしょう。また、外部からデータを入手し、分析に合わせて用いるということもあるかもしれません。

　いずれにしても、これらの「分析」の元になるデータを準備しておくことが、データ分析環境を構築する上での第一歩となります。

AWS環境

　今回構築する分析環境では、Amazon Redshift（以下、Redshift）のほか、以下のようなAWSサービスを使用します。

Amazon S3

　AWSが提供するインターネット用ストレージサービスです。AWSのあらゆるサービスで利用されています。今回構築する分析環境では、Redshiftにデータを取り込むための「データ置き場」として利用します。

• Amazon S3 (クラウドストレージサービス Amazon Simple Storage Service) | アマゾン ウェブ サービス（AWS 日本語）

Amazon VPCおよびネットワーク、サブネット情報

　今回のAWS環境下では、RedshiftとEC2（仮想サーバ）を立ち上げますが、そのために、まず土台となる仮想プライベートクラウド（VPC）や各種ネットワーク情報を用意しておく必要があります。具体的には、独自のIPアドレスレンジの選択、サブネットの作成、ルートテーブル、ネットワークゲートウェイの設定などが該当します。

• Amazon VPC （仮想プライベートクラウド Amazon Virtual Private Cloud ）| アマゾン ウェブ サービス（AWS 日本語）

Amazon Redshift

　AWSが提供する高速かつフルマネージドな、ペタバイト規模のDWHサービスです。PostgreSQLのJDBCおよびODBCに対応しており、各種ツールからアクセスする際も、PostgreSQLに対応したものを用います。

　DWHと聞いて「どうやって扱うんだろう？」と戸惑う方がいるかもしれませんが、難しく考える必要はありません。「データの入れ物」で、「セキュリティ設定やバックアップなどは管理コンソール上で行えて、かつ適宜対応してくれるもの」という程度に思ってください。

• Amazon Redshift （ペタバイト級の データウェアハウス サービス） | アマゾン ウェブ サービス（AWS 日本語）

Amazon EC2

　Amazon S3からRedshiftへのデータ投入や、Redshiftへのデータベース接続、データ操作などを行う際に利用します。また、データの投入時や投入後に、データの編集・加工が一定のタイミングで必要になった場合、それらのバッチ処理の実行や自動化組み込みの拠点としてのバッチサーバの役割を担うケースもあります。

• Amazon EC2 (クラウド上の仮想サーバー Amazon Elastic Compute Cloud) | アマゾン ウェブ サービス（AWS 日本語）