米Googleは、データウェアハウスとデータレイクの統合を可能にするストレージエンジン「BigLake」の一般提供を、7月27日(現地時間)に開始した。
ユーザーは、 Google Cloud Storage (GCS)、Amazon S3、ADLS Gen2上に、Parquet、ORC、Avroといったオープンファイル形式をサポートしたBigLakeテーブルを作成できる。
BigLakeテーブルは、データウェアハウステーブルと同様に管理することが可能な、新タイプの外部テーブルで、管理者はエンドユーザーにオブジェクトストア内のファイルへのアクセスを許可する代わりに、テーブル、行、列レベルでアクセスを管理する。
これらのテーブルは、BigQueryやBigLakeコネクタを使用したオープンソースエンジンなど、任意のクエリエンジンから作成でき、これらのテーブルが作成されるとBigLakeテーブルとBigQueryテーブルをデータカタログで一元的に検出し、Dataplexを使用して大規模に管理することが可能になっている。
BigLakeコネクタは、BigQueryストレージAPIに基づいて構築されているため、Google Cloud DataFlowとオープンソースクエリエンジン(Spark、Trino、Presto、Hiveなど)がセキュリティを強化することで、BigLakeテーブルをクエリできるようにし、データをクエリエンジン固有のユースケースに移動させることなく、セキュリティを1か所に構成するだけでどこにでも適用可能となる。
そのほか、今回の一般提供にあわせて、Analytics Hubのサポート、BigQuery MLのサポート、パフォーマンスの高速化(プレビュー)といった新機能が追加されており、近日中にCloud Data Loss Prevention(DLP)プロファイリングのサポートや、データマスキングと監査ログへの対応なども行われる予定となっている。
- 関連リンク
この記事は参考になりましたか?
- この記事の著者
-
CodeZine編集部(コードジンヘンシュウブ)
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です