みなさん、こんにちは、サニービュー事業部の小寺です。
今日のre:InventのキーノートでS3 からの自動取り込みをサポートする「Amazon Redshift auto-copy from S3」が発表されました。
https://aws.amazon.com/jp/about-aws/whats-new/2022/11/amazon-redshift-supports-auto-copy-amazon-s3/
Amazon Redshift auto-copy from S3とは
Amazon Redshift は、自動コピー サポートのプレビューを開始して、Amazon S3 から Amazon Redshift へのデータの取り込みが自動化されるようになりました。
追加のツールやカスタム ソリューションを必要とせずに、継続的なファイル インジェスト ルールをセットアップして、Amazon S3 パスを追跡し、新しいファイルを自動的にロードできるようになりました。
Amazon Redshiftを既にお使いの方は、COPY ステートメントを実行して、Amazon S3 を含むさまざまなデータ ソースからローカル テーブルにデータをロードします。
COPY ステートメントをコピー ジョブに保存できるようになりました。よって、指定された Amazon S3 パスで検出された新しいファイルが自動的に読み込まれます。
コピージョブは、以前に読み込まれたファイルを追跡し、取り込みプロセスから除外します。
アクティビティは、システムテーブルを使用して監視できます。自動ロードが不要な場合は、コピー ジョブを手動で実行してコピーステートメントを再利用し、データの重複を防ぐこともできます。
対象リージョン
プレビュー版として利用できるのは以下です。
・ US East (N. Virginia)
・US East (Ohio)
・US West (Oregon)
・Asia Pacific (Tokyo)
・Europe (Ireland)
・Europe (Stockholm)