こんばんは、小寺です。
宇宙で出遅れましたが、先日GAになったAmazon Bedrockについて、まとめてみました。
Amazon Bedrockとは
Amazon Bedrock は、Amazon や主要な AI スタートアップ企業が提供する基盤モデル (FM) を API を通じて利用できるようにする完全マネージド型サービスです。そのため、さまざまな FM から選択して、ユースケースに最も適したモデルを見つけることができます。
https://aws.amazon.com/jp/bedrock/
基盤モデルはサーバレスで動作するため、モデルの起動及び停止の管理が不要で、アプリケーションに LLM を組み込むことができます。AWS のネットワーク内で利用可能なため、安全に使用できます。
利用可能なモデル
Amazon Bedrockは、AI21 Labs、Anthropic、Cohere、Stability AI、Amazon などの先進的な AI 企業の高性能な基盤モデル (Foundation Models) を選択できるフルマネージドサービスです。
それぞれのモデルについて、お伝えします。
・AI21 Labs「Jurassic-2 series」
イスラエルの自然言語処理（NLP）企業であるAI21 Labsは、特定のタスクにカスタマイズ可能な次世代言語モデルを発表しています。
Jurassic-1バージョンと比較して、高度な命令追従機能と最大30%の応答時間短縮が特長です。J2 モデルではタスクの説明やいくつかの例を含む適切なプロンプトを作成することにより、あらゆる言語タスクに適用できます。
・Anthropic「Claude」
Anthropic は2021年に ChatGPTやDALL-E2（画像生成AI）等開発したOpenAIの元エンジニアによって設立スタートアップ企業です。2022年以降 Google、Amazon から巨額の投資を受けるなど、影響力を増している企業です。
2023年7月にテキスト生成AIモデル「Claude」の新版「Claude 2」をリリースしています。AWS Summit New Yorkで、Bedrockの拡張としてAnthropic の Claude 2の対応が発表されていました。
・Cohere「Command」
2023年7月のAWS Summit New Yorkで、Bedrockの拡張として「Cohere」の対応が発表されています。
Cohereは、エンタープライズAIプラットフォームと最先端の基盤モデルの開発を行っており、Cohere社のモデルでは情報を生成・検索・要約するための直感的なインターフェイスが提供されています。
Cohereの言語生成モデルであるCommandは、ユーザーの指示に従うようトレーニングされており、要約、コピーライティング、対話、抽出、質問への応答ができます。
・Stability AI「Stable Diffusion」
Stability AI はコミュニティ主導によるオープンな AI 企業で、シンプルなテキスト命令から、テキスト、画像、音声、動画、コードなどを生成する基盤モデルを提供しています。オープンソースAIとして世の中に広く普及した画像生成AIです。
・Amazon「Titan」
テキストの要約、生成、分類、自由形式のQ&A、情報抽出などのタスクのためのジェネレーティブな大規模言語モデルです。過去数十年にわたる自社の経験を活用して作られたサービスです。
料金体系
テキスト生成モデルは、処理された入力トークンと生成された出力トークンの両方について請求されます。テキスト埋め込みモデルは、処理された入力トークンについて請求されます。画像生成モデルは、生成された画像について請求されます。
料金体系については、オンデマンドとプロビジョンドスループットの2つに分かれています。
・オンデマンド
従来通りの従量課金制の請求モデルです。利用した分の金額を支払います。
リクエストは毎分60個、出力トークンは毎分10000個が最大となっているので、このオンデマンドの制限を超える利用の場合は、
スループットの低下が起きる可能性があると想定され、プロビジョンドスループットを利用した方が良いと思われます。
・プロビジョンドスループット
利用期間にコミットをすれば、スループットが保証される仕組みです。ターゲットとしては、大規模で一貫した推論ワークロード向けです。
以下は2023年9月GA時点のオンデマンド料金です。最新の金額はオフィシャルから確認をお願いします。
AI21 Labs
| AI21 models | Price for 1000 input tokens | Price for 1000 output tokens |
|---|---|---|
| Jurassic-2 Mid | $0.01250 | $0.01250 |
| Jurassic-2 Ultra | $0.01880 | $0.01880 |
Amazon
| Amazon Titan models | Price for 1000 input tokens | Price for 1000 output tokens |
|---|---|---|
| Titan Text – Lite | $0.00030 | $0.00040 |
| Titan Text – Express | $0.00130 | $0.00170 |
| Titan Embeddings | $0.00010 | n/a |
Anthropic
| Anthropic models | Price for 1000 input tokens | Price for 1000 output tokens |
|---|---|---|
| Claude Instant | $0.00163 | $0.00551 |
| Claude | $0.01102 | $0.03268 |
Cohere
| Cohere models | Price for 1000 input tokens | Price for 1000 output tokens |
|---|---|---|
| Command | $0.01500 | $0.02000 |
Stability AI
| Stability AI Model | Image Resolution | Standard quality (<51 steps) |
|---|---|---|
| SDXL0.8 | 512×512 or smaller | $0.018 per image |
| Larger than 512×512 | $0.036 per image | $0.072 per image |
対応リージョン
今回2023年9月28日時点では、以下の4リージョンで利用が可能です。
・バージニア北部（ us-east-1 ）
・オハイオ（ us-east-2 ）
・オレゴン（ us-west-2 ）
・シンガポール（ ap-southeast-1 ）
やってみた編
Amazon Bedrockへマネジメントコンソールからアクセスします。今回はオレゴンリージョンを利用しました。
まずは開始編
「Get Started」をクリックして開始します。
Overview画面です。
Model Accessで確認してみると、Preview機能となっており、アクセス不可なものと、Claudeについては、申請制になっています。
利用許諾を確認して、「Save Changes」をクリックします。
モデルのリクエストが提出されましたメッセージが表示されます。
次に、Base models画面を確認してみます。生成AIの基盤モデルを使用して、生成AIアプリケーションの構築・拡張が可能です。
Custome models画面を確認してみます。 事前学習済み基盤モデルを拡張することができます。
AI21 Labs「Jurassic-2 series」
Playgroudsから試してみます。まずはテキスト生成や分類に使用できるJurassic-2 UltraとJurassic-2 Midです。
惜しい！日本語にも対応しているようには見えますよね。
Stability AIで画像を作る
画像生成も試してみました。英語のテストの最初の画像を当てるパートみたいな例文にしましたが、ちゃんと思った通りのものを作ってくれました。
今日は、Bedrockについて少し試してみました。また他のサービスと合わせて利用してみたいと思います。
