はじめに

先日、re:Invent 2023に参加させて頂きました。
KeynoteでもAmazon Bedrockをはじめとした生成系AIのアップデートが盛り沢山でした。
改めてBedrockで何が出来るのか、また GAとなった新機能の紹介（別ブログにて）をしていきたいと思います。

まず初めに、本ブログでは　Amazon Bedrock（以下、Bedrock）のコンソール画面にて、初回に実施すべき内容やコンソール画面の見方について解説していきます。

最近、AWS Skill Builderに「Amazon Bedrock の基礎コース」が追加されました。
概要掴むには非常に分かりやすい内容となっていましたので、ご興味ある方はぜひ！

目次

• 対応リージョン
• まず設定すべきこと
• コンソール画面を確認しよう
• 料金
• 感想

対応リージョン

まずは対応リージョンについてです。
2023/12現在、東京リージョン含めた5つのリージョンでBedrockが使用可能となりますが
下記2つのリージョン以外では、対応していない基盤モデルや機能が多いままとなっております。

・バージニア北部（us-east-1）
・オレゴン（us-west-2）

そのためしばらくは上記いずれかのリージョンを使用する事をオススメします。
（早く東京リージョンで全ての機能が使えるようになると嬉しいですね）

コンソール画面から確認するだけでも全く別モノなのが分かるかと思います。
↓us-east-1のコンソール画面↓

↓ap-northeast-1のコンソール画面↓

まず設定すべきこと

基盤モデルの申請設定

申請をしないと全ての基盤モデルが「Available to request」のままとなってしまい
PlaygroundsやAPIで検証が出来ない状態となります。
まずは下記手順に従って、基盤モデルの申請を行いましょう。

1. 「Model access」にアクセス後、「Manage model access」ボタンを押下します。
   

2. リクエストした基盤モデルにチェックを入れた後に、「Request model access」を押下すると、一部基盤モデル以外※はすぐに使用可能となります。
   ※Anthropicの基盤モデルに関しては別途、利用申請を記入する必要があります。
   

これでまずは基盤モデルを利用出来る準備が整いました。

ロギング設定

次にロギング設定です。
こちらは任意設定となりますが、PoCにせよ業務利用にせよロギング設定はマストと考えておりますので初回時に設定すべき項目として挙げました。

Text/Image/Embeddingといった必要なデータタイプの選択が出来、
ログ出力先も S3のみ/CloudWatch Logsのみ/S3+CloudWatch Logs の3種類から選べます。

↓ロギング設定例

↓CloudWatch Logs 出力例

コンソール画面を確認しよう

各項目毎でチェックすべき箇所をピックアップして解説していきます。

Getting started

まずはGetting startedを見ていきましょう。
・Overview・・・Bedrockの概要ページとなります。
・Examples・・・各プロバイダ/基盤モデル/ユースケース毎のサンプルが記載されています。Playgroundsで実行する前にどのようなことが出来るかざっくり概要を掴むことが出来ます。
・Providers・・・各プロバイダ毎に基盤モデルの詳細が記載されています。

各ドキュメントのリンクや、基盤モデル毎のユースケースや対応言語、Maxトークン数についてまとめられています。

全ての基盤モデルの対応言語を確認したところ、Claude modelsのみが日本語に対応しているようです。（2023/12 現在）
Amazonの「Titan Text G1 Express」の対応言語には、「Multilingual in 100+ languages (Preview)」の記載がありますが、まだプレビューのようで日本語の確認が取れませんでした。
各基盤モデルで日本語が扱えるようになると、選択肢の幅が広がりますね。

Foundation models

・Base models・・・基盤モデルの紹介ページとなります。Providersとやや被る項目もありますが、下記画像のように一覧で確認が出来ます。
・Custom models・・・カスタムモデルを行いたい場合に使用します。ただし、プロビジョンドスループット の事前購入が必要となります。

Base modelsのページでは、リストモードに切り替えると　基盤モデル毎の比較が容易になります。
トークン数の比較も簡単に出来ますが、対応言語も列に追加になるとありがたいなと思いました。

Playgrounds

その名の通り、Text/Chat/Imageの3つのユースケースにて検証が可能となります。
ただし事前に申請した基盤モデルしか使用出来ないのでご注意ください。

こちらはChatで「Claude　v2.1」を使用した際の例となります。
以前まで「Model metrics」のような項目はなかったと記憶していますが、いつのまにか登場していて分かりやすくていい感じになっています。

また「Claude　v2.1」では3つのパラメータが用意されていますが、詳細はパラメータ横の情報リンクからご確認ください。
パラメータの設定変更において、複数項目を同時に可変にするのでなく、1つずつ可変にして検証するのをオススメします。
Amazon Bedrock LLM ユーザーのための一般的なガイドライン を一読することをおすすめします。
一般的な推論パラメータのリストとその使用方法について記載されています。

Orchestration - Assessment & deployment

残りの機能に関しては、別ブログにて解説予定ですのでここでは概要のみ紹介します。

Orchestration
・Knowledge base・・・Bedrockから基盤モデルをデータソースに接続して検索拡張生成(RAG)を行うことが可能
・Agents・・・複雑なビジネスタスクを実行するフルマネージド型のエージェントを簡単に作成＆デプロイが可能

Assessment & deployment
・Model Evaluation・・・モデル評価（プレビュー）
・Provisioned Throughput・・・プロビジョンドスループットの管理

料金

オンデマンドとプロビジョンドスループットの2種類の料金体系となります。
スループットの保証を必要しない場合やモデルのカスタマイズが不要の場合はオンデマンドで十分かと思います。

各プロバイダ・基盤モデル毎に料金が異なります。
Bedrockの料金につきましては公式ドキュメントを参照してください。
Amazon Bedrock の料金

また実際の請求書ページにおいて、Berdockは見るべき項目は2つあります。
Amazonの基盤モデル（Titan）の使用料については、Bedrockの項目に記載されております。

ただしAmazon以外の基盤モデルに関してはMarketplaceの項目に記載されるためご注意ください！

感想

Bedrockを使用する上で必要となる設定や各項目の解説をしました。
GAになってからだいぶ経過しましたが、re:Inventのアップデート以降、Bedrockのコンソールもだいぶ変わってきた印象のため、改めてBedrockをコンソール画面の整理をしたい方への手助けになれば幸いです。