FIXER Tech Blog - Cloud

ノーコードで生成AI連携！ SlackからAmazon Bedrockのエージェントに質問

　本記事はFIXERが提供する「cloud.config Tech Blog」に掲載された「【生成AI×ノーコード】AWS Chatbotを利用して、SlackチャットからAmazon Bedrockに質問してみた」を再編集したものです。

こんにちは、株式会社FIXERの村上です。本ブログは個人ブログにもポストしています。

SlackとMicrosoft Teams（Teams） のチャットチャンネルからAWS Chatbot（Chatbot）を利用して「Agents for Amazon Bedrock」を実行できるようになりました。

> AWS Chatbot now allows you to interact with Amazon Bedrock agents from Microsoft Teams and Slack

https://aws.amazon.com/jp/about-aws/whats-new/2024/09/aws-chatbot-amazon-bedrock-agent-microsoft-teams-slack/

このアップデート以前は、SlackなどのSaaSからAmazon BedrockへのAPIリクエストを可能にするために、LambdaやECSなどをAPIサーバとして、独自のプログラムファイルを用意する必要がありました。
今回のアップデートによって、その役割をChatbotで実装できるようになり、"ノーコードで導入できる"ようになりました。

規模にもよりますが、コード管理しなくていいのは最大の利点です。

このアップデートでは、Amazon BedrockのAIエージェント機能を使用します。これにより、学習済みのLLMの利用だけでなく、RAG（社内文書の読み込み）やファインチューニング（応答の調整）の設定もマネジメントコンソールから簡単に操作できるようになりました。

本ブログで紹介する全体構成
本ブログで紹介するデータソースは「S3」にします。

前提条件
Slack ワークススペース を用意すること
AWSアカウントを用意し、下記の要件を満たしてください
Amazon Bedrock（Bedrock）でLLMを利用できること
本ブログでは、「東京リーション（ap-northeast-1）」を利用しています。

やってみた
1. Amazon S3の作成
本ブログでは、Slack上に独自ファイルに記載した情報を出力させるためにS3バケットを用意します。
S3バケットの設定値は、バケット名のみを記載しています。後はデフォルト値です。

本ブログでは、テストデータとして「架空のシステム要件定義書」を利用します。
下記のテキストをコピーして、テキストエディタなどでテキストファイルを作成してください。
今回は、Wordファイル（dummyPj-（架空）オンライン予約システム要件定義書.docx）にしました。

（架空）オンライン予約システム要件定義書
1. はじめに
1.1 目的
本文書は、Microsoft Azureクラウドプラットフォームを活用したオンライン予約システムの要件を定義することを目的とする。

1.2 システム概要
本システムは、様々な業種で利用可能な柔軟なオンライン予約システムであり、Azureのクラウドサービスを最大限に活用して構築される。

2. システムアーキテクチャ
2.1 全体構成
フロントエンド：Azure Static Web Apps
バックエンド：Azure Functions (サーバーレス)
データベース：Azure Cosmos DB
認証：Azure Active Directory B2C
キャッシュ：Azure Cache for Redis
ストレージ：Azure Blob Storage
CDN：Azure Content Delivery Network
3. 機能要件
3.1 ユーザー管理機能
3.1.1 ユーザー登録・認証
Azure Active Directory B2Cを使用
ソーシャルIDプロバイダー連携（Microsoft, Google, Facebook）
多要素認証（MFA）のサポート
3.1.2 ユーザープロフィール管理
Azure Cosmos DBでユーザープロフィールデータを管理
Azure Blob Storageでユーザーアバター画像を保存
3.2 予約機能
3.2.1 予約作成・管理
Azure Functionsで予約ロジックを実装
Azure Cosmos DBで予約データを保存
Azure Cache for Redisで頻繁にアクセスされる予約情報をキャッシュ
3.2.2 空き状況確認
Azure Functions経由でリアルタイムの空き状況を取得
SignalRサービスを利用したリアルタイム更新
3.3 管理者機能
3.3.1 予約管理ダッシュボード
Azure Application Insightsを利用した利用統計の表示
Power BIとの連携によるデータの可視化
3.3.2 レポート生成
Azure Logic Appsを使用した定期的なレポート生成と配信
4. 非機能要件
4.1 性能要件
ページロード時間：2秒以内（Azure Front Door使用）
API応答時間：200ms以内
同時接続ユーザー数：最大10,000人
4.2 可用性要件
稼働率：99.99%以上
Azure Availability Zonesを利用した冗長構成
Azure Traffic Managerによるグローバルロードバランシング
4.3 セキュリティ要件
Azure DDoS Protectionによる保護
Azure Key Vaultでの機密情報管理
Azure Security Centerによる脅威検出と防御
4.4 拡張性要件
Azure Auto Scaleを利用した自動スケーリング
マイクロサービスアーキテクチャの採用（Azure Kubernetes Service）
4.5 バックアップと災害復旧
Azure Backup使用
地理冗長ストレージ（GRS）の利用
Azure Site Recoveryによる災害復旧計画
5. 開発・運用環境
5.1 開発環境
Azure DevOpsでのソース管理とCI/CD
Azure Kubernetes Serviceを使用した開発・ステージング環境
5.2 監視・ロギング
Azure Monitorによる総合的な監視
Azure Log Analyticsでのログ分析
Azure Application Insightsによるアプリケーション監視
5.3 コスト管理
Azure Cost Managementによるコスト最適化
リソースタグ付けによる部門別コスト管理
6. コンプライアンスと規制対応
Azure Complianceを活用したGDPR、HIPAA等への対応
Azure Information Protectionによるデータ保護とガバナンス
7. コスト見積もり
初期構築コスト：￥2,000,000
月額運用コスト：￥250,000（予測値）
Azure Calculator使用によるコスト最適化
8. プロジェクトスケジュール

合計：26週間（約6ヶ月）

9. リスク管理

S3バケットにインポートします。

2. Knowledge Base for Amazon Bedrockの作成
上記で用意した独自ファイルの内容をBedrockへ学習させるために、Knowledge Base（ナレッジベース）を作成します。

Amazon Bedrock コンソールにアクセスして、「ナレッジベースを作成」ボタンを押下します。

① ナレッジーベースの詳細を入力
ナレッジーベース名やサービスロールなどの項目を記入します。

＜余談＞
以前、サービスロール名には「AmazonBedrockExecutionRoleForKnowledgeBase_」を分頭に付ける必要がありましたが、現在は不要になったようです。

② データソースを設定
データソース名や(S3バケットを利用)格納したS3バケットorS3オブジェクトを定義します。

③ 埋め込みモデルを選択し、ベクトルストアを設定する
テキストデータを機械学習できる媒体にするために、高次元空間にフォーマットする必要があります。
「ベクトルの次元」の数が大きいほど、回答の精度が向上します。ただし、計算コストが増大するため、コンピューティング性能（高コスト）を求められます。

検証目的で安く抑えたい場合は、Pinecone をご利用ください。本ブログではセットアップが簡単なAmazon OpenSearch Serverlessで紹介します。

後は、リソースの設定確認をして作成します。5~7分ほどで作成されます。

3. Agents for Amazon Bedrockの作成
上記で学習させたナレッジベースを利用するために Agents for Amazon Bedrock（エージェント）、いわゆる「自律型AIエージェント」を作成します。利用者が「〇〇して」と命令したことに対して、このエージェントがBedrock内部で自律して働いてくれます。

同様に「エージェントを作成」ボタンを押下します。

① エージェントの作成
エージェント名を記入して、作成します。

② エージェントの詳細設定 - リソースロールの割り当て
エージェント用のLLMを設定します。
「エージェントリソースロール」とは、エージェントがBedrockの機能や他のAWSリソースを操作するために必要なロールです。新規作成または既存のロールを割り当てる必要があります。
※新規作成する場合、ナレッジベースを追加することはまだできません。③の手順で設定できます。

また、「エージェント向けの指示」を定義する必要があります（これ必要ですかね？）。
下記の指示をコピペします。

期待される成果物を明確に回答してください。
虚偽の情報を回答することは認められません。

出力フォーマットは、以下の条件を設けます。
・読みやすい文章にしてください
・箇条書きや改行を利用してください

この状態で右上の「保存」を押下します。

③ エージェントの詳細設定 - ナレッジベースの設定
②のあと、エージェントにナレッジベースを登録します。

「Edit in Agent Builder」を押下します。

追加していきます。

作成したナレッジベースを選択して、追加します。

「ENABLED」になっていればOKです。

④ エイリアスバージョンの作成
最終的にChatbotコネクタを登録するコマンドをSlack上で実行するのですが、エージェントのエイリアスIDが必要になるので作成していきます。「作成」を押下します。

下記の設定値を定義します。

⑤ エージェントのARN をメモする
ARN ← これなんて読むんでしょうね？僕は「あらーん」と読んでいます。
メモってください。5. SlackとChatbotコネクタの接続 で使用します。

⑥ エージェントのエイリアスIDをメモする
メモってください。5. SlackとChatbotコネクタの接続 で使用します。

4. AWS Chatbotの作成＋Slack連携
ChatbotとSlackを連携していきます。

AWS Chatbot コンソールにアクセスして、「チャットクライアントを設定」→「Slack」を押下します。

① Slackワークスペースとの連携
初回時はログインを求められます。ログイン後、SlackにChatbotの操作権限を要求する画面が表示されるため、「許可」します。

② ChatbotアプリとBedrock間の権限設定とチャンネル登録
次にChatbotアプリを連携したSlackに登録するため、「新しいチャネルの設定」を押下します。

チャネルの詳細設定値を定義します。ChatbotがBedrockを呼び出す権限周りは絞りたい場合に限り、調整しましょう。Slack側のアクセスセキュリティを対策していれば、フルアクセス権限を付与してもいいと思います。

ポリシーを絞りたい場合は、下記のロールポリシーを用意して割り当ててください。この場合、AmazonBedrockFullAccessとReadOnlyAccessは不要です。

> Invoking Amazon Bedrock Agents from chat channels in AWS Chatbot

https://docs.aws.amazon.com/chatbot/latest/adminguide/connect-bedrock-agents.html

③ チャネルロールに信頼ポリシーを割り当てる
「チャネルロール」を押下します。

「AmazonBedrockFullAccess」を追加します。

ちなみに許可ポリシーを追加しないとSlackチャット上で下記のようなエラーが出ます。

User: arn:aws:sts::<AWSアカウントID>:assumed-role/SlackAppForAWSChatbotRole/chatbot-session-slack-<SlackID> is not authorized to perform: bedrock:InvokeAgent on resource: arn:aws:bedrock:ap-northeast-1:<AWSアカウントID>:agent-alias/VZVDGYAICC/WME5TJAT1S because no identity-based policy allows the bedrock:InvokeAgent action (Service: BedrockAgentRuntime, Status Code: 403, Request ID: 20a54d43-e295-4316-824b-6452b53e6b93)

5. SlackとChatbotコネクタの接続
いよいよ、Slack上でBedrockを呼び出すためのコネクタをSlackに登録します。

> Connecting Amazon Bedrock to chat channels

https://docs.aws.amazon.com/chatbot/latest/adminguide/bedrock-connectors.html

@aws connector add <呼び出すときのエイリアス> arn:aws:bedrock:ap-northeast-1:<AWSアカウントID>:agent/<エージェントID（メモ）> <エイリアスID（メモ）>
＜例＞
@aws connector add genai arn:aws:bedrock:ap-northeast-1:<AWSアカウントID>:agent/VZVDGYAICC WME5TJAT1S
実行後、「🔥 Connector successfully added.」と返ってきたら成功です！

つかってみた
使用するときも簡単です。

@aws ask <エイリアス> <質問内容>
＜例＞
@aws ask genai オンライン予約システムの初期構築コストを教えてください
当たっていますね👍

＜例＞
@aws ask genai オンライン予約システムの稼働率を教えてください。
@aws ask genai 稼働率は99.99%以上を満たすようにAzureの構成を検討できますか？
（個人的に物足りない気もしますが...）要件に合わせて構成提案できていますね👍
条件を追加したり、Azureの高可用性アーキテクチャを学習させたりすることで精度を高めれそうですね