Build a meeting summarization solution with generative AI & serverless

セッション概要

• タイトル：Build a meeting summarization solution with generative AI & serverless
• 日付：2024年12月2日(月)
• Venue：Wynn | Convention Promenade |
• スピーカー：
  • Adam Wagner（Principal Serverless Solutions Architect、AWS）
  • Justin Callison（Director、Application Integration、AWS）
• 業種：Cross-Industry Solutions
• 概要：このセッションでは、生成されたAIで会議の概要を作成するためのサーバーレスアプリケーションが実際にどのように開発され構成されているかを確認できます。 AWS Step Functions を使用して Amazon Transcribe と Amazon Bedrock をオーケストレーションして会議のスクリプトを作成するデータフローを作成したら、Amazon EventBridge のイベントベースのテクノロジを使用して、その Step Functions をトリガーするアプリケーションの設定方法を確認できます。

はじめに

近年のソフトウェア開発では、サーバーレスアーキテクチャとイベント駆動型設計の重要性がますます高まっています。本セッションでは、AWSのサービスを活用して、S3オブジェクトの作成イベントを起点に、Step Functionsを使用してワークフローを構築し、AIモデルの呼び出しと結果の管理までを行う事例を紹介しました。この設計は、スケーラビリティ、モジュール性、コードの保守性といった柔軟性を提供するよう工夫されています。

セッション概要

このセッションでは、生成されたAIで会議の概要を作成するためのサーバーレスアプリケーションの構成方法を確認できました。 Amazon Transcribe を使用して Speech をテキストで作成し、Amazon Bedrock で要約して AWS Step Functions で処理する構成として導入されました.

Amazon EventBridgeを使用してイベントベースのテクノロジを活用して、アプリケーションを合理化および拡張する方法で、自動化された会議履歴の作成と要約機能を実装しました。これにより、全体的な会議内容を把握するサーバーレス生成型AIソリューションを開発することができ、これらのソリューション開発のための実務に密接な技術を習得するためのセッションでした。

AWS Step Functions

AWS Step Functionsは、分散型アプリケーション、データパイプラインなどを視覚的に設計および実行できる完全管理型Serverless Workflowサービスです。これにより、イベントトリガベースのワークフローを設計し、タスク間の依存関係、分岐など、さまざまで複雑なプロセスを効率的に管理できます。

AWS Step Functions を使用すると、220 を超える AWS のさまざまなサービスと 14,000 を超える API を直接活用して接続し、アプリケーションを設定できます。

主なコンポーネントとデータフロー

AWS Step Functionsを介してオーケストレーションされているWorkflowの各コンポーネントと各機能を確認し、そのworkflowでデータの流れがどのようになるかを見てみましょう。

A. コンポーネント

1) Amazon S3
特定のフォルダにファイルがアップロードされるなど、オブジェクト生成イベントベースのトリガー動作

2）Amazon EventBridge
S3のオブジェクト生成イベントを検出してStep Functionsを呼び出す中間脚の役割。 Step FunctionsとJSON形式でデータをやり取りし、プロセスを実行する

3）AWS Step Functions
EventBridgeを介して配信されたイベントメッセージに基づいて全体的なタスクを実行し、全体的なステータス管理を実行する

4) AWS Lambda
使用するデータのサイズがStep Functionsでは実行できないサイズ（256KB以上）なら、Lambda活用が必要

5) AWS Bedrock
LLM と Titan Embedding v2 の呼び出し

B. データフロー

1）新しい会議ビデオファイルがS3の特定のパスにアップロードされると、そのオブジェクト生成イベントがEventBridgeをトリガーしてAmazon Transcribeが設定されているStep Functionsを実行します。

2）Transcriptの結果をS3にロードすると、再びEventBridgeがオブジェクト生成イベントによりトリガー

3) Script オブジェクトが作成された場合の分岐処理により、その Script を Amazon Bedrock LLM で要約進行

4) Meeting Summarization 完了

まとめ

最近生成されたAI分野は非常に急速に変化し発展しています。さまざまな技術が開発され、新しい環境が出てきて、ビジネスニーズも毎日多様化しています。これに適切な対応をするために、生成型AIアプリケーション開発時にサーバレスアーキテクチャを活用すれば、このような変化に合わせて柔軟に対応できます。

また、Step Functionsを活用すれば、直接AWSの複数のサービスを接続して呼び出すことで活用できるため、コード作成量を減らすことができ、イベントベースのアプローチによりアプリケーションの開発と維持、活用が容易になります。

先に紹介したEventBridge、Lambda、Bedrockなど、さまざまなサービスをStep Functionsを通じてまとめ、イベントトリガーベースのサーバーレス環境の自動化プロセスを応用し、アプリケーション開発に活用すれば、構造やリソース活用という点で素晴らしい利点が得られると予想されます。

記事 │MEGAZONECLOUD, AI & Data Analytics Center (ADC), Data Engineering 2 Team、チョン・ジソン マネージャー