AWS Step FunctionsとジェネレーティブAlでワークフローを高度化する

Pulisher : Mass Migration & DR Center キル・ジュンボム
Description : AWS Step Functionsを活用して生成型AIを構築するプロセスを紹介したセッション

はじめに

Generative AIは難しいものだと思いましたが、AWSサービスを利用して実装できるという情報に興味を持ち、確かめたいと思いました。

Redshiftをショッピングカートに例えた時、多くのクエリが来る時、空きスペースがあればそこでクエリが処理され、これを収容できる量だけ来る時は問題がありませんでした。ただ、ショッピングカートに入れることができない非常に大きな大規模なクエリが来る場合には、すべてのクエリを遅延させたり、Lockがかかるほど正常に処理されないというユーザーのフィードバックがありました。

AWSのStep Functionsを活用して生成型AIを構築するプロセスを紹介するセッションでした。 詳細な説明よりも、広く薄くAWSサービスを活用して実装する方向性についての説明がメインでした。

Step Functionだけでなく、Amazon Bedrockを活用してより少ないコードで生成型AIアプリケーションに統合し、回復が容易な弾力的なワークフローを構築する過程を紹介しました。

AWS Step Functionは、複雑なビジネスプロセスを視覚的に理解しやすい形でモデル化し、自動化することができます。

各ステップごとにラムダ、API呼び出し、サービス統合などのサーバーレス機能を含んでおり、220以上のawsサービスと連動して少ないコードでプロセスを実装することができます。

AWS Step FunctionsがBedrockを活用でき、コンソールを通じて情報を入力し、簡単なコードを活用してタイトルと説明を生成する機能を実装します。

また、AWS Step Functionsが外部APIを呼び出し、そのAPIの応答を処理することができます。これで正式に 3rd party API 呼び出しをサポートし、様々な外部サービスとの統合を簡単に構築することができます。作業はドラッグ＆ドロップが可能で、視覚的な利便性を提供し、認証や接続、エラー処理、状態モニタリング、データ変換など様々なAPI統合をサポートします。

また、AWS Step Functionsで提供される機能としてRedriveを使用することができます。

これは、ワークフローの進行段階で失敗した場合、その段階を自動的に再実行し、回復するために使用される機能です。 したがって、システムの一時的なエラーや障害に迅速な復旧を実現することができます。

自動再起動だけでなく、復旧過程のロギングと再試行回数を設定する実行制御、イベント記録、拡張性までサポートします。

セッションを終えて

AWS Step Functionsを活用して生成型AIとの統合はこんなに簡単になりました。

どの程度簡単になったのかは、下記のQRコードやURLを通じて実際の例とデモを見ることができます。興味のある方は少しずつ見てみることをおすすめします。

https://serverlessland.com/explore/reinvent2023-api210