7 principles for effective and cost-efficient generative AI apps [SIMULCAST]

セッション概要

• タイトル：7 principles for effective and cost-efficient generative AI apps [SIMULCAST]
• 日付：2024年12月2日(月)
• Venue：Mandalay Bay | Level 3 South | Jasmine H
• スピーカー：
  • Mark Ralph(Director – GenAI GTM – Bedrock, Amazon Web Services)
  • Priya Vijayarajendran(Chief Executive Officer, ASAPP)
• 業界：Cross-Industry Solutions
• 概要：効果的で費用対効果の高い生成型AIアプリケーションを構築するための7つの原則を紹介します。明確な目標設定、高品質データ準備、モデル最適化、効率的な展開、パフォーマンスモニタリング、倫理遵守、継続的な改善により、信頼性と革新を同時に達成するための方法を提供します。

はじめに

Generative AIが急速に広がるにつれて、企業はこの技術を導入する過程でさまざまな課題に直面しています。今回のセッションでは、AWSが世界中のお客様と協力し、積み重ねた経験に基づいて、安全で信頼性の高い効果的なAIシステムを構築する方法を紹介します。 Amazon BedrockなどのAWSサービスを使用して、AIプロジェクトのセキュリティ、データ管理、スケーラビリティなどを実際のケースで学ぶことができると期待しました。

ますますGenAIプロジェクトが増えるにつれて、ドメインも異なっており、要件やアーキテクチャが変わるにつれて、考慮すべき部分が増えていると感じました。今回のセッションを通じて、このような相違にもプロジェクトのための原則を知っていれば、さらに成功に終わることができるのではないかと期待して入りました。

生成型AI導入時に直面する主な課題

Generative AIを組織に導入する過程で、企業はいくつかの一般的な問題に直面しています。

1. セキュリティとデータ保護

Generative AIはしばしば機密データを処理するため、データ保護とセキュリティが最も重要な優先順位になります。企業は、データが漏洩したり誤用されないように安全な環境を構築する必要があります。

2. スピードとコスト

Generative AI を導入すると革新が速くなる可能性がありますが、技術の急激な発展はツールやモデルの変更サイクルを短縮し、組織に追加のコスト負担をもたらします。

3. 組織内のイノベーションと規制のバランス

イノベーションを追求する企業は、厳しい規制が発展速度を制限する可能性を懸念しています。組織はAIプロジェクトを推進し、規制要件を満たす必要があり、これは複雑な課題として機能する可能性があります。

これらの課題は、AIの発展が急速に進むにつれてさらに深刻化しています。

AIの複雑さと強さ：急激な発展と新しい挑戦

セッションでは、AI技術の急速な発展が企業に与える影響を強調しました。特にAIがますます複雑で強力になる理由とその特徴について説明します。

Task-Specific AI	特定のタスクに最適化されたAIモデルが浮上しています。これらのモデルは主にオープンソースに基づいており、特定の課題についてより洗練された関連性の高い結果を提供します。
Complex Flows	AIテクノロジーは、複数の大型言語モデル（LLM）、オープンソースソフトウェア（OSS）、エンタープライズAPI統合を通じて作業を最適化しており、ワークフロー管理とバッチ機能が主要な課題として浮上しています。
Composite AI	従来の機械学習（ML）とGenerative AIを組み合わせて、より創造的で革新的なソリューションを提供するケースが増えています。製品設計、研究開発などの分野で、このようなAIの応用が光を放っています。
Agentic AI	自律的なエージェントが登場し、タスクの実行、意思決定、環境との相互作用を自動化する可能性が開かれました。これは、企業がAIを活用する方法を根本的に変えるとともに、新しい管理課題を提起する。

Generative AIは現在、単純な言語モデル以上の役割を果たしており、ますます複雑で洗練されたアプリケーションに拡張されています。 Generative AIを導入する過程で、多くの組織は革新とリスクの間でバランスをとる必要があります。

成功したGenerative AIプロジェクトのための7つの原則

セッションでは、Generative AIプロジェクトを成功させるための7つの重要な原則が提示されました。これらの原則は、プロジェクトの初期計画から実行、拡張まで、実践的なガイドとして機能し、セッションでは、各原則の具体的なケースと戦略が説明されています。

1. セキュリティを最優先と考える

Generative AIを導入する過程で、データセキュリティとモデル信頼性の確保は、最も重要な要素の1つとして強調されています。 

Amazon Bedrockは、お客様のデータが学習中にサードパーティモデルに漏洩するのを徹底的に保護し、データの暗号化と地域内のデータ保存を通じて高いレベルのセキュリティを提供します。また、組織内部のアクセス制御を強化し、機密データの保護措置を標準化することも重要なポイントとして提示されている。

2. 小さな問題から始める

Generative AIプロジェクトの成功は、明確で解決可能なビジネス上の問題を定義することから始まります。この目的のために、「Get Oriented Mindset」、「Think Outside the Box」、「Iterative Experiments」の3つのアプローチが強調されました。

[ Get Oriented Mindset ]

プロジェクトの最初に、チームは明確な目標と問題を定義し、現在利用可能なデータとリソースを分析して実行可能性を確認する必要があります。この段階で過度に巨大な目標を設定するのではなく、解決可能な小さな問題に焦点を当てることが重要です。

[ Think Outside the Box ]

既存の方法の枠組みを破り、創造的な解決策を模索するプロセスが不可欠です。たとえば、既存のカスタマーサポートプロセスでAIベースのチャットボットを導入したり、内部運用効率を向上させるための新しい方法を探すことができます。

[ Iterative Experiments ]

小さな成功に基づいて継続的に実験し、結果を見直し、改善していくアプローチが重要です。これにより、Amazon SageMakerなどのAWSサービスを使用して、迅速なプロトタイプ作成と反復実験が可能になります。これにより、プロジェクトのリスクを軽減し、最適なソリューションをすばやく見つけることができます。

3. データに基づくアプローチ

Generative AIプロジェクトの成功は、データの品質と管理能力に大きく依存します。この過程で、データガバナンス、品質、および処理方法が強調され、特にデータプロセスの独創性が差別化された解決策を作る鍵であることが強調されました。

「データプロセスはまもなく競争力だ」

セッションでは、「Your data and processes are unique and will help you differentiate your solution」という文が重要なメッセージとして言及されました。これは、データ処理プロセスが単純な技術的要素ではなく、企業が独創的で差別化されたAIソリューションを開発する上で重要な競争優位要素であることを意味します。各組織の独自のデータプロセスは市場での差別化をもたらし、AIモデルはビジネスに合わせた洞察と結果を導き出すことができます。

[データ品質と処理の重要性]

データの品質は、モデルのパフォーマンスを決定する主な要因です。うまく洗練されていない、またはラベル付けが不完全なデータは、モデル結果の信頼性を低下させる可能性があります。したがって、精製、変換、ラベリングなどの体系的なデータ管理プロセスが不可欠です。

【氷山の一角のようなデータ管理】

データ管理の重要性は、しばしばプロジェクトの初期に見落とされがちです。ただし、データが正しく収集され処理されない場合、実際に利用可能なデータは氷山の一角に過ぎません。

4. スピードとスケーラビリティを同時に考慮する

Gen AIプロジェクトで高速で実験し、繰り返すことは重要な競争要因の1つです。しかし、単に迅速な実行だけでは不十分であり、長期的に組織が成長できるスケーラビリティまで考慮する必要があります。

【迅速な実行を可能にする俊敏性】

AIプロジェクトは不確実性とボラティリティが高いため、素早く実験して結果を導き出す機敏性が必要です。このプロセスでは、**Iterative Experiments（繰り返し実験）**などのアプローチが重要であり、これにより失敗をすばやく識別し、成功の可能性を高める方向に調整できます。セッションでは、AWSのさまざまなツールを活用した実験環境構築のケースを紹介しました。

[拡張性を考慮した設計]

スピードと敏捷性は短期的なプロジェクトの成功に必要ですが、スケーラビリティは長期的な成功を決定する要因です。セッションでは、「スピードとスケーラビリティをどのように統合できますか？」という質問を中心に、初期設計段階からスケーリングを念頭に置いたシステム構築の重要性が述べられています。

AWS の Amazon SageMaker と Amazon Bedrock は、こうしたニーズを満たすのに理想的なツールであり、当初は小規模なプロジェクトを迅速に実行しながら長期的にスケーラブルなインフラストラクチャを提供します。

[スピードとスケーラビリティを調和に統合する]

高速で動きながら長期的な拡張を考慮するには、組織はプロセスと技術スタックのバランスを取る必要があります。例えば、スケーラビリティの低いシステムは短期的に有利であり得るが、長期的にはコストの増加及び効率の低下につながる可能性が高い。 

5. パフォーマンス測定と適応

Generative AIプロジェクトで明確なパフォーマンス指標（KPI）を設定し、継続的に測定および調整することは、成功のための重要な原則の1つです。

[パフォーマンスを測定するための明確な基準]
すべてのAIプロジェクトは、測定可能なパフォーマンス指標に基づいて計画され、結果を評価および改善するためのフィードバックループを形成する必要があります。セッションでは、次のコアKPIが言及されました

• モデル性能（精度、再現率など）
• 費用対効果
• ビジネス目標達成度（例：売上増大、顧客満足度向上など）

[適応可能なプロセス設計]
環境の変化とニーズに合わせてプロジェクトを調整できる必要があります。適応する俊敏性が必要です。

[反復実験とフィードバックループの強化]
セッションでは、AWSサービス（SageMakerやBedrockなど）が実験データを自動的に分析して学習し、改善の方向性を提示する方法を紹介しました。これにより、プロジェクトは継続的に学習して適応しながら、より良い結果を導くことができました。

6.人と組織文化に投資する

Gen AIプロジェクトは技術的な要素だけでなく、それを受け入れて活用できる組織の文化と人材が成功の鍵となります。セッションでは、組織全体にわたる変化の管理と技術の受け入れの重要性を強調しました。

Generative AIの導入は、単に技術インフラストラクチャを構築することを超えて、既存の業務方法と組織文化に大きな変化を必要とします。セッションでは、変更管理を通じて、従業員が新しいスキルを受け入れて活用できるように支援する必要があると述べました。

• リーダーシップの積極的な支援
• 教育と訓練プログラムの提供
• 新しいプロセスと技術を実験するための安全な環境を提供
• 組織のAI能力の強化

Gen AIは、技術専門家だけでなく、ビジネス専門家、デザイナー、データアナリストなど、さまざまな人材の協力が必要な領域であり、チームメンバーのAI関連能力を強化し、コラボレーションを促進する環境を作ることが重要だと強調しました。

[組織文化の進化]
AI技術は組織文化と密接に結びつく構造で、責任感があり透明なAIを使用するための政策策定、倫理的意思決定体系の構築、そして失敗を学習機会とみなす文化づくりが成功したプロジェクトの基盤となると説明しました。

7. 信頼性を構築する

Gen AIテクノロジーがビジネスで重要な役割を果たすにつれて、AIシステムの信頼性の構築は不可欠な原則として扱われました。

[AIシステムの一貫性の維持]
Generative AIは、その複雑さと強力さにもかかわらず、その結果に対して予測可能な一貫性を維持する必要があります。ユーザーはAIの決定を信頼できる必要があります。これは、モデルの学習プロセスと意思決定プロセスが明確に定義され、透明に操作されたときに可能です。

[責任あるAIの使用]
AIが引き起こす可能性のある倫理的問題やエラーを事前に防止し、AIの決定がビジネスに与える影響を最小限に抑えることが重要です。そのためには、AIシステムの責任を明確にし、各段階で発生する可能性のあるリスク要因を予測し対処するシステムを用意する必要があります。

• AIガバナンスポリシーを策定し、システムが法的、倫理的基準を満たすようにします。
• モデルの透明性を確保し、AIの決定を人々に明確に説明できるようにします。
  

[顧客との信頼関係の構築]
AIシステムを運営する企業は、顧客との信頼を築くことが重要です。 AIシステムが提供する結果に対する信頼を構築するには、顧客にそのプロセスと結果を理解する方法を提供し、セキュリティとプライバシーを優先的に考慮する必要があります。

• データ保護とセキュリティを強化し、お客様の情報を安全に処理し、その情報を第三者と共有しないことを保証します。
• 顧客のフィードバックを積極的に収束し、AIシステムの信頼性を継続的に向上させます。
  

[継続的な監視とフィードバック]
信頼性のあるAIシステムは、一度構築して終了するのではなく、継続的に監視してフィードバックを受けて改善する必要があります。対応できるようにします。

ASAPP: AI ベースのコンタクトセンターの成功事例

ASAPPは、Generative Agentを活用してAIベースのカスタマーセンターを革新しました。 Generative Agentは、AIが顧客の要求を理解し、自然な会話を介して問題を解決する自律的で複雑なエージェントです。このエージェントは、既存のルールベースのシステムを超えて、自己学習と適応が可能なシステムです。

まとめ

このセッションは、Generative AIの導入と拡張のための戦略を明確に理解する機会でした。特に、AIがビジネスと顧客体験に与える影響を実質的に適用する方法を学び、AIの急速に変化する環境に効果的に適応できる戦略を立てることができました。

技術的な側面だけでなく、データをどのように扱い、AIのパフォーマンスをどのように最適化するかについての悩みが大きくなりました。技術の進化に追いついて、柔軟でスケーラブルなシステムを構築することが重要であることをもう一度感じることができ、継続的に方法を最適化する必要があると考えました。

記事 │MEGAZONECLOUD　AI＆Data Analytics Center（ADC）　Data Architecture Team　チョ・ミンギョンマネージャー