MEGAZONE

MEGAZONEブログ

A new era: The path to generative Al in public sector
AI/ML re:Invent 2023

A new era: The path to generative Al in public sector

Pulisher : Managed & Support Center ビンナリ
Description : 生成型AIの概要とライフサイクルについての紹介セッション

2023 re:Inventのキーワードの一つがgenerative AIだと思います。 Generative AIとは何なのか、どのような方法で生成され、どのように生産まで行われるのか、興味があり、[A new era: The path to generative Al in public sector]のセッションを聞かせていただきました。

本セッションでは、generative AIの概要とどのようなライフサイクルを持つのかを説明し、顧客事例を発表します。 そして、簡単なデモを行います。どのようにgenerative AIを始めることができるかをお伝えするセッションです。

1.ジェネレーティブAIの概要

generative AIとは、生成的な人工知能を意味します。 generative AIは、従来の目的指向的なモデルとは異なり、特定の作業に対してモデルを明示的に訓練させなくても様々な作業を行うことができます。この技術は多くの知識情報に基づいており、与えられたデータから創造的で多様な成果物を生み出し、また、未来予測や予防に活用することができます。

2.ジェネレーティブAIライフサイクル

Generative AIの最初のスタートから実際のプロダクションシステムまでにはいくつかの段階があり、このライフサイクルを下記のように4段階に分けて考えることができます。

1.Scope a use case : 解決しようとするビジネス問題を定義する段階
2.Select a model(モデル選択): 既存モデルまたは自己学習モデルの選択
3.Adapt and align model: Evaluate/ Prompt / engineering /Fine-tune
4.Application integration(アプリケーション統合):モデルを最適化し、展開する段階

(1) Scope a use case

    ビジネス問題を定義する段階では、次のような目標を設定します。

    まず、カスタマーエクスペリエンスを向上させるために、チャットボット、仮想アシスタント、会話分析、パーソナライズ技術を導入し、特化したサービスを提供します。

    次に、労働者の生産性と創造性を高めるために、対話型検索、要約、コンテンツ生成、コード生成、データ分析技術を適用します。

    最後に、ドキュメント処理、データ拡張、サイバーセキュリティ、プロセス最適化技術を活用して、ビジネスプロセスを最適化し、効率を向上させます。

    (2) Select a model

    モデル選択段階では、Amazon BedrockとAmazon SageMakerを検討します。Bedrockは基礎モデル(FM)を活用して生成型AIアプリケーションを簡単に構築・拡張する方法を提供し、SageMakerは機械学習モデルを構築・トレーニング・デプロイするためのデータサイエンスプラットフォームとして機能します。 この2つのサービス以外にも、さまざまな公開された基礎モデル(FM)モデルを利用することができます。

    (3) Adapt and align model

    モデルを適応、調整する段階では、いくつかの考慮事項があります。

    プロンプトは言語モデルに入力されるテキストであり、作成されたプロンプトはモデルの応答を導くために重要です。

    プロンプトエンジニアリングは、モデルを効果的に導くために、シンプルかつ具体的に作成する必要があります。

    Few-shot promptingは、モデルのパフォーマンスを改善するための試みの一つです。

    RAGを活用し、FMをAmazon OpenSearch ServerlessやPinecone、Redis Enterprise Cloudなどのデータソースに接続し、FMを数ステップでプライベートにFMを微調整することで、個人的なデータを使わずに効果的にFMを微調整することができます。

    (4) Application integration

    最適化およびデプロイ方法として、Amazon Bedrockを使用する場合と、SageMakerを通じて公開モデルをデプロイする場合に分けられます。

    Amazon Bedrockは、モデルパッケージとエンドポイントがSageMaker所有のアカウントでホストされ、PrivateLinkを通じて顧客VPCに直接接続することができます。

    SageMakerを通じて公開モデルをデプロイする場合は、公開モデルパッケージとエンドポイントがSageMaker所有のアカウントでホストされ、SageMakerはオープンソースモデルアーティファクトをS3バケットでデプロイします。

    How do you get started?

    Generative AIを始めるには、まず、適切なユースケースを選択し、さまざまなトレーニングの機会を提供することでチームを強化した後、PoC(Proof of Concept)を開始して最適なユースケースを見つける必要があります。

    Generative AIのアプリケーションを簡単かつ安全に構築する方法、データを差別化要因や戦略的資産として活用する方法、パフォーマンスが高く低コストのインフラストラクチャを活用する方法、生産性を向上させるための生成型AIアプリケーションがあれば、Generative AIの旅を加速することができます。

    このセッションを通じて、Generative AIの概要とライフサイクルおよび実際の適用のための段階について知ることができました。 また、技術的な内容を簡単かつ基礎的に説明し、難しくて遠くに感じられたAI技術について解説し、簡単に理解することができ、満足しました。

    ブログ一覧

    この記事の読者はこんな記事も読んでいます