既存プロダクトへのAI組み込み

プロダクトはすでに動いており、ユーザーのデータも蓄積されています。その上にLLM機能を追加します。文書から回答し、すべての回答に出典を示す検索、ファイルを項目に変換する抽出、プロダクトの横ではなく内側で働くアシスタントです。

解決する課題

ユーザーから検索やアシスタントを求められていても、自社データとつながっていないモデルは、自信ありげに間違った答えを返します。かといって、安全に組み込む時間がチームにはありません。

成果物

出典付きで回答する文書検索
PDFなどのファイルからの項目抽出
プロダクトのデータに接続されたアシスタント
モデルが確信を持てない回答への確認フラグ
お客様が所有するソースコードとデプロイ環境

進め方

最初にコードベースとデータを読み、文書検索のような機能を一つ選んで追加します。既存の技術スタックと権限の仕組みに組み込むため、ユーザーは閲覧が許可されたデータからのみ回答を受け取ります。モデルが確信を持てない回答には、担当者が確認できるようフラグを付けます。以降の機能も同じ土台の上に追加していきます。運用コストは、主に各ステップでどのモデルを使うかで決まります。詳しくはAIエージェントの運用コストはいくらかで説明しています。

ご利用をおすすめしない場合

WhatsAppやTelegram上の新しい単独のエージェントが必要な場合(「AIエージェント開発・チャットボット開発」をご覧ください)や、モデルが不要で通常のデータベースクエリで足りる機能には向きません。

技術スタック

OpenAI
Anthropic
LangChain
PostgreSQL