「現在使っている業務システムにAI機能を追加したい」
「システムを作り直さず、生成AIだけ導入できないか」
「顧客情報や社内文書をAIで検索できるようにしたい」
「ChatGPTのような機能を既存Webシステムへ組み込みたい」
このような場合、新しいAIシステムを一から構築する必要はありません。
現在利用しているWebシステムや業務システムから生成AIのAPIを呼び出し、必要な機能だけ追加できます。
例えば、顧客管理システムへ、
顧客との過去のやり取り
↓
「AIで要約」ボタン
↓
生成AI
↓
これまでの経緯を5行で表示
という機能を追加できます。
ほかにも、
- 社内文書のAI検索
- メール返信案の生成
- 報告書作成
- PDFからのデータ抽出
- 問い合わせ分類
- 顧客情報の要約
- 自然な文章による検索
などを既存システムへ追加できます。
この記事では、既存システムに生成AIを組み込む方法、API連携、RAG、システム構成、開発費用、導入手順について解説します。
既存システムへの生成AI組み込みとは
既存システムへのAI組み込みとは、現在利用しているシステムを残したまま、一部分の処理に生成AIを追加することです。
例えば、現在の顧客管理システムに次の情報が保存されているとします。
顧客情報
商談履歴
問い合わせ履歴
契約情報
従来は営業担当者が過去履歴を一件ずつ確認していました。
生成AIを組み込むと、
顧客詳細画面
[AIで要約]
↓
過去の商談・問い合わせを取得
↓
生成AIへ送信
↓
要約結果を画面表示
という機能を追加できます。
顧客管理機能そのものを作り直す必要はありません。
新しいAIシステムを作る必要がないケースも多い
企業にはすでに、
- 顧客管理システム
- 在庫管理システム
- 販売管理システム
- 会員管理システム
- 問い合わせ管理システム
- 社内ポータル
- 独自Webシステム
などが存在する場合があります。
AIを導入するたびに別システムを増やすと、
既存システムへログイン
↓
AIシステムへログイン
↓
データをコピー
↓
AIへ入力
↓
結果を既存システムへ戻す
という作業が発生します。
そこで、
既存システム
+
生成AI機能
という構成にします。
社員が普段使っている画面からそのままAIを利用できるため、業務フローを大きく変えずに導入できます。
既存システムへ追加できるAI機能
1．文章の要約
比較的追加しやすいAI機能です。
例えば、
- 顧客対応履歴
- 商談履歴
- 問い合わせ
- 会議記録
- 日報
- 作業報告
- 長文コメント
などを要約します。
例えば、顧客詳細画面に、
過去の対応履歴：48件
[AIで要約]
というボタンを追加します。
AIが、
2025年10月からサービスAを利用。
2026年3月に追加機能について問い合わせ。
現在は利用者数の増加に伴い、
上位プランへの変更を検討している。
のように整理します。
担当者が過去48件をすべて読む必要を減らせます。
2．メール・文章の下書き作成
既存システムに登録されている情報から文章を生成できます。
例えば、問い合わせ管理画面に、
[AIで返信案を作成]
ボタンを追加します。
問い合わせ内容
+
顧客情報
+
商品情報
↓
生成AI
↓
返信案
という処理です。
人はゼロから文章を書くのではなく、AIが作った下書きを修正して送信します。
3．報告書を自動生成する
業務システムに蓄積されたデータを使って、報告書の文章を生成できます。
例えば、
今月売上
前月売上
商品別売上
問い合わせ件数
を通常プログラムで集計し、
数値データ
↓
生成AI
↓
月次報告文章
とします。
重要なのは、売上計算そのものをAIへ任せないことです。
正確な集計
→ 通常プログラム
結果の説明
→ 生成AI
と役割を分けます。
4．問い合わせ内容を自動分類する
問い合わせ管理システムへAIを追加し、
料金
契約
不具合
請求
解約
その他
のように分類できます。
例えば、
先月分の支払い明細をもう一度送ってください
という文章をAIが読み、
カテゴリ：請求
担当部署：経理
と判断します。
その結果を既存システムへ保存し、担当者振り分けに利用できます。
5．PDFやメールからデータを抽出する
現在、人がPDFを見ながら業務システムへ入力している場合にも利用できます。
例えば、
注文書PDF
↓
AI・OCR
↓
商品名
数量
納期
会社名
↓
既存受注システム
という処理です。
最終登録前に確認画面を表示することもできます。
6．自然な文章で業務データを検索する
例えば営業管理システムで、
今年まだ商談していない既存顧客を確認したい
と入力します。
システム側で条件へ変換し、対象顧客を検索する仕組みを作ることもできます。
ただし、AIに自由なSQLを生成させ、そのまま本番データベースへ実行するような設計には注意が必要です。
AI
↓
検索条件を構造化
↓
通常プログラム
↓
許可された条件だけでDB検索
のように、AIからデータベース操作を分離すると安全性を高めやすくなります。
7．RAGによる社内文書検索
既存システムから社内文書へ質問できるようにすることもできます。
例えば、業務システムの右側にAIチャットを追加します。
社員：
返品できる期間は？
↓
RAG
↓
返品規程を検索
↓
AI回答
返品は商品到着後7日以内です。
参照：
返品規程 第3条
RAGでは、自社文書の中から質問に関連する箇所を取得し、その情報を生成AIへ渡します。
現在のRAG基盤では、ベクトル検索だけでなくキーワード検索やハイブリッド検索、文書ごとのアクセス制御などを組み合わせる構成も利用されています。Azure AI SearchでもRAG向けにベクトル検索・ハイブリッド検索・権限制御などが提供されています。
8．既存システムからAIに外部処理を依頼する
生成AIは文章を返すだけでなく、
どの処理が必要か判断する
役割にも利用できます。
例えば、
ユーザー：
この顧客の次回打ち合わせを準備して
という依頼に対し、
顧客情報を取得
↓
過去商談を取得
↓
関連する提案資料を検索
↓
内容を要約
↓
次回確認事項を生成
という処理を行う構成です。
現在のLLM APIでは、モデルからアプリケーション側の機能を呼び出すためのFunction Callingなども利用できます。実際のデータ取得や更新処理はアプリケーション側で制御し、AIには必要な操作を選ばせる設計が可能です。
既存システムと生成AIを連携する基本構成
最も基本的な構成は次のとおりです。
ユーザー
↓
既存Webシステム
↓
バックエンドAPI
↓
生成AI API
↓
回答
↓
既存画面へ表示
例えば、
React・Next.js
↓
Java・Python・Node.jsなどのバックエンド
↓
生成AI API
という構成です。
既存システムの技術スタックを大きく変更する必要はありません。
APIキーをブラウザに直接置かない
生成AI APIを利用する場合、APIキーをフロントエンドへ直接記載する構成は避けます。
例えば、
ブラウザ
↓
OpenAI API
ではなく、
ブラウザ
↓
自社バックエンド
↓
生成AI API
とします。
バックエンド側で、
- 認証
- APIキー
- 利用制限
- ログ
- プロンプト
- エラー処理
などを管理します。
AIへ送るデータを必要最小限にする
例えば顧客履歴を要約する場合、
顧客テーブル全項目
を送る必要はありません。
必要なのが、
商談日時
商談内容
問い合わせ内容
担当者コメント
だけであれば、そのデータだけ取得します。
AIへ送る情報を減らすことで、
- 不要な情報送信を減らす
- トークン使用量を減らす
- 処理速度を改善する
- プロンプトを単純化する
といったメリットがあります。
RAGを既存システムへ追加する構成
自社文書検索を追加する場合は、次のような構成になります。
既存Webシステム
↓
質問
↓
RAG検索
↓
関連文書取得
↓
生成AI
↓
回答
↓
既存画面
検索対象として、
- Word
- FAQ
- マニュアル
- 社内規程
- 技術資料
- 過去事例
などを登録します。
例えばOpenAI APIにも、ファイルをVector Storeへ登録し、関連するチャンクを検索する仕組みが提供されています。
自前のベクトルデータベースやAzure AI Searchなどを利用することもできるため、文書量・権限管理・既存インフラに応じて構成を選びます。
RAGとデータベース検索は分けて考える
既存システムには、
マニュアル
のような文書データと、
顧客
注文
売上
在庫
のような構造化データが存在します。
両方を同じ方法で検索する必要はありません。
例えば、
返品ルールを知りたい
→ RAG
商品Aの現在庫を知りたい
→ データベース
とします。
AI
↓
質問内容を判断
├─ 文書情報 → RAG
└─ 業務データ → API・DB
という構成もできます。
既存システムにAIを組み込むメリット
新しいシステムを覚える必要が少ない
社員は普段使っている画面からAI機能を利用できます。
例えば、
顧客管理画面
に、
AIで要約
ボタンが一つ追加されるだけです。
AI専用ツールへ移動する必要がありません。
既存データを利用しやすい
すでにシステムへ保存されている、
- 顧客
- 商品
- 商談
- 問い合わせ
- 在庫
- 契約
などをAI機能から利用できます。
手動でAIへコピーする作業を減らせます。
小さく導入できる
例えば最初は、
顧客履歴要約
だけ追加します。
効果が確認できたら、
メール返信案
↓
社内資料検索
↓
問い合わせ分類
と広げられます。
既存システム全体を一度にAI化する必要はありません。
AIを使った結果を業務データとして保存できる
例えば、
AIが問い合わせを分類
↓
カテゴリをDBへ保存
とできます。
その後、
問い合わせカテゴリ別集計
などにも利用できます。
AIが単発ツールではなく、業務システムの一部になります。
既存システムへAIを組み込むデメリット・注意点
既存システムの構造を理解する必要がある
AI部分だけ作ればよいわけではありません。
現在の、
- ソースコード
- API
- データベース
- 認証
- 権限
- インフラ
を確認する必要があります。
古いシステムでは、AI追加より既存コードの調査に時間がかかる場合があります。
APIがないシステムもある
外部から操作できるAPIが用意されていない場合があります。
その場合は、
- 既存システム側へAPI追加
- データベース連携
- CSV
- RPA
など別の方法を検討します。
AIは必ず正しいとは限らない
生成AIには誤回答の可能性があります。
そのため、
AIが案を作る
↓
人が確認する
構成から開始できます。
特に、
- 金額
- 契約
- 顧客への重要連絡
- データ削除
- 支払い
などでは、AIだけで確定処理しない設計が重要です。
AIによるデータ更新は慎重に設計する
例えば、
この顧客を解約済みにして
という依頼からAIが自動的にDBを更新する仕組みも技術的には構築できます。
しかし、AIが対象顧客を間違えた場合の影響が大きくなります。
そこで、
AI
↓
解約処理を提案
↓
人が確認
↓
確定
↓
通常プログラムで更新
とします。
AIに直接データ更新権限を与えすぎないことが重要です。
AI機能追加で確認したいセキュリティ
既存システムには機密データが含まれる可能性があります。
AI導入時は、
- どの情報をAIへ送信するか
- 利用者が閲覧できるデータか
- APIキーの保存方法
- AI処理ログ
- 個人情報
- データ保存期間
- 権限管理
などを確認します。
特にRAGでは、
ユーザーが閲覧できない文書
を検索結果としてAIへ渡さないようにします。
権限制御は生成AIへ指示するだけではなく、検索・データ取得段階で行います。
AI機能を追加しやすい既存システム
次のようなシステムではAI活用を検討できます。
顧客管理システム
- 顧客履歴要約
- 商談準備
- 営業メール作成
- 次回アクション案
- 問い合わせ分類
問い合わせ管理システム
- 問い合わせ分類
- 緊急度判定
- FAQ検索
- 返信案作成
- 担当者振り分け
在庫管理システム
- 自然言語による在庫検索
- 在庫状況の要約
- 商品マニュアル検索
- 発注判断の補助
- レポート文章生成
在庫数の計算や更新は通常プログラムで行います。
販売管理システム
- 売上データの要約
- レポート生成
- 顧客別実績の説明
- 営業コメント作成
社内ポータル
- 社内規程検索
- マニュアル検索
- FAQ
- 申請方法案内
- 社内問い合わせAI
AI組み込みの開発方法
大きく分けると3つあります。
方法1．生成AI APIを直接組み込む
既存のバックエンドから生成AI APIを呼び出します。
既存システム
↓
独自バックエンド
↓
生成AI API
向いているケース
- 独自画面へ追加したい
- 細かな処理制御が必要
- 既存DBと連携したい
- 長期的に機能追加したい
自由度が最も高い方法です。
方法2．DifyなどをAI処理基盤として利用する
AI部分をDifyなどで構築し、既存システムからAPI経由で呼び出します。
既存システム
↓
Dify
↓
生成AI・RAG
向いているケース
- RAGを早く構築したい
- PoCしたい
- プロンプトを画面から変更したい
- AI Workflowを利用したい
独自開発量を抑えられる場合があります。
方法3．n8nなどで複数サービスをつなぐ
AIだけでなく、メール、Slack、CRMなども連携する場合です。
既存システム
↓
n8n
↓
AI
↓
Slack
↓
メール
向いているケース
- SaaS連携が多い
- 定期処理がある
- メール処理がある
- APIを複数つなぎたい
必要に応じて、
既存システム
+
Dify
+
n8n
のような構成もできます。
ただし、ツールを増やすほど保守対象も増えるため、必要最小限にします。
既存システムにAIを組み込む手順
1．現在の業務課題を決める
最初から、
システムをAI化したい
と考えないことが重要です。
例えば、
顧客履歴確認に毎回10分かかる
問い合わせ返信に月50時間かかる
など、具体的な課題を設定します。
2．既存システムの構成を確認する
確認する内容は次のとおりです。
- 使用言語
- フレームワーク
- データベース
- 認証方法
- API
- インフラ
- ソースコードの有無
例えば、
Next.js
PostgreSQL
AWS
のような構成を確認します。
JavaやPythonで構築された既存システムでも、API経由で生成AIを利用できます。
3．AIに必要な入力データを決める
例えば顧客要約なら、
顧客基本情報
+
商談履歴
+
問い合わせ履歴
だけを使います。
必要のない個人情報までAIへ送らないようにします。
4．期待する出力を決める
例えば、
顧客状況を5行で要約
現在の課題
次回確認事項
とします。
出力を具体的に定義することで精度を評価しやすくなります。
5．PoCを作る
最初は小さく実装します。
例えば、
既存顧客画面
+
AI要約ボタン
だけ作ります。
実際のデータで効果を確認します。
6．AI出力を評価する
例えば100件の顧客で、
そのまま使える
少し修正が必要
大きく間違っている
などを評価します。
7．本番システムへ組み込む
PoCで効果が確認できたら、
- 認証
- ログ
- エラー処理
- 利用制限
- 権限管理
- 監視
などを追加します。
8．利用状況から改善する
本番導入後は、
AI利用回数
だけではなく、
作業時間が何時間減ったか
を確認します。
業務効果が小さければ、AI機能そのものを見直します。
既存システムへのAI組み込み費用
費用は追加する機能によって異なります。
大まかな目安としては次のとおりです。
| 開発内容 | 費用の目安 |
|---|---|
| 要約・文章生成ボタン | 10万円〜30万円程度 |
| AI分類・データ抽出 | 20万円〜50万円程度 |
| AIチャット機能追加 | 30万円〜100万円程度 |
| RAGによる文書検索 | 50万円〜150万円程度 |
| 既存DB・APIとの複雑な連携 | 80万円〜200万円以上 |
| 権限管理・管理画面を含むAI機能 | 100万円〜300万円以上 |
実際には、
- 既存ソースコードの状態
- APIの有無
- データ構造
- RAG
- 認証
- 権限管理
- AIに任せる範囲
によって変わります。
AI機能を安く追加するポイント
一つの機能から始める
例えば、
AIチャット
RAG
メール
レポート
問い合わせ分類
をすべて一度に追加する必要はありません。
最も時間がかかっている業務を一つ選びます。
既存画面を再利用する
新しいAI専用管理画面を作らず、
既存画面
+
AIボタン
にできれば開発範囲を減らせます。
既存DBをそのまま利用する
新しいデータベースを作らず、現在の業務データを利用できる場合があります。
ただし、AIから必要以上のデータへアクセスできないようにします。
まずAIに「実行」させず「提案」させる
例えば、
AIが顧客情報を更新
ではなく、
AIが更新内容を提案
↓
人が確認
↓
システムが更新
とすれば、初期設計を単純にしながら安全性も高められます。
AIを組み込まない方がよい処理
既存システムのすべてに生成AIを追加する必要はありません。
例えば、
- 売上合計
- 在庫数計算
- 日付計算
- CSV作成
- 必須入力チェック
- 定型的な条件分岐
は通常プログラムの方が適しています。
例えば、
在庫数が0なら「在庫切れ」と表示
という処理にAIは不要です。
一方、
最近の在庫推移を分かりやすく説明して
なら生成AIを利用できます。
既存システムへのAI組み込みに関するよくある質問
古い業務システムにもAIを追加できますか？
可能な場合があります。
API、データベース、ソースコードなど、既存システムから必要なデータへアクセスできるか確認します。
APIがない場合でも、既存システム側へAPIを追加する方法があります。
Javaで作られたシステムでも生成AIを利用できますか？
可能です。
生成AIサービスはHTTP APIとして利用できるため、Java、Python、TypeScriptなどさまざまなバックエンドから連携できます。
Next.jsのWebシステムにも組み込めますか？
可能です。
サーバー側からAI APIを呼び出し、既存画面へ回答を表示できます。
AIを使うためにデータベースを変更する必要がありますか？
必ずしも必要ではありません。
現在のDBから必要なデータを取得してAIへ渡せる場合があります。
AIの実行履歴などを保存する場合は、新しいテーブルを追加することがあります。
社内PDFを検索できるようにできますか？
可能です。
RAGを追加し、PDFやマニュアルなどから質問に関連する情報を検索できます。
AIがデータベースを更新することもできますか？
技術的には可能です。
ただし、重要な更新では人による承認を入れ、AIが直接自由にDB操作できない構成が安全です。
ChatGPTの画面を使うのと何が違いますか？
既存システムに組み込むと、現在の業務データを自動的に取得できます。
毎回データをコピーしてChatGPTへ貼り付ける必要がありません。
既存システムを全部作り直す必要がありますか？
ありません。
現在のシステムを残し、特定画面や特定処理だけAI化できる場合があります。
hiro-dev-labの既存システム・生成AI組み込み開発
hiro-dev-labでは、既存Webシステムや業務システムへの生成AI機能追加を支援しています。
主な対応内容は次のとおりです。
- 既存Webシステムへの生成AI API連携
- AIによる文章要約
- メール・文章生成
- 問い合わせ分類
- RAGによる社内文書検索
- PDF・メールからの情報抽出
- AIチャット機能
- データベース連携
- 外部API連携
- Difyとの連携
- n8nによる業務自動化
- Python・TypeScriptを使ったAI連携
- 小規模なPoC
- AI機能追加後の改善
新しいAIシステムを一から作ることだけを前提にはしません。
現在利用しているシステムを確認し、
既存機能
↓
そのまま利用
時間がかかっている処理
↓
AIを追加
という方法も検討できます。
既存システムへのAI導入は「小さな機能追加」から始められる
生成AIを導入するために、業務システム全体を作り直す必要はありません。
例えば、
顧客履歴の要約
問い合わせの分類
メール返信案
社内文書検索
PDFデータ抽出
といった一機能だけを追加できます。
基本的には、
既存システム
↓
必要な業務データを取得
↓
AI API・RAG
↓
結果を既存画面へ戻す
という構成です。
そして、
文章の理解・生成
→ AI
正確な計算・DB処理
→ 通常プログラム
重要な判断
→ 人
と役割を分けます。
最初から大規模なAI導入を行うのではなく、
現在時間がかかっている業務を特定
↓
AI機能を一つ選ぶ
↓
小規模なPoC
↓
実際の業務データで検証
↓
効果を確認
↓
既存システムへ本格実装
という順番で進める方法が現実的です。
「現在使っている業務システムへAIを追加したい」
「システムを作り直さず生成AIを導入したい」
「既存DBとRAG・生成AIを連携したい」
「まず一つのAI機能だけ試したい」
このような段階からでも、お気軽にお問い合わせください。
既存システムへの生成AI組み込みについて相談する