AIシステムの保守費用は？運用・精度改善・API変更への対応を解説

「AIシステムは開発した後にも保守費用がかかる？」

「ChatGPT APIを組み込んだだけなら保守は不要？」

「RAGは一度構築したら、そのまま使い続けられる？」

「月額の保守費用として、どのくらい見ておけばよい？」

生成AIを利用したシステムを導入するとき、開発費だけでなく導入後の保守・運用費用も考えておく必要があります。

一般的なWebシステムでも、

サーバー監視

障害対応

セキュリティ更新

ライブラリ更新

バックアップ

機能改善

などの保守が必要です。

AIシステムでは、さらに、

AIモデルの変更

AI APIの仕様変更

回答精度の監視

プロンプト改善

RAGデータ更新

Embeddingの再生成

AI API料金の監視

AIエージェントの実行監視

などが追加されます。

特に生成AIの周辺技術は変化が速く、利用中のAPIやモデルが永続的に同じ仕様で提供されるとは限りません。

実際、OpenAIではAssistants APIが非推奨となっており、2026年8月26日に終了予定としてResponses APIへの移行が案内されています。Google CloudでもVertex AI Extensionsが非推奨となり、2026年11月26日以降の停止に向けてAgent Platformへの移行が案内されています。

つまりAIシステムは、

作ったら完成

ではなく、

開発
↓
運用
↓
監視
↓
改善
↓
モデル・API変更
↓
再評価

を繰り返すシステムとして考える必要があります。

この記事では、AIシステムの保守費用相場、保守で必要になる作業、RAG・AIエージェント特有の運用、費用を抑える方法まで解説します。

AIシステムの保守費用の目安

AIシステムの保守費用は、システム規模や重要度によって大きく異なります。

小規模な業務システムを想定すると、概算として次のようなイメージです。

AIシステム	月額保守費用の目安
小規模なAI機能	1〜5万円
小規模RAG・社内AI	3〜10万円
業務システム＋AI	5〜20万円
複数システム連携	10〜30万円
AIエージェント	10〜50万円以上
大規模・高重要度システム	個別見積

あくまで一般的な目安です。

例えば同じRAGでも、

社内10人だけが利用

する場合と、

顧客1万人が利用

する場合では、必要な監視・障害対応・インフラ構成が異なります。

また、上記とは別に、

AI API利用料

クラウド

DB

Vector DB

監視サービス

外部SaaS

などの実費が発生する場合があります。

「保守費用」と「AI API料金」は別に考える

ここは重要です。

例えばOpenAI APIを利用している場合、

AI API利用料

は利用量に応じて発生します。

現在のOpenAI APIでもモデルごとに入力・出力トークン単価が異なり、高性能モデル・コスト重視モデルなど複数の選択肢があります。

一方、

保守費用

は、

システムを正常に動かし続ける

問題発生時に対応する

AI精度を確認する

API変更へ対応する

ための人件費・技術対応費です。

例えば、

AI API：
月2万円

クラウド：
月1万円

保守：
月5万円

なら、

月間運用費：
約8万円

となります。

AIシステムの運用費を構成するもの

大きく分けると、

1．AI API費用

2．インフラ費用

3．保守・障害対応

4．AI精度改善

5．データ管理

6．セキュリティ

7．外部サービス変更対応

があります。

順番に見ていきます。

1．AI API利用料

生成AIシステムでは、

入力トークン

出力トークン

画像

音声

検索

Tool

などによって料金が発生する場合があります。

例えば、

社内FAQ：
月10,000回

利用されるとします。

1回あたり、

平均API費用：
1円

なら、

約1万円／月

です。

一方で、長いPDFを毎回大量に渡したり、高価格帯モデルを利用したりすれば費用は増えます。

そのため保守では、

月間リクエスト

input tokens

output tokens

利用モデル

機能別費用

を監視します。

2．クラウド・サーバー費用

AI以外にも通常のシステム費用があります。

例えば、

Vercel

AWS

Google Cloud

Azure

VPS

PostgreSQL

Redis

などです。

RAGなら、

Vector DB

も必要になる場合があります。

構成例としては、

Webアプリ
↓
バックエンド
↓
PostgreSQL

+
Vector DB

+
生成AI API

です。

これらのインフラ利用料も月額運用費に含めて考えます。

3．障害対応

AIシステムでも通常のWebシステムと同じように障害が発生します。

例えば、

AI APIがタイムアウト

DB接続エラー

外部API停止

認証エラー

Vector DB接続失敗

サーバー障害

などです。

保守契約では、

障害調査

原因特定

復旧

必要に応じた修正

を行います。

障害時の重要度を決める

例えば、

レベル1
一部AI機能が利用できない

レベル2
主要機能が利用できない

レベル3
サービス全体が停止

と分けます。

業務への影響に応じて対応優先度を決めます。

AIが停止しても業務を続けられる設計も重要

例えば、

AI API停止
↓
問い合わせ受付自体も停止

すると業務影響が大きくなります。

そこで、

AI正常時
↓
AIで回答案生成

AI障害時
↓
通常の問い合わせフォーム

というFallbackを用意します。

AIがなくても最低限の業務を続けられるようにします。

4．AI API・モデルの変更対応

AIシステム特有の保守です。

生成AIサービスでは、

新モデル追加

旧モデル終了

API変更

SDK変更

Tool仕様変更

などが発生します。

Google CloudのVertex AIでもモデルごとにライフサイクルがあり、安定版モデルにも退役日が設定され、その後はアクセスできなくなる仕組みです。実際にGemini 2.5系モデルの退役予定日変更なども公式リリースノートで継続的に案内されています。

そのため、

現在動いている
=
来年もそのまま動く

とは限りません。

モデル変更では単純に名前だけ変えない

例えば、

Model A
↓
Model B

へ変更するとします。

新しいモデルでは、

回答内容

文章量

Tool選択

JSON出力

レスポンス速度

API料金

が変化する可能性があります。

そのため、

新モデル
↓
テスト環境
↓
評価データ実行
↓
旧モデルと比較
↓
問題確認
↓
本番切替

とします。

5．AI回答精度の監視

通常のシステムなら、

2 + 2 = 4

のように結果が明確です。

生成AIでは、

同じ意味の質問

でも回答表現が変わります。

そのため、

HTTP 200

だけでは正常とは言えません。

例えば社内FAQなら、

回答できたか

回答内容は正しいか

参照文書は正しいか

存在しない内容を作っていないか

を確認します。

AI評価データを用意する

例えば、

質問：
経費申請の締め日は？

期待回答：
毎月25日

参照：
経費精算規程 第5条

のようなテストケースを100件用意します。

モデル・プロンプト・RAGを変更したときに、

100件
↓
自動評価・人手確認
↓
精度比較

します。

これによって、

変更したら
以前答えられた質問に
答えられなくなった

という問題を発見しやすくなります。

6．プロンプト改善

AIシステムではプロンプトもシステムの一部です。

例えば、

回答が長すぎる

勝手に推測する

JSON形式を守らない

不要な説明が多い

といった問題が見つかることがあります。

そこで、

利用ログ
↓
問題ケース抽出
↓
プロンプト改善
↓
テスト
↓
本番反映

とします。

プロンプトにもバージョンを付ける

例えば、

customer-support-v1

↓

customer-support-v2

とします。

ログには、

prompt_version:
v2

を記録します。

これによって、

いつから回答品質が変わったか

を追跡できます。

7．RAGデータの更新

RAGを利用している場合、AIモデル以上に重要になることがあります。

例えば、

就業規則

商品マニュアル

料金表

社内FAQ

が変更されたとします。

RAG側のデータが古いままなら、AIは古い情報を回答します。

そのため、

元文書更新
↓
RAGデータ更新
↓
Embedding更新
↓
検索確認

が必要です。

RAGは一度登録して終わりではない

例えば、

料金表2026年4月版

を登録した後、

料金表2026年10月版

が公開されたとします。

旧文書が検索対象のままだと、

旧料金

新料金

の両方が取得される可能性があります。

そのため、

最新版
→ active

旧版
→ archive

など、文書ステータスを管理します。

8．RAG検索精度の改善

AIが間違える原因が、

生成AI

ではなく、

検索

の場合があります。

例えばユーザーが、

海外出張の宿泊費はいくら？

と質問したのに、

国内出張規程

が検索された場合です。

保守では、

検索クエリ

取得文書

検索スコア

AI回答

を確認します。

必要に応じて、

チャンクサイズ

メタデータ

Embeddingモデル

検索件数

Hybrid Search

Reranking

などを改善します。

9．Embeddingモデル変更への対応

RAGではEmbeddingモデルを利用する場合があります。

Embeddingモデルを変更する場合、

既存Vector

と、

新Embedding

に互換性がないことがあります。

その場合、

既存文書
↓
再Embedding
↓
Vector DB更新

が必要になります。

文書数が多ければ、移行作業・API利用料も考慮します。

10．AIエージェントのTool監視

AIエージェントでは、回答だけでなく実際の操作を行います。

例えば、

AI
↓
CRM検索
↓
顧客更新
↓
メール送信

です。

この場合、

回答がおかしい

だけではなく、

誤ったToolを実行した

可能性があります。

そのため、

Tool名

入力値

実行結果

実行者

承認者

エラー

などをログで確認します。

エージェントのループ異常も監視する

例えば、

AI
↓
検索
↓
再検索
↓
再検索
↓
再検索

を繰り返す場合があります。

これによって、

API費用増加

レスポンス遅延

Rate Limit

につながる可能性があります。

そこで、

最大ステップ数

最大Tool実行数

最大API費用

タイムアウト

などを設定します。

11．AI APIコストの監視

正常に動いていても、

先月：
2万円

今月：
15万円

とAPI料金が急増する可能性があります。

原因として、

利用者増加

長い入力

長いAI出力

モデル変更

AIエージェントのループ

大量Retry

などがあります。

そのため、

日別利用量

モデル別利用量

機能別利用量

ユーザー別利用量

を確認します。

利用機能ごとの費用を見る

例えば、

AI機能	月額
社内FAQ	8,000円
文書要約	12,000円
レポート生成	5,000円
AIエージェント	80,000円

となっていれば、

AIエージェント

を優先的に改善できます。

12．ログ・監視

AIシステムでは、

アプリケーションログ

AI実行ログ

RAG検索ログ

Tool実行ログ

監査ログ

を組み合わせます。

例えば、

request_id

user_id

model

prompt_version

input_tokens

output_tokens

latency

status

などです。

RAGなら、

retrieved_document

も記録します。

これによって障害・誤回答の原因を追跡できます。

外部AI側の保存仕様も確認する

AIサービス側のデータ保持方針も変更・確認対象になります。

例えばOpenAI APIでは、標準のabuse monitoring logsについて最大30日の保持が説明されており、対象顧客向けにはZero Data Retentionなどのデータ管理オプションもあります。

自社側でも、

何をログ保存するか

何日保存するか

誰が閲覧できるか

を管理します。

13．セキュリティ対応

一般的なWebシステムと同じように、

ライブラリ

OS

Docker Image

認証

アクセス権限

秘密情報

などを更新します。

さらにAIでは、

Prompt Injection

Tool悪用

機密情報入力

RAGアクセス制御

なども考慮します。

APIキーのローテーション

生成AI APIキーを、

ソースコードへ直接記載

するのではなく、

環境変数

Secret Manager

などで管理します。

必要に応じて、

APIキー更新
↓
Secret更新
↓
アプリ反映

を行います。

14．外部サービス連携の仕様変更

AIシステムでは、

Slack

Google Workspace

CRM

Notion

Salesforce

各種SaaS

などを連携することがあります。

外部サービスの、

API変更

認証変更

Webhook変更

SDK更新

によって動かなくなる可能性があります。

つまりAIシステムの保守対象は、

AI APIだけ

ではありません。

AI
+
接続しているすべての外部システム

です。

15．利用データの変化への対応

例えば問い合わせAIを導入して半年後、

導入当初：
商品Aについての質問が中心

半年後：
商品Bについての質問が増加

する可能性があります。

利用傾向が変われば、

FAQ追加

RAG文書追加

プロンプト変更

UI改善

などが必要になります。

AI保守では、

ユーザーが実際に
何を質問しているか

を見ることも重要です。

AIシステムの保守内容を3段階に分ける

例えば次のように分けられます。

最低限の保守

障害対応

API変更確認

セキュリティ更新

バックアップ

稼働監視

標準保守

最低限の内容に加えて、

AI利用量確認

RAGデータ更新

ログ確認

軽微なプロンプト改善

モデル変更検証

を行います。

継続改善型

さらに、

AI精度評価

RAG改善

コスト最適化

新モデル評価

AIエージェント改善

業務フロー改善

を継続します。

AI保守費用の具体例

例えば社員50人向けの社内RAGを想定します。

構成：

Web画面

ユーザー認証

生成AI API

Vector DB

Google Drive文書

利用ログ

保守内容：

月1回の利用状況確認

軽微な障害対応

RAG文書更新

API変更確認

プロンプト調整

AI APIコスト確認

なら、

月3〜10万円程度

から検討できるケースがあります。

一方、

AIが顧客へ直接回答

複数業務システムと連携

24時間利用

AIエージェントが更新操作

大量アクセス

となれば、

月10〜50万円以上

になる可能性があります。

初期開発費の何％を保守費にすればよい？

一般システムでは、

開発費の一定割合

を年間保守費として考えることもあります。

ただしAIシステムの場合は、

初期開発費

だけから計算するより、

利用者数

業務重要度

AI機能数

RAG規模

外部連携数

必要な対応速度

から見積もった方が実態に合います。

例えば、

開発費100万円

でも、

社内10人だけで利用

なら保守負担は小さいかもしれません。

逆に、

開発費100万円
+
顧客1万人が利用

なら、高い監視レベルが必要になる可能性があります。

保守契約で確認しておきたい項目

見積を比較するときは、単に、

月額5万円

だけで比較しないことが重要です。

確認したいのは、

何が含まれているか

です。

例えば、

□ 障害対応

□ 問い合わせ対応

□ AI API変更対応

□ モデル変更対応

□ セキュリティ更新

□ RAGデータ更新

□ プロンプト修正

□ AI精度確認

□ APIコスト監視

□ 外部サービス変更対応

□ 軽微な改修

□ 月次レポート

です。

「障害保守」と「改善保守」を分ける

例えば、

AIが動かない

への対応と、

AIの回答精度を
さらに上げたい

では作業内容が違います。

そのため、

保守契約
↓
正常稼働を維持

改善開発
↓
精度・機能を向上

と分ける場合もあります。

例えば月額保守では、

月5時間まで

の軽微な対応を含み、それ以上の改善は別途見積とする方法です。

AIシステム保守費用を抑える方法

1．マネージドAI APIを使う

自社でGPU・LLMを運用すると、

GPU

モデルサーバー

スケーリング

モデル更新

なども管理する必要があります。

小規模なシステムなら、

OpenAI API

Gemini API

Azure OpenAI

Vertex AI

などのマネージドサービスを利用した方が保守負担を抑えられる場合があります。

2．AIを使う部分を限定する

例えば、

計算

条件判定

DB検索

までAIに任せると複雑になります。

文章理解
↓
AI

計算
↓
プログラム

データ取得
↓
DB

最終処理
↓
プログラム

と分けます。

システムが決定論的になるほどテスト・保守しやすくなります。

3．モデルをコードの各所へ直接書かない

例えば、

model = "xxxxx"

が50か所に存在すると変更が大変です。

AI_MODEL=xxxxx

など、設定を一元管理します。

モデル変更時に修正箇所を減らせます。

4．AIサービスを抽象化する

例えば、

AIService.generate()

を通してAPIを利用します。

そうすれば、

OpenAI
↓
別モデル

などへ変更するときも影響範囲を抑えやすくなります。

5．評価データを作る

AI変更のたびに、

担当者が適当に質問して確認

するのではなく、

評価質問100件

を準備します。

変更時の確認時間を削減できます。

6．RAGデータ更新を自動化する

例えば、

Google Drive
↓
更新ファイル検知
↓
自動解析
↓
Embedding
↓
Vector DB更新

とします。

毎月エンジニアが手動でPDFを登録する必要を減らせます。

7．監視・アラートを自動化する

例えば、

エラー率5％超過

AI料金が日次上限超過

レスポンス10秒超過

した場合に、

Slack通知

します。

異常に早く気付けるようにします。

AIシステム保守のチェックリスト

AI

□ 利用モデルを把握している

□ モデル終了予定を確認している

□ API変更を確認している

□ プロンプトバージョンを管理している

□ 評価用データがある

RAG

□ 元文書が最新版になっている

□ 古い文書を除外している

□ Embedding更新方法が決まっている

□ 検索精度を確認している

□ アクセス権限を維持している

運用

□ API利用量を記録している

□ AI API料金を監視している

□ エラー率を確認している

□ ログを取得している

□ バックアップがある

セキュリティ

□ APIキーを安全に管理している

□ ライブラリを更新している

□ AIへ必要以上の情報を渡していない

□ Toolへ最小権限を設定している

障害

□ AI停止時の動作が決まっている

□ 外部API障害を想定している

□ Retry上限がある

□ 人へ切り替えられる

AIシステム保守でよくある失敗

AI APIはずっと同じだと思う

モデルやAPIには終了・変更があります。

継続的に公式情報を確認します。

AIが動いているから精度も問題ないと思う

HTTP上は成功していても、回答品質が低下している可能性があります。

RAGを導入時から更新しない

元文書の変更に合わせて更新します。

API料金を確認しない

AIエージェントなどでは急増する可能性があります。

ログを残していない

誤回答・障害の原因を追跡できません。

モデル変更後にテストしない

モデルの特性が変わり、既存機能へ影響する可能性があります。

保守契約の範囲が曖昧

精度改善も保守に含むのか

機能追加は別料金か

を事前に決めます。

AIシステム保守に関するよくある質問

AIシステムは保守契約が必要ですか？

必須ではありません。

社内に対応できるエンジニアがいる場合は、自社で保守することもできます。

ただし、AI API・外部サービス・RAGなどを利用している場合は、誰が変更や障害へ対応するのか決めておくことをおすすめします。

ChatGPT APIを使っているだけでも保守は必要ですか？

小規模な機能なら保守負担は比較的小さくできます。

一方で、APIやモデルにはライフサイクルがあり、移行が必要になることがあります。実際にOpenAIでも旧APIから新しいAPIへの移行が案内されています。

RAGはどのくらいの頻度で更新すればよいですか？

文書の更新頻度によります。

例えば社内規程が変更された場合は、速やかにRAG側も更新した方がよいでしょう。

毎月更新ではなく、

元データが変更されたら同期

という仕組みも検討できます。

AIモデルは常に最新版へ変更すべきですか？

必ずしも必要ありません。

新しいモデルが出ても、

精度

料金

速度

既存プロンプトとの相性

を評価してから変更します。

AIの回答精度改善は保守費に含まれますか？

契約によります。

軽微なプロンプト改善は保守内、大規模なRAG再設計・新機能追加は別途開発とする契約もあります。

AI API料金も保守費に含まれますか？

通常は別にすることが多いでしょう。

例えば、

保守費
+
OpenAI API実費
+
クラウド実費

という構成です。

契約時に確認してください。

hiro-dev-labのAIシステム運用・保守支援

hiro-dev-labでは、生成AIを組み込んだWeb・業務システムについて、開発だけでなく運用を考慮した設計を支援しています。

例えば、

OpenAI APIなどを利用したAI機能
AI APIのモデル変更対応
RAGシステム
RAGデータ更新
プロンプト改善
AI利用ログ
API利用量・コスト管理
AIエージェントのTool監視
Google Workspace・Slack等とのAPI連携
外部サービスの仕様変更対応
Python・TypeScriptによるAIシステム開発
既存WebシステムへのAI機能追加

などを検討できます。

例えば、

AIシステム
↓
ログ
├─ 利用モデル
├─ Token
├─ エラー
├─ RAG検索
└─ Tool実行

↓

定期確認

↓

必要に応じて
モデル・プロンプト・RAGを改善

という運用です。

AIシステムは「開発費」だけでなく「変化へ追従する費用」まで考える

生成AIシステムの保守で特徴的なのは、

システム自体を
変更していない

場合でも、

AIモデル

AI API

外部SaaS

料金体系

利用データ

が変化する可能性があることです。

OpenAIやGoogle Cloudでも、API・モデル・関連サービスの非推奨化や終了予定は継続的に発生しています。

そのためAIシステムを導入するときは、

初期開発費

だけではなく、

AI API費

クラウド費

障害保守

モデル・API変更

RAG更新

AI精度改善

セキュリティ更新

まで含めて年間コストを考えることが重要です。

例えば小規模システムなら、

AI API・クラウド
+
月数万円程度の保守

から始められるケースがあります。

一方、

顧客向けサービス

大量アクセス

複数システム連携

AIエージェント

重要業務

になるほど、監視・障害対応・品質管理へ必要なコストも増えます。

重要なのは、

とにかく安い保守

を選ぶことではありません。

このAIシステムが止まった場合、
会社へどの程度影響するか

から必要な保守レベルを決めます。

AIシステムを導入する場合は、

1．月間利用量を想定する

2．AI API費を試算する

3．インフラ費を試算する

4．障害時の影響を整理する

5．API・モデル変更対応を決める

6．RAG更新方法を決める

7．AI精度の評価方法を作る

8．ログ・監視を設定する

9．保守と改善開発の範囲を分ける

10．年間の運用費として予算化する

という流れがおすすめです。

「AIシステムを開発した後の維持費を知りたい」

「RAGを導入したが、運用方法まで設計したい」

「利用中のAIモデル・API変更へ対応してほしい」

「AIシステムの開発から保守まで継続して相談したい」

このような段階からでも、お気軽にお問い合わせください。

AIシステム開発・運用保守について相談する