クラウドAIの利用料を削減するには？ 設計部門がローカルAIへ移行する進め方

生成AIを設計業務に取り入れる企業が増える一方、利用者や処理量の増加に伴い、クラウドAIの利用料が増大するケースも見られます。特にAIエージェントや社内RAGは、一度の指示で大量のトークンを消費するため、月々の費用を予測しにくい点が課題となっています。

本記事では、設計者50名の製造業を想定し、クラウドAIの利用料が増える原因と、検索・要約などの定型処理をワークステーションで実行する「ローカルAI」へ移行する方法を解説します。利用規模に応じた機種の選定や、クラウドAIとの使い分け、投資回収の目安も解説します。

この記事で分かること

  • クラウドAIの利用料が急増する原因
  • クラウドAIとローカルAIを使い分ける考え方
  • 利用規模に合わせたワークステーションの選び方
  • ＊ 本ページは、業務上で想定される課題と解決の進め方を分かりやすく紹介するために作成した架空のケーススタディです。実在する企業・組織の導入事例ではなく、記載している効果や結果を保証するものではありません。

想定する企業のプロフィール

業種産業機械メーカー（装置の設計・製造）
規模従業員約500名、設計開発部約50名
（機械設計・電気設計・ソフトウェア）
体制設計開発部が生成AIの活用を主導。クラウドAIの契約・利用料管理は情報システム部門が担当。AIの専任担当者はおらず、社内ツールの開発経験がある設計者数名が兼務で運用を担当
既存環境クラウドAIのAPI（従量課金）を使い、図面・設計標準書・不具合履歴を検索する社内RAGを構築。CAD用ワークステーションは2021年前後に導入したもので、AI推論向けのGPUは未搭載
検討状況AIエージェント機能の試行を始めてから利用料が大きく増え、情報システム部門・経理部門から見直しを求められている。利用を継続しながらコストを抑える方法を探している段階

現場で起きていること

AIの利用料が月ごとに読めない

試行開始当初は少額だった請求額が、利用者の増加に伴って増えていきました。特にAIエージェント機能を使い始めてからは、一度の指示に対してAIが検索、資料の読み込み、結果の検証や再処理を繰り返すため、数十万～数百万トークンを消費することもあります。月末まで請求額が分からず、年間予算が立てられない状態です。

「使いすぎ注意」で、設計者がAIを使わなくなった

コストを抑えるため、一人当たりの利用回数に上限を設け、「使いすぎ注意」と周知しました。その結果、設計者は「この質問に使ってよいのか」と迷うようになり、利用そのものが減少。必要な情報を探す時間を減らすという本来の目的から遠ざかってしまいました。

図面や不具合履歴を、AIに渡せない

RAGの検索対象として最も効果が見込めるのは、図面・仕様書・不具合履歴といった技術情報です。しかし、これらを社外のサービスに送ることには社内の合意が得られず、AIに読み込ませられるのは公開済みの資料や一般的な文書に限られていました。

なぜ改善が進まないのか

クラウドAIの利用料は、主にAIに渡す入力トークンとAIが返す出力トークンの量に応じて決まります。設計部門では、「AIエージェント化」「全員による日常的な利用」「機密データの壁」という三つの要因が重なることで、利用料が急増しやすくなります。

AIエージェントは、自律的に検索や資料の読み込み、結果の検証、再処理を行います。そのため、人が一度質問しただけでも、裏側では何度も資料の読み込みが発生します。また、図面や不具合履歴を検索するRAGは、利用者数、利用回数、資料の読み込み量に応じてトークン消費量が増えるため、活用が進むこと自体がコスト増につながります。

設計者50名が一人1日当たり入力100万、出力10万トークンを使用し、月20日稼働した場合、クラウドAIの利用料は月90万円、年間で1,000万円を超える試算になります。単価は100万トークン当たり入力4ドル、出力20ドルとし、為替レートは1ドル＝150円として計算しています。

つまり、課題の根本は「使うほど費用が増える」という課金の構造にあります。トークン使用量に応じた従量課金に左右されにくい形で推論を実行できれば、コスト、利用制限、機密データの取り扱いという三つの課題をまとめて見直せます。その手段が、AIの推論を手元のワークステーションで実行する「ローカルAI」です。

どこから手を付けるか

  1. 使っている処理を棚卸しし、ローカルに移す範囲を決める

    いきなりすべての処理をローカルAIへ移す必要はありません。まずはクラウドAIの利用状況を確認し、どの処理で多くのコストが発生しているかを把握します。

    クラウドAIの管理画面から利用状況を出力し、APIキー別、モデル別にトークン消費量を確認します。機能ごとの利用状況が分からない場合は、APIキーやプロジェクトを用途別に分けて1～2カ月計測するか、社内システム側でリクエストごとのトークン数を記録すると、処理ごとの内訳を把握できます。

    図面・不具合履歴の検索、資料の要約、AIエージェントによる定型処理など、毎日大量に実行される処理はローカルAIへの移行候補です。一方で、高度な推論が必要な処理や利用頻度の低い処理は、クラウドAIを継続利用する選択肢もあります。

    まずは利用状況を可視化し、ローカルAIへ移行する業務とクラウドAIの利用を継続する業務を切り分けましょう。

  2. 利用規模に合わせてワークステーションを選び、AI利用コストを予測しやすくする

    ローカルAIに必要な性能は、主に利用人数、同時利用数、実行するAIモデルの規模、処理内容によって決まります。個人・チーム利用、部門利用、全社利用という三つの利用規模で考えると、自社に適した構成を選びやすくなります。

    個人・チーム利用の場合：
    HP ZGX Nano AI Stationは、NVIDIA GB10と128GBの統合メモリを搭載し、最大2,000億パラメータ級のモデルに対応します。小規模な検証やスモールスタートに適した構成です。

    部門利用の場合：
    HP Z8 Fury G5 Workstationは、NVIDIA RTX PRO 6000 Blackwell（96GB）に対応し、GPUを最大4基まで搭載できます。GPUを1基から導入できるため、利用状況に応じて段階的に拡張できます。

    全社利用の場合：
    HP ZGX Fury AI Stationは、NVIDIA GB300と748GBメモリを搭載し、最大1兆パラメータ級（FP4）の推論に対応します。複数部門で利用する社内AI基盤として活用できます。

    本ケースでは、HP Z8 Fury G5 WorkstationにNVIDIA RTX PRO 6000を2基搭載する構成を想定しました。投資額を約1,000万円とし、クラウドAI利用料の全額を削減できると仮定した単純計算では、投資回収期間の目安は、月90万円の場合で約11カ月、月45万円の場合で約22カ月、月180万円の場合で約6カ月です。

    NVIDIA DGX Spark 製品情報

  3. 社外に出せないデータを活用し、AIの活用範囲を広げる

    ローカルAIでは推論処理を社内環境で実行するため、外部サービスへデータを送信しない構成にすることで、AIに渡したデータを社内環境にとどめて処理できます。そのため、図面や仕様書、不具合履歴など、これまでクラウドAIで活用しづらかったデータも活用しやすくなります。

    まずは設計標準書や過去の不具合報告書など、機密性や業務上の重要度が比較的低いデータからRAGの検索対象に追加し、検索精度や閲覧権限、運用ルールを確認しながら段階的に対象を広げることをおすすめします。

    一方で、ローカルAIの導入で課題になりやすいのが「運用できる人材の確保」です。HP ZGX Nano AI StationはNVIDIA DGX OS（Linux）を搭載しているため、LinuxやAIモデルの運用知識が求められます。

    社内に専門人材がいない場合は、大塚商会の「業務プロセス自動化AIサービス」のような伴走支援を活用する方法もあります。ヒアリングから試作、レビュー、改善、環境構築、運用開始までを段階的に支援します。運用定着やAI人材育成の支援も含まれるため、最終的には自社で運用できる体制づくりを目指せます。

    「業務プロセス自動化 AIサービス」を提供

どう変わるか

改善前の業務課題

  • 従量課金のため月末まで請求額が分からず、利用が増えるほど費用が増大する
  • 利用回数の上限や「使いすぎ注意」の周知で、設計者がAIを使わなくなる
  • 図面・仕様書・不具合履歴などの技術情報を社外へ送れない
  • 利用部門の拡大に伴って利用量と費用が増えるため、全社展開の稟議が通りにくい
  • クラウドAIの利用料を予測できず、年間の予算計画を立てにくい

改善後

  • 定常的な処理をローカルへ移し、AI利用費を計画しやすくなる
  • 従量課金を過度に気にせず、日常業務でAIを使えるようになる
  • データを社外に出さず、図面や不具合履歴をAIで検索できるようになる
  • 利用規模に合わせて、段階的に設備投資できるようになる
  • ローカルとクラウドを使い分け、コストと回答品質を両立できるようになる

この進め方が向く企業・慎重に検討したい企業

向いている

  • 設計者が数十名規模で、AIを日常業務で利用している、または今後全員が利用できるようにしたい
  • クラウドAIの利用料が月数十万円以上になっている、または今後そうなる見込みがある
  • 図面・仕様書・不具合履歴など、社外に出せないデータをAIで活用したい
  • 検索や要約など、毎日大量に発生する定型的なAI処理がある
  • 社内にAIの担い手がいる、または伴走支援を受けながら自社で運用できる体制をつくりたい

慎重に検討したい

  • AIの利用者が数名で、利用頻度も月に数回程度にとどまり、クラウドAIの利用料が少額である
  • 常にクラウドの最上位モデルと同等の回答品質が求められる業務が中心
  • AIの仕組みづくりから運用まで、すべてを外部へ一括で任せたい
  • ローカルAIの運用や、伴走支援に必要な社内の判断・確認体制を確保できない
  • 設置場所や電源容量を確保できない、または複数GPU構成に必要な設備条件を確認できていない

よくある質問

  • ローカルAIにすれば、クラウドAIは不要になりますか？

    不要になるとは限りません。ローカルで動かすモデルとクラウドの最上位モデルとでは、回答の品質が異なります。毎日大量に発生する検索・要約などはローカルAIで実行し、高度な推論が必要で利用頻度の低い処理はクラウドAIで実行するなど、用途に応じて併用するのが現実的です。

  • 社内にAIの専門人材がいなくても始められますか？

    始められます。ワークステーションについては、大塚商会が利用規模に合わせた機種・GPU構成の提案、導入、保守を担当します。AIを業務で利用できる仕組みの構築については、「業務プロセス自動化AIサービス」でヒアリングから試作、実際の業務での利用開始、運用定着・内製化まで一貫して伴走します。準委任契約による支援のため、進行方法や仕様は、お客様にご確認・ご決定いただきながら具体化します。

  • どの機種から始めればよいですか？

    まずは現在のクラウドAIの利用料が分かる請求書や利用明細をご用意ください。利用人数、処理内容、トークン消費量を基に、必要なGPU構成と投資回収期間を試算します。個人やチームで検証する場合はHP ZGX Nano AI Station、部門で共有する場合はHP Z8 Fury G5 Workstationが目安です。

  • ローカルAIへ移行する処理は、どのように選べばよいですか？

    図面・不具合履歴の検索、資料の要約、AIエージェントによる繰り返し処理など、毎日大量に発生し、トークン消費量が多い定型的な処理が候補です。高度な推論が必要で利用頻度が低い処理は、クラウドAIの利用を継続する選択肢もあります。

  • 図面や不具合履歴をローカルAIで安全に利用できますか？

    ローカルAIでは、推論を社内のワークステーション上で実行し、外部サービスへ接続しない構成とすることで、AIに渡したデータを社外へ送らずに処理できます。ただし、閲覧権限、データの保存場所と更新頻度、ログの保存・管理方法など、社内の運用ルールを事前に整理する必要があります。まずは設計標準書や過去の不具合報告書など、機密性や業務上の重要度が比較的低いデータから始める方法が適しています。

同じテーマの記事を読む

解決ストーリー 記事一覧