ローカルLLMの運用コスト：電気代・ハード償却・人件費で試算する
結論: RTX 4090構成・24時間稼働（稼働率50%）の場合、電気代・ハード償却・管理人件費を合算すると月額3.8万〜5.4万円が目安になる。
「電気代がいくらかかるか」だけ調べてきた担当者が、経営会議でCFOに質問されて詰まるのは、電気代だけでは答えが出ないからだ。ハードの減価償却費はいくらか。GPUサーバーを誰が管理しているのか、その工数はコストとして計上しているか。
この三本柱が揃わないと、経営層が必要とする「月いくらかかるか」という問いに答えることができない。
本記事では、RTX 4090搭載サーバーを社内APIとして運用するケースを軸に、電気代・ハード償却・人件費の三本柱を検証済みのデータで試算する。クラウドAPIとの損益分岐点、ローカルLLMが向かないケースについても合わせて整理した。
なぜローカルLLMのコストは「電気代だけ」で語られるのか
検索してヒットする試算記事の多くは、電気代にフォーカスする。理由はシンプルで、電気代だけなら計算式が分かりやすく、GPUのTDP（熱設計電力）と電力単価を掛け合わせれば数字が出るからだ。
ただ、その数字だけを持って経営会議に臨むと問題が起きる。「それ以外のコストはゼロなのか」という問いに詰まる。
ハード一式の購入費用は資産計上されて減価償却が発生する。GPUサーバーのアップデート・監視・障害対応には工数がかかる。内製で賄っていても、その工数は別業務を圧迫しているコストだ。三本柱を月次の数字で揃えることが、CFOや経営層との会話に耐えられる試算になる。
コスト①電気代 — TDP全負荷前提の試算は現実より高い
GPUの実消費電力はTDPの60〜90%
RTX 4090のTDPは450Wだが、推論タスク中の実消費電力は300〜400W程度とされている。アイドル時は25W前後まで下がる（Harmonic Society調べ）。RTX 4070 Ti Superの場合は推論時180〜240W程度だ。
一部の試算サイトはTDPの450Wをそのまま計算に使っている。この前提だと電気代は実態より高めに出る。閲覧する際は前提値を確認したほうがよい。
社内APIサーバー（24時間稼働・稼働率50%）の月額電気代試算
電力単価の設定が試算結果を大きく左右する。
家庭用の電灯契約（低圧）は2026年3月時点で平均23.1円/kWh程度（新電力ネット「電気料金単価の推移」）。中小企業が利用する高圧契約は18.92円/kWhという数値もあるが、これは税抜きの平均値であり、再生可能エネルギー賦課金・燃料費調整額を加えると実態は異なる。
実務的な中小企業向け目安としては、税込み・再エネ賦課金込みで30〜35円/kWhを用いるのが妥当だ。以下の試算はHarmonic Societyの「ローカルLLMの電力消費・運用コスト計算」に基づき、35円/kWhで算出している。
RTX 4090構成・24時間稼働・稼働率50%
| 稼働パターン | 月間消費電力 | 月額電気代 | 年間電気代 |
|---|---|---|---|
| 24時間365日・稼働率50% | 約282 kWh | 約9,870円 | 約118,440円 |
| 業務時間のみ（平日8h） | 約94 kWh | 約3,286円 | 約39,432円 |
（出典: Harmonic Society「ローカルLLMの電力消費・運用コスト計算」）
BTOマニアの試算（「RTX4090の長時間稼働で電気代はハネあがるか」）では、毎日10時間稼働で月約3,645円・年間約43,740円（27円/kWh・TDP全負荷前提）という数字が出ている。ただしこれはTDP450Wを上限として使った全負荷前提の値であり、実推論時の消費電力（300〜400W）を前提にすると実態はやや低くなる可能性がある。
社内APIサーバーのベースライン試算としては、Harmonic Society値（24時間稼働・稼働率50%・月約9,870円）を用いる。
コスト②ハード償却 — 法定耐用年数5年で月額に落とす
サーバー一式の初期費用目安
RTX 4090単体の価格は、2026年6月時点（価格.com調べ）でMSI GeForce RTX 4090 VENTUS 3X E 24G OCが848,000円、GIGABYTE GV-N4090WF3-24GDが999,880円という水準だ。米国の輸出規制強化の影響もあり、数年前の30万円台という価格は現在の参考値にならない。
GPUだけでなく、マザーボード・CPU・メモリ・電源・ケースを含むサーバー一式の初期費用目安はAI Superiorの調査（“Cost of Running Local LLM: Real Numbers & Break-Even Guide 2026”）では以下の水準とされている。
| 構成 | 初期費用目安 |
|---|---|
| エントリー | 約27.5万円（$3,500換算・1ドル=157円） |
| ミドルレンジ | 約39万円（$2,500前後・ミドルGPU構成） |
| ハイエンド（RTX 4090クラス） | 約70万円〜 |
※為替レートによって変動する。日本市場ではGPU価格高騰の影響で上記より高くなる可能性がある。
法定耐用年数5年・定額法での月額換算
国税庁の取扱い（「LAN設備の耐用年数の取扱いに関する質疑応答」）によれば、サーバーとして使用する電子計算機はパーソナルコンピュータ以外で5年（平成13年度税制改正後）、PC用途なら4年が目安となる。社内APIサーバーとして固定資産計上する場合、耐用年数5年・定額法（残存価値ゼロ）での月額は次のとおりだ。
| 初期費用 | 月額償却費（5年定額法） |
|---|---|
| 27.5万円（エントリー相当） | 約4,583円 |
| 45万円（ミドル相当） | 約7,500円 |
| 70万円（ハイエンド相当） | 約11,667円 |
RTX 4090一式を70万円で購入した場合、月額償却費は約11,667円となる。
コスト③人件費 — 「管理タダ」は成立しない
サーバー管理の月次工数はどこから来るか
社内のエンジニアが兼任で管理する場合、工数はゼロにならない。モデルのアップデート確認・OSパッチ適用・ログ監視・ストレージ管理といった定常業務だけでも、通常月で4〜8時間程度の工数が発生すると推測される。障害が起きた月はさらに8〜16時間が追加で必要になるケースもある。
なお、この工数見積もりは市場データから換算した推測値であり、自社環境の実測値ではない。実態は構成・ミドルウェアの複雑さ・担当者のスキルによって変わる。
富士フイルムビジネスイノベーションは「トラブルが起きても自社で対応する必要があるため、AIやセキュリティに精通した人材がいないと、安定運用は難しい」と指摘している。
人件費を月額に換算する
外部に委託する場合の相場として、レバテックのサーバーエンジニア（インフラエンジニア）の月単価は65〜75万円（2024年1月時点・週5日フルタイム）とされている。フルタイムでなくスポット委託する場合の時給換算は、月単価70万円÷実労働160時間で約4,375円程度が目安になる。
| 月次工数（通常月） | 月次人件費目安（外注換算） |
|---|---|
| 4時間 | 約17,500円 |
| 8時間 | 約35,000円 |
| 障害月（+8〜16h追加） | +35,000〜70,000円 |
社内エンジニアが兼任する場合でも、その時間は別の業務に充てられていた機会コストだ。コスト計上しない場合、管理負担が見えないまま増大するリスクがある。
三本柱を合算する — RTX 4090構成の月次・年次サマリー
三本柱をRTX 4090構成・24時間稼働（稼働率50%）で合算すると次のとおりだ。
| コスト項目 | 月額 | 年額 |
|---|---|---|
| 電気代（Harmonic Society・35円/kWh） | 約9,870円 | 約118,440円 |
| ハード償却（70万円・5年定額法） | 約11,667円 | 約140,004円 |
| 人件費（外注換算・通常月4〜8h） | 約17,500〜35,000円 | 約210,000〜420,000円 |
| 合計 | 約39,037〜56,537円 | 約468,444〜678,444円 |
人件費の幅が大きいのは、内製か外注か、通常月か障害月かで変わるためだ。経営層への説明では、最低ラインと最大ラインを両方示したほうが合意形成しやすい。
ミドルレンジ構成（初期費用45万円・電気代は月約5,000〜7,000円想定）の場合、月額合計は20,000〜50,000円程度に下がる。ただしVRAMが少ない構成は動かせるモデルのサイズに制約が出るため、用途に合わせた選定が前提となる。
クラウドAPIと比較する — 損益分岐点はどこか
ローカルLLMの月次コストが明確になったところで、クラウドAPIとの比較に移る。
クラウドLLM APIの料金はモデル・プランにより大きく異なる。最新料金は各社公式ページで確認のこと（OpenAI: platform.openai.com/docs/pricing、Anthropic: anthropic.com/pricing）。
1MTok（100万トークン）あたりの価格で課金される構造上、月次のAPI利用量が少ない組織ではAPIコストは数百円から数千円に収まるケースがある。利用規模が小さいうちは、ローカルLLMの月次コスト（3.8万〜5.4万円）と比べてAPIのほうが安くなることが多い。
損益分岐点の目安として、AI Superiorは「月$500以上のAPIコストが発生している組織は、6〜12ヶ月でローカル移行のコストを回収できる」としている。mpt.solutionsは「1日8,000会話以上でないとセルフホスティングのコスト効率が出ない」とも指摘する。
ChatGPT Plusを社員10名で利用した場合の月額は約3万円・年間約36万円になる（Harmonic Society「ローカルLLMのメリット・デメリット｜中小企業が知るべき7つのポイント」）。RTX 4090構成のローカルLLM月次コスト（約3.8万〜5.4万円）は、この水準を上回る。利用規模が小さいうちはAPIのほうが安い、というのが現実だ。
コスト以外の理由が判断を変えることはある。機密性の高いデータをAPIに送れないコンプライアンス要件がある場合、または社内に蓄積した独自データをファインチューニングしたい場合は、コスト比較だけで判断できない。
ローカルLLMが向かないケースを先に言う
試算を並べたうえで、ローカルLLMが適していないケースを整理しておく。
最先端モデルとの性能差が問題になる用途。各社の最新クラウドAPIモデルに比べ、ローカルで動かせるオープンウェイトモデルは複雑な推論・高度な創作タスクで劣る場面がある。業務内容によっては性能差がそのままアウトプット品質の差になる。
RTX 4090の入手困難化・価格高騰リスク。2026年6月時点で価格.com最安値は848,000円からと、数年前に比べて大幅に上昇している。今後も供給状況や輸出規制の影響で変動する可能性がある。
AI・セキュリティ人材が社内にいない場合。富士フイルムビジネスイノベーションが指摘するとおり、トラブル対応を自社で完結できる体制がなければ安定運用は難しい。外注費が膨らむと損益分岐点は遠ざかる。
エンタープライズ規模の冷却・専門人材コスト。mpt.solutionsが示す冷却コスト（データセンター全消費電力の40〜54%）や専門人材費用（年$800,000〜$1,200,000）は、H100クラスターを前提とするエンタープライズ規模の数値だ。中小企業が単一GPUサーバーを社内設置するケースには直接当てはまらない。
まとめ — 経営層への説明に使えるチェックリスト
三本柱の試算で押さえておくべき点を整理する。
① 月次換算で揃える。電気代・ハード償却・人件費をすべて月額に変換してから比較する。初期費用と月次ランニングが混在すると判断が狂う。
② 前提を明示する。電力単価（何円/kWh、税込みか否か）・稼働パターン（24時間か業務時間のみか）・稼働率（何%想定か）・ハード取得費用・耐用年数・管理工数の仮定を揃える。前提が違えば数字は大きく変わる。
③ 変数と感度を整理する。稼働時間を半分にすれば電気代も半分になる。管理を内製から外注に変えれば人件費が跳ね上がる。経営層には「前提をXXにした場合、月次コストはXX円になる」という条件付きの答えを出せるよう準備する。
試算の前提を明示することが、経営層への信頼を作る。「よく分からないから高めに見ておいた」より、「この前提でこう計算した」のほうが会話になる。
本記事で示した試算は汎用フレームです。自社の構成・稼働パターン・管理体制に合わせた数字が必要な場合は、[email protected] までご相談ください。構成情報をいただければ、経営層に提示できる試算シートを一緒に整理します。