- ローカルLLM
- オンプレAI
- 費用相場
ローカルLLM導入の費用は42万円から2,425万円
この記事でできるようになること読み終えると、社内でAIを動かすのに自社ではいくらかかるのか、その見当をつける材料と、見積を受け取ったときに何を確認すればいいかが分かります。
公表されている価格を横断で調べると、ローカルLLMの導入費用は自力なら約42万円、ベンダー一式なら2,425万円まで、桁が3つ違います。この幅の正体は性能差ではなく、「ハードウェアを誰が買うか」と「どこまでを役務に含むか」の2軸です。2軸を分けて見れば、金額の大小ではなく自社に合う型を選べるようになります。そしてもう1つ、どの型を選んでも、機器の値段には含まれないのに必ず必要になる工程があります。誰が何に使ってよいかの線引きと、使った記録の残し方です。
「社外に出せないデータがあるので、ChatGPTは使わせていない」。こう決めている会社は多く、その判断自体は妥当です。ただ、禁止したあとに何が起きているかというと、一部の社員が私物のアカウントで使っている状態に落ち着いていることが少なくありません。
そこで選択肢に上がるのが、社内のサーバーの中だけでAIを動かす「ローカルLLM」「オンプレAI」です。データが社外に出ないので、禁止の理由そのものが消えます。
問題は費用です。調べると各社が自社の価格しか出しておらず、同じ条件で横に並べた資料が見当たりませんでした。そこで2026年9月時点で公表されている価格を集めて、1枚にしました。数字はすべて出所を付けています。
01 · Price
公表価格の横断比較
2026年9月時点で、価格を公表している提供元を並べます。前提が各社でまったく違うので、ハードウェアが含まれるかどうかを必ず一緒に見てください。ここを揃えずに金額だけ比べると判断を誤ります。
| 提供元・方法 | 初期費用 | 保守 | ハードウェアの扱い |
|---|---|---|---|
| 自力で構築(Mac Studio) | 約42万円〜 (96GB搭載なら約95万円〜) | — | 機器代そのもの。構築は自分で行う |
| 自力で構築(AIアクセラレータ単体) | 1,399米ドル〜 | — | カードのみ。別途、装着するPCが必要 |
| GENSHI AI | 約400万円〜 (カスタマイズで最大1,000万円) | 月額約30万円〜 | 込み(NVIDIA DGX Spark) |
| インテック | 500万円〜 (初期導入費は別途見積) | 記載なし | 内訳の明記なし |
| リコー | 個別見積 | メールサポート6チケット | 込み(GPUサーバ) |
| とろたく | 2,425万円(一回限り) | 記載なし | ハードウェア費用のみ |
出所:Mac StudioとGENSHI AIの金額はITmedia AI+(2026年9月17日)/アクセラレータ単体はTenstorrent公式ストア/インテックは同社ニュースリリース(2026年1月29日)/リコーはRICOH オンプレLLMスターターキット/とろたくは同社サイト。いずれも2026年9月20日に確認した公表値です。為替や在庫で変動します。
受託開発の相場としては、構想・要件定義が50〜200万円、1業務に絞った小規模な実証が150〜500万円、本格実装が1,500万円以上、運用・改善が月50〜200万円というレンジが各社から示されています。ただしこれらは複数人のチームで動く前提の数字なので、そのまま自社の見積に当てはめると過大になることがあります。
02 · Structure
幅の正体は2軸しかない
42万円と2,425万円の差は、AIの賢さの差ではありません。動かしているモデルは、どの価格帯でもオープンソースのものが中心です。差がついているのは次の2つです。
| 軸 | 金額が下がる側 | 金額が上がる側 |
|---|---|---|
| 誰がハードを買うか | 自社が直接購入する。機器は自社の資産として残り、仕入れの上乗せが乗らない | 提供元が仕入れて売る。手間は減るが、機器代に流通のマージンが乗る |
| どこまで役務に含むか | 機器の選定と設置まで。使い方は自社で考える | 業務の切り分け、社内ルール、権限設計、記録と監査、教育まで含む |
この2軸で見ると、とろたくの2,425万円は「ハードウェア費用のみ」と明記されていることに意味が出てきます。役務が入っていないのにこの金額ということは、想定している機器の規模が大きいということです。逆に、GENSHI AIの400万円にはDGX Sparkという機器が含まれているので、機器代を引けば役務はおよそ300万円と読めます。
見積を受け取ったら、まず「この金額のうち、機器代はいくらですか」と聞いてください。それだけで比較できる形になります。
03 · Types
3つの型と、それぞれの損得
2軸を組み合わせると、現実には3つの型に落ち着きます。
| 型 | 費用感 | 向いている場合 | 抱えるリスク |
|---|---|---|---|
| A 自力型 | 42万〜95万円 | 社内に手を動かせる人がいて、使う人数が少ない。まず試したい | その人に属人化する。異動や退職で止まる。記録や権限の設計まで手が回りにくい |
| B 一式おまかせ型 | 400万〜2,425万円 | 情報システム部門の手が空いていない。全社で一度に始めたい | 機器代に上乗せが乗る。範囲が曖昧だと追加費用が膨らむ |
| C 役務のみ型 | 機器代+役務(分離) | 機器は自社の資産として持ちたい。組む部分と決める部分だけ外に頼みたい | 機器の調達と保守は自社の責任になる。窓口が分かれる |
ITmediaが伝えた事例では、東京都文京区の本郷真砂ハートクリニックで院長自身がMac Studioを使って環境を構築しています。用途は過去の診療情報の要約と、音声認識によるカルテ作成の補助です。A型が成立している実例といえます。医療・介護の現場でどの業務にAIが使われているかは介護・医療の生成AI活用ユースケースで整理しています。
一方で同じ記事は、ベンダー経由だと初期400万円から、保守は月30万円からという数字も伝えています。同じ「ローカルLLMを入れる」でも、誰がやるかで一桁変わるということです。
どちらが正しいという話ではありません。A型の42万円は「社内にできる人がいる」という前提に支えられた金額であって、その人がいなければ成立しません。安く見える選択肢には、たいてい見えていない前提がついています。
04 · Governance
機器の値段に含まれない工程がある
ここが、この記事で一番お伝えしたい点です。
どの型を選んでも、機器を買っただけでは業務で使われるようになりません。禁止していた会社が禁止をやめるには、禁止の代わりになる線引きが要ります。具体的には次の3つで、これらはハードウェアの見積には入っていません。
| 必要なこと | これが無いとどうなるか |
|---|---|
| 誰が何に使ってよいかの線引き | 判断が現場ごとにばらつき、トラブルを1件起こした時点で「やっぱり禁止」に戻る。機器だけが残る |
| 誰が何に使ったかの記録 | 情報セキュリティの認証を取得している会社では、記録が残らない仕組みに許可が出ない。監査で説明できない |
| 新しいモデルが出たときに誰が検証するか | オープンソースのモデルは世代交代が速い。決めていないと1年で誰も触らない箱になる |
言い換えると、ローカルLLMの導入は機器の調達ではなく、社内ルールの再設計を伴う仕事です。「AIは禁止」という一行のルールを、「この範囲なら使ってよい、記録はこう残る」という運用に置き換える作業がその中身になります。このルールを文書に落とす手順は中小企業の生成AI社内ガイドラインの作り方にまとめています。
私自身は、この線引きを決める場に2度関わっています。1つは、顧客が閉域型のAI環境を用意して自治体向けに提供する座組で、定期的な情報交換という形で携わりました。ここでの議論の中心は機器の性能ではなく、「全面禁止」を「この業務なら使ってよい」に置き換えるために、どの業務を入れてよいかの合意を取ることでした。もう1つは病院で、患者情報が入らない事業所内の作業に限って利用を許可する形にする検討に関わりました。どちらにも共通していたのは、禁止を解く鍵が機器ではなく、入れてよい情報の区分を先に決めることだった点です。機器の見積は、その合意ができたあとにしか意味を持ちませんでした。
見積を比べるときは、機器代と役務を分けたうえで、役務の中にこの3つが入っているかを確認してください。入っていなければ、機器が届いたあとに自社でやることになります。この3つは機器を買う前に決めておく工程なので、機器を伴わない「利用範囲の線引きと運用設計」として単体でもお受けしています。クラウドのAIを使い続ける会社にも同じ工程が要ります。なお教育まで役務に含める場合の費用感は、AI研修の費用相場が目安になります。
05 · Hardware
やりたいこと別に見る、機器3つの選択肢と費用感
費用を考えるうえで、2026年特有の事情が2つあります。1つは高性能GPUの価格上昇と供給不足で、「予算は取れたが機器が来ない」という止まり方が起きています。もう1つは選択肢が増えたことです。用途と人数を先に決めれば、最上位のGPUを買わずに済む場面が多くなりました。
現実的な選択肢は次の3つです。金額は2026年9月時点の公表値で、為替や在庫で動きます。
| やりたいこと | 向く機器 | 機器の目安〈公表値〉 | 承知しておくこと |
|---|---|---|---|
| まず1〜数人で。文書の要約・下書き・議事録の整理から試したい | Mac mini(M4 Pro・48〜64GB)/Mac Studio(96GB以上) | Mac Studio 約42万円〜、96GB搭載で約95万円〜。Mac mini はその下の価格帯 | 静かで省電力、Macに慣れた環境で始められる。担当者に属人化しやすい。院長が自ら構築したクリニックの事例がこの型 |
| 1部門10〜30人にチャット画面と利用記録を出したい。費用を抑えつつ、本番と同じ推論基盤(vLLM系)で組みたい | Tenstorrent Blackhole p150a + Linux機 | カード 1,399米ドル〜(別途、PCIe 5.0対応のLinux機が必要) | 国内代理店(マクニカ)経由で法人調達できる。32GBメモリ。モデルの量子化を自分で行う必要があり、Linuxの運用担当が要る |
| 70B級の大きなモデルや、カルテ要約のような重い処理を1台で動かしたい | NVIDIA DGX Spark | 約98万〜120万円(国内・税込) | 128GBの統合メモリで大きなモデルが載る。一方でメモリ帯域が273GB/sと細く、1人が使うときの応答はゆっくり。ベンダー事例(GENSHI AI)が採用している機器 |
出所:Mac Studio・GENSHI AIの採用機器はITmedia AI+(2026年9月17日)/Tenstorrentは公式ストアとマクニカ/DGX Sparkの国内価格は価格.com、帯域はNVIDIA公式。
重要なのは、先に用途と人数を決めてから機器を選ぶことです。順番が逆になると、余った性能に払うか、足りない性能で我慢するかのどちらかになります。機器を決めるための計算式と、実際に何を組むかはローカルLLMの作り方と必要スペックにまとめています。
当方はこの3つのいずれについても、機器を販売せず、切り分け・構成設計・構築・利用ルールの設計を役務でお手伝いしています。機器は御社が直接ご購入いただく形です(Tenstorrentは国内代理店経由での法人調達をご案内できます)。役務の料金は、ご相談の内容に合わせてお見積もりします(機器代は別)。線引きと運用設計から始め、機器の構成・構築・保守は線引きのあとに範囲を決めます。
06 · Checklist
自社はどれか。判断の6つの質問
見積を取る前に、社内でこの6つに答えを出しておくと話が速くなります。答えられない項目があるなら、そこが最初に詰めるべき場所です。
- 社外に出せないデータは、具体的にどの業務にありますか。「機密情報」ではなく、業務名で挙げてください。挙げてみると、実はクラウドで足りる業務が多いこともあります
- 使うのは何人で、同時に何人が使いますか。必要な機器の規模はここでほぼ決まります
- クラウドのAIに、いま年間いくら払っていますか。比較の土台になります。払っていないなら、支払っている前提の試算は成り立ちません
- 運用は誰がやりますか。情報システム部門はありますか。無い場合、月額の保守を外に持つ前提で予算を組む必要があります
- 誰が何に使ってよいかは、誰が決めますか。決める人が決まっていないと、機器が届いてから止まります
- 止まったとき、何時間まで許容できますか。ここが短いほど費用は上がります。24時間365日の保守は、その分だけ金額に乗ります
この6つに答えたうえで、金額の桁が自社の想定と合っているかを見てください。合っていなければ、たいていは範囲が広すぎるか、用途が絞れていないかのどちらかです。
見積を取る前に、自社がどの型でどの桁に入るかだけ知りたい場合は、上の①〜④の答えをお送りください。A・B・Cのどの型が合うか、費用がどの桁に入りそうかを無料でお返しします。当方は機器を販売していないので、特定の機器を勧める理由がありません。「オンプレは不要、クラウドで足りる」という答えになることもあります。①〜④を送って、型と桁を聞く →
07 · FAQ