Column
  • ローカルLLM
  • オンプレAI
  • 費用相場

ローカルLLM導入の費用は42万円から2,425万円

社内LLM(ローカルLLM・オンプレAI)導入費用を各社の公表価格で横断比較した記事のイメージ

この記事でできるようになること読み終えると、社内でAIを動かすのに自社ではいくらかかるのか、その見当をつける材料と、見積を受け取ったときに何を確認すればいいかが分かります。

公表されている価格を横断で調べると、ローカルLLMの導入費用は自力なら約42万円、ベンダー一式なら2,425万円まで、桁が3つ違います。この幅の正体は性能差ではなく、「ハードウェアを誰が買うか」と「どこまでを役務に含むか」の2軸です。2軸を分けて見れば、金額の大小ではなく自社に合う型を選べるようになります。そしてもう1つ、どの型を選んでも、機器の値段には含まれないのに必ず必要になる工程があります。誰が何に使ってよいかの線引きと、使った記録の残し方です。

「社外に出せないデータがあるので、ChatGPTは使わせていない」。こう決めている会社は多く、その判断自体は妥当です。ただ、禁止したあとに何が起きているかというと、一部の社員が私物のアカウントで使っている状態に落ち着いていることが少なくありません。

そこで選択肢に上がるのが、社内のサーバーの中だけでAIを動かす「ローカルLLM」「オンプレAI」です。データが社外に出ないので、禁止の理由そのものが消えます。

問題は費用です。調べると各社が自社の価格しか出しておらず、同じ条件で横に並べた資料が見当たりませんでした。そこで2026年9月時点で公表されている価格を集めて、1枚にしました。数字はすべて出所を付けています。

01 · Price

公表価格の横断比較

2026年9月時点で、価格を公表している提供元を並べます。前提が各社でまったく違うので、ハードウェアが含まれるかどうかを必ず一緒に見てください。ここを揃えずに金額だけ比べると判断を誤ります。

提供元・方法初期費用保守ハードウェアの扱い
自力で構築(Mac Studio)約42万円〜
(96GB搭載なら約95万円〜)
—機器代そのもの。構築は自分で行う
自力で構築(AIアクセラレータ単体)1,399米ドル〜—カードのみ。別途、装着するPCが必要
GENSHI AI約400万円〜
(カスタマイズで最大1,000万円)
月額約30万円〜込み(NVIDIA DGX Spark)
インテック500万円〜
(初期導入費は別途見積)
記載なし内訳の明記なし
リコー個別見積メールサポート6チケット込み(GPUサーバ)
とろたく2,425万円(一回限り)記載なしハードウェア費用のみ

出所:Mac StudioとGENSHI AIの金額はITmedia AI+(2026年9月17日)/アクセラレータ単体はTenstorrent公式ストア/インテックは同社ニュースリリース(2026年1月29日)/リコーはRICOH オンプレLLMスターターキット/とろたくは同社サイト。いずれも2026年9月20日に確認した公表値です。為替や在庫で変動します。

受託開発の相場としては、構想・要件定義が50〜200万円、1業務に絞った小規模な実証が150〜500万円、本格実装が1,500万円以上、運用・改善が月50〜200万円というレンジが各社から示されています。ただしこれらは複数人のチームで動く前提の数字なので、そのまま自社の見積に当てはめると過大になることがあります。

02 · Structure

幅の正体は2軸しかない

42万円と2,425万円の差は、AIの賢さの差ではありません。動かしているモデルは、どの価格帯でもオープンソースのものが中心です。差がついているのは次の2つです。

軸金額が下がる側金額が上がる側
誰がハードを買うか自社が直接購入する。機器は自社の資産として残り、仕入れの上乗せが乗らない提供元が仕入れて売る。手間は減るが、機器代に流通のマージンが乗る
どこまで役務に含むか機器の選定と設置まで。使い方は自社で考える業務の切り分け、社内ルール、権限設計、記録と監査、教育まで含む

この2軸で見ると、とろたくの2,425万円は「ハードウェア費用のみ」と明記されていることに意味が出てきます。役務が入っていないのにこの金額ということは、想定している機器の規模が大きいということです。逆に、GENSHI AIの400万円にはDGX Sparkという機器が含まれているので、機器代を引けば役務はおよそ300万円と読めます。

見積を受け取ったら、まず「この金額のうち、機器代はいくらですか」と聞いてください。それだけで比較できる形になります。

03 · Types

3つの型と、それぞれの損得

2軸を組み合わせると、現実には3つの型に落ち着きます。

型費用感向いている場合抱えるリスク
A 自力型42万〜95万円社内に手を動かせる人がいて、使う人数が少ない。まず試したいその人に属人化する。異動や退職で止まる。記録や権限の設計まで手が回りにくい
B 一式おまかせ型400万〜2,425万円情報システム部門の手が空いていない。全社で一度に始めたい機器代に上乗せが乗る。範囲が曖昧だと追加費用が膨らむ
C 役務のみ型機器代+役務(分離)機器は自社の資産として持ちたい。組む部分と決める部分だけ外に頼みたい機器の調達と保守は自社の責任になる。窓口が分かれる

ITmediaが伝えた事例では、東京都文京区の本郷真砂ハートクリニックで院長自身がMac Studioを使って環境を構築しています。用途は過去の診療情報の要約と、音声認識によるカルテ作成の補助です。A型が成立している実例といえます。医療・介護の現場でどの業務にAIが使われているかは介護・医療の生成AI活用ユースケースで整理しています。

一方で同じ記事は、ベンダー経由だと初期400万円から、保守は月30万円からという数字も伝えています。同じ「ローカルLLMを入れる」でも、誰がやるかで一桁変わるということです。

どちらが正しいという話ではありません。A型の42万円は「社内にできる人がいる」という前提に支えられた金額であって、その人がいなければ成立しません。安く見える選択肢には、たいてい見えていない前提がついています。

04 · Governance

機器の値段に含まれない工程がある

ここが、この記事で一番お伝えしたい点です。

どの型を選んでも、機器を買っただけでは業務で使われるようになりません。禁止していた会社が禁止をやめるには、禁止の代わりになる線引きが要ります。具体的には次の3つで、これらはハードウェアの見積には入っていません。

必要なことこれが無いとどうなるか
誰が何に使ってよいかの線引き判断が現場ごとにばらつき、トラブルを1件起こした時点で「やっぱり禁止」に戻る。機器だけが残る
誰が何に使ったかの記録情報セキュリティの認証を取得している会社では、記録が残らない仕組みに許可が出ない。監査で説明できない
新しいモデルが出たときに誰が検証するかオープンソースのモデルは世代交代が速い。決めていないと1年で誰も触らない箱になる

言い換えると、ローカルLLMの導入は機器の調達ではなく、社内ルールの再設計を伴う仕事です。「AIは禁止」という一行のルールを、「この範囲なら使ってよい、記録はこう残る」という運用に置き換える作業がその中身になります。このルールを文書に落とす手順は中小企業の生成AI社内ガイドラインの作り方にまとめています。

私自身は、この線引きを決める場に2度関わっています。1つは、顧客が閉域型のAI環境を用意して自治体向けに提供する座組で、定期的な情報交換という形で携わりました。ここでの議論の中心は機器の性能ではなく、「全面禁止」を「この業務なら使ってよい」に置き換えるために、どの業務を入れてよいかの合意を取ることでした。もう1つは病院で、患者情報が入らない事業所内の作業に限って利用を許可する形にする検討に関わりました。どちらにも共通していたのは、禁止を解く鍵が機器ではなく、入れてよい情報の区分を先に決めることだった点です。機器の見積は、その合意ができたあとにしか意味を持ちませんでした。

見積を比べるときは、機器代と役務を分けたうえで、役務の中にこの3つが入っているかを確認してください。入っていなければ、機器が届いたあとに自社でやることになります。この3つは機器を買う前に決めておく工程なので、機器を伴わない「利用範囲の線引きと運用設計」として単体でもお受けしています。クラウドのAIを使い続ける会社にも同じ工程が要ります。なお教育まで役務に含める場合の費用感は、AI研修の費用相場が目安になります。

05 · Hardware

やりたいこと別に見る、機器3つの選択肢と費用感

費用を考えるうえで、2026年特有の事情が2つあります。1つは高性能GPUの価格上昇と供給不足で、「予算は取れたが機器が来ない」という止まり方が起きています。もう1つは選択肢が増えたことです。用途と人数を先に決めれば、最上位のGPUを買わずに済む場面が多くなりました。

現実的な選択肢は次の3つです。金額は2026年9月時点の公表値で、為替や在庫で動きます。

やりたいこと向く機器機器の目安〈公表値〉承知しておくこと
まず1〜数人で。文書の要約・下書き・議事録の整理から試したいMac mini(M4 Pro・48〜64GB)/Mac Studio(96GB以上)Mac Studio 約42万円〜、96GB搭載で約95万円〜。Mac mini はその下の価格帯静かで省電力、Macに慣れた環境で始められる。担当者に属人化しやすい。院長が自ら構築したクリニックの事例がこの型
1部門10〜30人にチャット画面と利用記録を出したい。費用を抑えつつ、本番と同じ推論基盤(vLLM系)で組みたいTenstorrent Blackhole p150a + Linux機カード 1,399米ドル〜(別途、PCIe 5.0対応のLinux機が必要)国内代理店(マクニカ)経由で法人調達できる。32GBメモリ。モデルの量子化を自分で行う必要があり、Linuxの運用担当が要る
70B級の大きなモデルや、カルテ要約のような重い処理を1台で動かしたいNVIDIA DGX Spark約98万〜120万円(国内・税込)128GBの統合メモリで大きなモデルが載る。一方でメモリ帯域が273GB/sと細く、1人が使うときの応答はゆっくり。ベンダー事例(GENSHI AI)が採用している機器

出所:Mac Studio・GENSHI AIの採用機器はITmedia AI+(2026年9月17日)/Tenstorrentは公式ストアとマクニカ/DGX Sparkの国内価格は価格.com、帯域はNVIDIA公式。

重要なのは、先に用途と人数を決めてから機器を選ぶことです。順番が逆になると、余った性能に払うか、足りない性能で我慢するかのどちらかになります。機器を決めるための計算式と、実際に何を組むかはローカルLLMの作り方と必要スペックにまとめています。

当方はこの3つのいずれについても、機器を販売せず、切り分け・構成設計・構築・利用ルールの設計を役務でお手伝いしています。機器は御社が直接ご購入いただく形です(Tenstorrentは国内代理店経由での法人調達をご案内できます)。役務の料金は、ご相談の内容に合わせてお見積もりします(機器代は別)。線引きと運用設計から始め、機器の構成・構築・保守は線引きのあとに範囲を決めます。

内容の詳細はサービス案内の料金に載せています。24時間365日の保守と物理的な設置工事は含みません。

どこから始めればよいか分からない場合は、下の判断の6つの質問の①〜④をお問い合わせからお送りください。どこから始めるのが合うかをお返しします。

06 · Checklist

自社はどれか。判断の6つの質問

見積を取る前に、社内でこの6つに答えを出しておくと話が速くなります。答えられない項目があるなら、そこが最初に詰めるべき場所です。

  1. 社外に出せないデータは、具体的にどの業務にありますか。「機密情報」ではなく、業務名で挙げてください。挙げてみると、実はクラウドで足りる業務が多いこともあります
  2. 使うのは何人で、同時に何人が使いますか。必要な機器の規模はここでほぼ決まります
  3. クラウドのAIに、いま年間いくら払っていますか。比較の土台になります。払っていないなら、支払っている前提の試算は成り立ちません
  4. 運用は誰がやりますか。情報システム部門はありますか。無い場合、月額の保守を外に持つ前提で予算を組む必要があります
  5. 誰が何に使ってよいかは、誰が決めますか。決める人が決まっていないと、機器が届いてから止まります
  6. 止まったとき、何時間まで許容できますか。ここが短いほど費用は上がります。24時間365日の保守は、その分だけ金額に乗ります

この6つに答えたうえで、金額の桁が自社の想定と合っているかを見てください。合っていなければ、たいていは範囲が広すぎるか、用途が絞れていないかのどちらかです。

見積を取る前に、自社がどの型でどの桁に入るかだけ知りたい場合は、上の①〜④の答えをお送りください。A・B・Cのどの型が合うか、費用がどの桁に入りそうかを無料でお返しします。当方は機器を販売していないので、特定の機器を勧める理由がありません。「オンプレは不要、クラウドで足りる」という答えになることもあります。①〜④を送って、型と桁を聞く →

07 · FAQ

よくある質問

ローカルLLMの導入費用は、結局いくら見ておけばいいですか?+
公表価格では、自力構築の約42万円からベンダー一式の2,425万円まで幅があります(2026年9月時点)。金額そのものより、見積の中で機器代と役務がいくらずつかを分けて確認してください。ベンダー経由の事例では初期約400万円から、保守は月約30万円からという数字が公表されています。自社の規模と用途が決まっていない段階では、この幅のどこに入るかは決まりません。
Mac StudioやデスクトップPCで、本当に業務に使えますか?+
使っている事例があります。東京都文京区のクリニックでは院長自身がMac Studioで環境を構築し、過去の診療情報の要約と音声認識によるカルテ作成の補助に使っています。ただしこれは、社内に手を動かせる人がいて、使う人数が限られている場合に成立する形です。全社数百人が同時に使う用途では機器の規模が変わります。
クラウドのAIと比べて、結局どちらが安くなりますか?+
利用量によります。機器を買い切る側は初期に大きく払い、以後は電気代と保守だけになります。クラウドは初期がほぼゼロで、使うほど増えます。損益が分かれる点は利用量で決まるので、比較するには「いま何人が、月にどれくらい使っているか」の実績が要ります。その実績が無い場合は、まず小さく試して実績を取るほうが確実です。
GPUが高くて買えないと聞きました。ほかに方法はありますか?+
2026年は高性能GPUの価格上昇と供給不足が続いています。選択肢としては、大容量メモリを統合したデスクトップ機を使う、NVIDIA以外のAIアクセラレータを国内代理店経由で調達する、といった方法が現実的になってきました。ただし機種によっては対応するモデルの範囲や必要な作業量が変わるため、用途と人数を先に決めてから選定してください。
機器を買えば、社内でAIが使えるようになりますか?+
機器だけでは使われるようになりません。誰が何に使ってよいかの線引き、誰が何に使ったかの記録、新しいモデルが出たときに誰が検証するか。この3つが決まっていないと、トラブルを1件起こした時点で元の禁止に戻るか、1年で誰も触らない箱になります。これらはハードウェアの見積には含まれないので、役務の範囲に入っているかを確認してください。
まず何から始めればいいですか?+
社外に出せない業務を業務名で書き出すところからです。「機密情報があるから全部だめ」ではなく、業務単位で切り分けると、クラウドで足りるものと本当に社内に置くべきものが分かれます。そのうえで人数と用途を決めれば、必要な機器の規模が決まり、見積が比較できる形になります。いきなり機器を選ぶと、順番が逆になります。
原駿介(ゼネラリスト代表)のプロフィール写真

原駿介(はら・しゅんすけ)/ ゼネラリスト 代表

北海道・札幌を拠点に、中小企業の生成AI導入・業務効率化・AI研修・外部AI顧問をフルリモートで支援。研修は年間50回以上・延べ受講者1万人以上(2026年7月時点)。Claude Code を用いたAIエージェント設計が強み。行動指針は「先義後利」。

09相談
CONTACT

Contact

社内に置くべきデータはどれか、から相談する

機器を選ぶ前に、本当に社外に出せない業務はどれかを切り分けるところから始めます。「クラウドで足りる」という結論になることもあり、そのときはそうお伝えします。無理な売り込みはしません。

初回30分無料・オンライン可。1営業日以内に返信します。