御社の情報セキュリティ規程には、こう書いてあるはずだ。「機密情報を外部のサーバーに送信してはならない」。では聞きたい。いまエンジニアがAIチャットに貼り付けたそのソースコードは、どこのサーバーで処理されたのか。
2026年、この矛盾を解消する技術的な答えは、すでに揃っている。GLM、Kimi、DeepSeek——重みが公開されたオープンウェイトLLMをダウンロードし、自社のGPUで動かす。プロンプトも、コードも、顧客データも、1バイトも社外に出ない。
そしてもうひとつ、はっきり書いておく。この構築に、コンサルティングファームもSIerも必要ない。 必要ないどころか、彼らを挟むことがセキュリティ上のリスクですらある。その理由を、この記事で順番に説明する。
「クラウドAPIは便利」の代償に、あなたは何を差し出しているか
クラウドのLLM APIを使うということは、プロンプトのすべてが他社のサーバーへHTTPリクエストとして送信されるということだ。ソースコード。障害ログ。顧客名簿を含むデータ処理。経営会議の議事録の要約。開発にAIを本気で使えば使うほど、会社の中枢情報が毎日、外部へ流れ続ける。
「利用規約で学習には使われないことになっている」——その通り。だが冷静に考えてほしい。契約は漏洩を防がない。データが物理的に動かないことだけが、漏洩を防ぐ。 規約は改定される。事業者は買収される。そして海外事業者のサーバー上のデータには、日本の法律ではなく、その国の法域が及ぶ。米国にはCLOUD Actがある。どの国のAPIを使おうと、構図は同じだ。
金融、医療、防衛、官公庁——規制業種では「外部送信の時点でアウト」という案件が現実に存在する。そうでない業種でも、ゼロトラストだの多層防御だのと言いながら、会社で最も価値のある情報——これから作る製品のコード——だけは「信頼してください」で外部に送っている。この非対称に、そろそろ気づくべきだ。
オープンウェイトの三銃士——GLM、Kimi、DeepSeek
2025年に起きた最大の地殻変動は、オープンウェイトモデルがフロンティアに追いついたことだ。その主役が、この3つである。
DeepSeek。 2025年1月の「R1ショック」で世界のAI業界を揺らした張本人だ。6,710億パラメータのMoE（Mixture of Experts）構造ながら、推論時に動くのは約370億——巨大な知識と現実的な推論コストを両立する設計で、数学・コーディング・推論系タスクに強い。ライセンスはMIT。制約らしい制約がない。
Kimi K2。 Moonshot AIが公開した総パラメータ1兆のMoEモデル（アクティブ約320億）。エージェントタスク——ツールを使い、複数ステップの作業を自律的に完遂する能力——で頭角を現した。ライセンスはModified MIT。「月間アクティブユーザー1億人超、または月商2,000万ドル超の製品はUIに『Kimi K2』と表示する」という条項が付くが、日本企業のほぼすべてにとって事実上の無条件だ。
GLM。 Z.ai（智譜AI）のフラッグシップ。GLM-4.6は3,550億パラメータのMoEで、コーディングエージェント用途での評価が特に高く、ライセンスはMIT。そして重要なのが弟分のGLM-4.5-Air——1,060億パラメータと小ぶりで、量子化すればワークステーション級のマシンでも動く。「まず1台で試す」の入口として、現時点で最有力の選択肢だ。
この3つに共通するのは、コーディングやエージェント系のベンチマークで、1年前のフロンティア級クローズドモデルに匹敵ないし凌駕するスコアを出していること。そして、重みが無料でダウンロードできることだ。
「中国製は怖い」——その不安、向き先が間違っている
この話をすると、必ず出る反応がある。「中国企業のモデルを社内で使って大丈夫なのか」。
まず技術的な事実から。モデルの重みとは、safetensors形式の静的なファイルだ。中身は数値の行列であって、実行コードではない。それを実行するのは、vLLMやSGLangといった世界中で検証されているオープンソースの推論エンジンであり、どのエンジンを使うかはあなたが選ぶ。
セルフホストされたモデルに、外向きの通信は存在しない。信じる必要はない——ファイアウォールで外向き通信を全遮断して動かせばいい。 普通に動く。完全に隔離されたエアギャップ環境でも動く。「どこかにデータを送っているのでは」という不安は、検証可能な形で潰せる。
ここに痛烈な皮肉がある。「中国製モデルは怖いから、海外大手のAPIを使う」——それは、データを外部サーバーに送るという行為そのものだ。本当に「怖い」なら、正解はオープンウェイトのセルフホスト一択である。 APIは中身を誰も検査できないブラックボックスだが、公開された重みは世界中の研究者が検査している。どちらが検証可能性が高いかは、比べるまでもない。
データが動くのはAPIに送るからだ。重みをダウンロードすれば、動くのはあなたのGPUだけだ。
セルフホストは「6ヶ月のプロジェクト」ではない。金曜の午後の作業だ
では、構築には何が必要か。SIerの見積書ではなく、現実の手順を書く。
GPUサーバーを用意する。pip install vllm を実行する。そして——
vllm serve zai-org/GLM-4.5-Air --tensor-parallel-size 2これで終わりだ。 OpenAI互換のAPIエンドポイントが社内に立ち上がる。ClineやRoo Code、aiderといったコーディングエージェントは、接続先URLをこのエンドポイントに変えるだけでそのまま動く。LiteLLMのようなプロキシを挟めば、既存のAIワークフローのほとんどに組み込める。要件定義書は要らない。キックオフ会議も要らない。
ハードウェアは3段階で考えればいい。
入門——100〜300万円。 GLM-4.5-Airの量子化版なら、48GB級GPUを2枚積んだワークステーション、あるいは96GB級GPU1枚で動く。まずこれで、社内の実タスクを2週間回してみる。
本格——数千万円、またはレンタル月額数十万円から。 DeepSeek、Kimi K2、GLM-4.6のフルサイズを動かすなら、H100/H200クラス×8枚構成。購入すれば数千万円だが、これは減価償却できる資産だ。専有GPUクラウドを借りれば初期投資なしで月額数十万円から始められる。
比較対象——コンサルの見積書。 「AI戦略策定支援」一式3,000万円。納品物はPowerPointだ。最上位のGPUサーバーを買ってもお釣りが来る。片方は3年後も推論を続けている。もう片方は共有フォルダの肥やしだ。
コンサルとSIerが、この話をあなたにしない理由
ここまで読んで、疑問に思わないだろうか。こんなに単純なら、なぜ「LLM基盤構築」が数千万円・6ヶ月のプロジェクトとして売られているのか。
答えは単純だ。彼らのビジネスモデルは工数×単価であり、1行のコマンドで終わる仕事は構造的に売り物にならない。 だから膨らませる。現状分析フェーズ。ユースケース定義ワークショップ。ベンダー選定支援。PoC計画策定。ステアリングコミッティの設置。見積書のどこを探しても、「vllm serve と打つ」という工程は出てこない。それが作業の実体のほぼすべてなのに、だ。
「まずはPoCから始めましょう」——この言葉には気をつけたほうがいい。PoCが終わると「次期フェーズのご提案」が来る。それが終わると「本格展開に向けたアセスメント」が来る。本番は永遠に来ない。本番が来たら、請求が止まるからだ。
多重下請けの構造はもっと露骨だ。あなたが払う人日15万円のうち、実際に手を動かす3次請けのエンジニアに届くのは3万円。そしてそのエンジニアがやっているのは、公式ドキュメントとコミュニティの記事を読みながらの試行錯誤——あなたの会社の若手が今日からできることと、寸分違わない。 差分は中間マージンだけだ。
そして、これが最も重要な点だが——「セキュアなLLM基盤」を外部業者に作らせるという行為自体が、セキュリティの毀損である。 構成図、認証設計、ネットワーク構成、運用手順。機密データを守るための基盤の設計図一式が、社外の人間の手を経由する。情報を社外に出さないための仕組みを、情報を社外に出しながら作る。冗談としても出来が悪い。
彼らが売っているのは技術ではない。「難しそう」という不安だ。そして不安は、ドキュメントを1日読めば消える。
セキュリティは入口にすぎない——内製セルフホストが変える4つのこと
1. 完全なデータ主権。 プロンプトも、生成物も、ログも、すべて社内に留まる。監査ログを自社の要件で設計できる。「学習に使われるのでは」という懸念は、概念として消滅する。規制業種の監査で「データはどこで処理されていますか」と聞かれたら、フロアを指させばいい。
2. コスト構造の逆転。 API課金は従量制——エージェントを本気で回すほど、青天井に伸びる。セルフホストは固定費だ。コーディングエージェントに一晩中リファクタリングをさせても、増えるのは電気代だけ。 トークン残高を気にせずAIを回し続けられることは、内製開発の実験速度を根本から変える。
3. ノウハウの複利。 モデル選定の勘所、量子化の設定、社内データでの評価手法、プロンプトの資産——すべてが社内に蓄積される。SIerに外注すれば、その知見は請求書とともに持ち帰られ、次の案件で競合他社に売られる。
4. 依存ゼロ。 APIの値上げ、レート制限の変更、モデルの突然の廃止、規約改定。クラウドAPIの利用者はこれらに振り回され続けるが、セルフホストには一切関係がない。重みは手元にある。誰にも取り上げられない。
正直に書く——セルフホストに向かないケース
火力を上げるだけの記事は信用ならないので、限界も正直に書く。
GPUの運用は現実の仕事だ。監視、ドライバ更新、モデルの入れ替え。ただし規模感を正確に——これは「専任チームの新設」ではなく「インフラ担当の兼任1人」レベルの仕事であり、SIerに運用委託契約を払う理由にはならない。
また、機密性の低いデータで常に最高性能が必要な用途なら、クラウドのフロンティアモデルを使うのが合理的だ。実際、多くの組織にとっての最適解はハイブリッドになる——機密データと大量処理はセルフホスト、公開情報での最高性能はクラウド。 判断基準はただひとつ。そのデータが漏れたとき、事業が傷つくか。 傷つくなら、そのワークロードを外部に送る理由は存在しない。
月曜日からやること
1. ワークロードを機密度で2つに分ける。 社外に出てもよいもの、出てはならないもの。後者がセルフホストの対象だ。
2. GPUを1つ確保する。 検証だけなら、48GB級GPUのワークステーション1台でいい。クラウドの専有GPUインスタンスでも構わない——専有であること、リージョン、ストレージ暗号化だけ確認する。
3. vLLMでGLM-4.5-Airを立てる。 所要時間は、モデルのダウンロードを含めて半日。トラブルシューティングを含めても1日。
4. コーディングエージェントを繋ぎ、実タスクで2週間測る。 社内リポジトリのリファクタリング、テスト生成、ドキュメント整備。この2週間で得られるデータは、コンサルの6ヶ月のPoCレポートより多く、正確で、そして無料だ。
5. 稟議書にはこう書く。 「初期費用はコンサル見積の10分の1以下。データは1バイトも社外に出ない。効果測定済み」。反論できる役員はいない。
分岐点
いま、同じ「情報セキュリティ」という言葉から、正反対の未来が分岐している。
「情報セキュリティ上の懸念があるため、生成AIの利用は当面見送る」——そう言って検討委員会を重ねている会社。そして「情報セキュリティ上の要請があるため、セルフホストに全力で投資する」——そう言ってGPUを発注した会社。1年後、この2社の開発速度の差は、もう埋まらない。
重みは公開されている。推論エンジンはオープンソースだ。ドキュメントはすべて無料で読める。GPUは今日発注できる。あなたとAI活用のあいだに、もうコンサルもSIerも立っていない。
立っているとしたら、それは彼らが最後に売りつけていった「不安」だけだ。
ネオアナログラボでは、オープンウェイトLLMのセルフホスト基盤構築とAI内製化の立ち上げ支援を提供しています。モデル選定・検証、コーディングエージェント統合まで伴走し、運用は貴社チームに完全に引き渡す——依存を作らない内製化支援です。「データを社外に出さずにAI開発を回したい」という方は、ぜひ一度ご相談ください。