格安専用サーバー（月$44）でAI基盤を自前構築した全記録

「GPUサーバーの構築費用」を調べると、出てくるのは数百万円の専用機か、月数万円のクラウドGPUの話ばかり。本当にそれしか選択肢がないのか？

私たちはAIエージェントのホスティングを運営している会社です。これまで外部のホワイトラベル基盤（1体あたり月$3.44）を使ってきましたが、契約数の増加に伴い、自前の基盤に切り替えて原価を下げる実験を行いました。

使ったのは、フランスの大手クラウド会社OVHが展開する格安ブランド「Kimsufi」の型落ち専用サーバー、月額$44の一台です。この記事では、選定から構築、つまずき、そして最終的な費用の全内訳まで、包み隠さず記録します。

なぜKimsufiを選んだか

Kimsufiは、OVHcloudが一世代前のハードウェアを格安で貸し出す専用サーバーサービスです。「型落ち・中古」というと敬遠されがちですが、私たちの用途との相性を計算した結果、これが最有力でした。

選んだ理由は3つです。

1. 専用サーバーが月$11から。今回選んだ構成は16コア32スレッドのCPU、128GBメモリ 44$。この内容がクラウドの同等インスタンスだと月数万円になります
2. 帯域無制限・DDoS対策込み。エージェントの通信量を気にしなくていい
3. 料金が定額。従量課金のクラウドと違い、収支計画が立てやすい

構築の全手順

全体像はこうです。

ステップ1：サーバーの確保

Kimsufiの管理画面から申し込み。ここで最初のつまずきがありました——人気の構成は常時「在庫なし」表示で、欲しいスペックが出るまで数日待ちました。格安の代償その1です。

ステップ2：OSとセキュリティの初期設定

Ubuntu Serverをインストール。SSHの鍵認証化、パスワードログインの禁止、fail2banの導入、ファイアウォール設定。公開サーバーの常として、開設直後から不正ログインの試行が飛んできたので、この作業は手を抜けません。

ステップ3：コンテナ基盤の構築

Dockerで顧客ごとに環境を分離する設計にしました。エージェントの実行基盤をコンテナ化し、1契約＝1コンテナとして、メモリ4GBを各コンテナに割り当てます。

ステップ4：監視とバックアップ

監視はオープンソースのPrometheus＋Grafanaで自前構築。バックアップは外部ストレージへの日次自動退避。Kimsufi自体にバックアップ機能はないので、ここは自力で組みます。

ステップ5：疎通・負荷テスト

複数のエージェントを同時に動かし、応答速度と安定性を計測しました。

正直な報告：GPUがなくても大丈夫だった理由と、ダメだったこと

このサーバーにGPUは載っていません。それでもAI基盤として成立したのには理由があります。

成立したこと：AIエージェントのホスティングでは、推論（AIの思考部分）は外部APIに投げ、私たちのサーバーは「エージェントの動作環境」の提供に徹します。この構成ならGPUは不要で、128GBメモリの範囲内で数十体のエージェントを収容できます。

ダメだったこと：ローカルLLMの推論（AIモデル本体を自前で動かす）は、CPUだけでは実用レベルの速度が出ませんでした。小さなモデルを軽量化して動かすことはできますが、応答に数十秒かかり、業務利用には耐えません。「自前のAI基盤＝GPU必須」ではなく、何を自前でやるかで必要な設備は変わる——これが今回の最大の学びです。

費用の全内訳（ここが本題）

項目	金額	備考
サーバー月額	$44（約6,600円）	Kimsufi 16コア/128GB
冗長化用の2台目	$44（約6,600円）	本番運用では2台構成を推奨
初期費用	0円	セットアップ料はなし
監視・バックアップ	月1,000円程度	OSS利用＋外部ストレージ代
月額合計（2台構成）	約14,000円

この基盤に4GB割り当てのエージェントを収容すると、1台あたり実効14体前後。1体あたりの原価は月約500〜1,000円まで下がりました。外部基盤の$3.44（約520円）にサーバー管理の手間を考えても、規模が大きくなるほど自前側が有利になる構造です。

参考までに、GPUを積んだ本格的なローカルLLM基盤を自前構築する場合は、GPUサーバー本体で数百万円〜、またはクラウドGPUで月数万〜数十万円が相場です。「AI基盤の構築費用」は、GPUの要否で2桁変わると覚えておいてください。

つまずきポイントのまとめ

• 在庫が不安定：欲しい構成がすぐ取れない。調達に余裕を持つ
• 日本リージョンがない：最寄りはシンガポール等。応答速度が最重要の用途は国内事業者を
• ハードの老朽化：型落ちゆえの故障リスク。2台構成＋外部バックアップで備える
• サポートは最低限：障害時の切り分けは自力。運用力のない会社には向かない

まとめ

月$44の型落ち専用サーバーでも、設計次第で実用レベルのAI基盤は自前構築できることが分かりました。ポイントは「何を自前でやるか」の切り分けです。推論をAPIに任せるエージェント基盤ならGPU不要で月約14,000円。ローカルLLMの推論まで自前でやるならGPU投資が必要。この判断を間違えると、費用は簡単に10倍変わります。

自社の用途だとどちらの設計になるか——「AIインフラコスト試算ツール」で、用途別の初期費用と月額の目安を無料で試算できます。