ローカルLLM構築・
導入支援

生成AIを、自社の設備や自社が管理するクラウドの中で動かす使い方です。入力した情報が、社外のAI事業者に送られません。

ChatGPTのようなクラウドAIでは、API外部のサービスの機能を、プログラムから呼び出すための窓口。クラウドAIはAPI経由で使います。より下の層（エージェント業務ごとの役割を持ち、決めた手順や道具を使って仕事を進めるAIのこと。の仕組みから機材・電力まで）をAI事業者が持ち、データはそこで処理されます。ローカルLLMでは、すべての層を自社の管理環境に置きます。

社内文書や規程の検索、問い合わせへの回答の下書き、議事録の要約、文書の分類などです。決まった形の処理ほど向いています。

社外のAI事業者に渡る心配はなくなります。ただし社内の権限や操作の記録は別に設計が必要で、当社はそこまで構築に含めます。

要約や検索などの決まった形の処理は、十分な水準になることが多いです。高度な推論では劣ることがあるため、並走同じ入力をクラウドとローカルの両方に渡して、結果を比べること。検証で差を確かめてから決めます。

できます。必要な機材は、モデルの大きさ、同時に使う人数、読ませる文書の長さで決まります。閉域クラウドインターネットから切り離して使う、自社専用のクラウド環境。なら機材を買わずに始められ、買う前に試すこともできます。

できます。まず社内文書の検索（RAG質問に関係する社内文書を探し、その内容をもとにAIに答えさせる仕組み。）で足りるかを確かめ、足りない場合に追加学習（LoRA少ない計算と機材で、モデルに追加学習させる方法。など）を行います。

オープンソースのモデルから、日本語の質、機材に載る大きさ、利用条件（商用利用の可否）、道具を使う力で選びます。貴社の業務で比べてから決めます。

文章を返すだけなら使えます。業務で使うには、社内データの検索、道具の呼び出し、出力の検証などの仕組みが要ります。当社はその設計と実装まで担当します。

契約や規程で自社設備での保管が必要ならオンプレミス自社の建物や設備に機材を置いて使うこと。、早く小さく始めたいなら閉域クラウドインターネットから切り離して使う、自社専用のクラウド環境。が向いています。

基本的に数百万円から数十億円で、使用するモデルと環境（機材・置き場所）によって大きく変わります。使う人数や連携の範囲も整理したうえでお見積もりします。相談は無料です。

できます。根拠の文書を示して答え、文書ごとの閲覧権限も反映します。

監視とモデルの更新を担います。手順書を整え、社内で運用できるまで引き継ぐこともできます。