【Wiki:IT用語】ローカル LLM
記事制作者: Kesemory公開済み: // 更新済み:
Now printing...
! CAUTION !
- この記事には、アフィリエイトリンクが含まれる場合があります。
- この記事には、プレスリリース、キャプチャースクリーン等の画像が含まれる場合があります。著作物は全て各著作元に帰属します。
- この記事に関する訂正等のご要望は、お問い合わせフォームよりお願いいたします。
ChatGPT や Claude、Gemini のような生成 AI ツールを手元にある PC 上で動かすこと。
ローカルが手元の PC 環境を指し、LLM が生成 AI ツールに使う AI モデルのことを指す。LLM はラージ・ランゲージ・モデル (Large Language Model) の略で、大規模言語モデルとも呼ばれる。
ローカル LLM を使うことによって、インターネットがない環境での生成 AI ツール利用や、生成 AI サービスを提供する企業へデータが送信されることを避けられる。
2026-07-11 現在において、生成 AI サービスを提供する OpenAI 社や Anthropic 社、Google 社に匹敵する LLM モデルを稼動させるには、商用利用が前提になっている AI 専用 GPU (NVIDIA H200 / H100 など) が必要になる。
個人 PC 上で動かすには、ある程度回答品質や精度など妥協する必要があるが、Google AI 検索が質問に答えてくれるような単純タスクをこなすには申し分ない性能を発揮できる (RAM 32 GB, VRAM 12 GB 環境にて確認)。
- 見つかっちゃった(・ω<)テヘペロ
- 次の記事
- 【Wiki:IT用語】ニューラル・プロセッシング・ユニット (NPU)