LM StudioでDeepSeekをローカル環境で動かす手順

ChatGPT活用ブログ
ChatGPT活用ブログ

LM StudioでローカルLLMを構築

LM Studioは、ローカル環境で大規模言語モデル(LLM)を簡単に探索、ダウンロード、実行できるオープンソースのソフトウェアです。ユーザーフレンドリーなグラフィカルユーザーインターフェース(GUI)を備えており、プログラミングの知識がなくても直感的に操作できます。

主な特徴として、オフラインでの利用が可能であり、データのプライバシーを保護しながらAIモデルを活用できる点が挙げられます。また、Hugging Faceなどから提供される多様なオープンソースのAIモデルをサポートしており、特に日本語対応のモデルも利用可能です。

以下に、LM Studioを使用してDeepSeek R1をローカル環境で構築する手順を説明します。

DeepSeek R1をローカル環境で構築する手順

①LM Studioのインストール

公式サイトから、使用しているオペレーティングシステム(Windows、macOS、Linux)に対応したインストーラーをダウンロードします。

ダウンロードしたインストーラーを実行し、画面の指示に従ってインストールを完了させます。

②DeepSeek R1モデルのダウンロード

LM Studioを起動し、左側の「探索」アイコン(虫眼鏡のマーク)をクリックします。

検索バーに「DeepSeek R1 Japanese」と入力し、エンターキーを押します。

検索結果から「cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf」などのモデルを選択します。約6.6GBのファイルです。

選択したモデルの詳細画面で、「Download」ボタンをクリックし、ダウンロードを開始します。

GGUFとは?

GGUF(GPT生成統合フォーマット、GPT Generation Unified Format)は、大規模言語モデル(LLM)の保存と読み込みを効率化するために設計されたバイナリファイル形式です。従来のGGML形式の後継として開発され、拡張性と柔軟性が向上しています。

③モデルのロード

ダウンロードが完了したら、左側の「チャット」アイコン(吹き出しのマーク)をクリックします。

画面上部の「Select a model to load」から、先ほどダウンロードしたDeepSeek R1モデルを選択します。

モデルがロードされると、チャットインターフェースが利用可能になります。

④モデルの実行

チャット画面の下部にある入力フォームに質問や指示を入力し、エンターキーを押すと、モデルからの応答が表示されます。

日本語での質問にも対応しており、さまざまなトピックについて会話が可能です。質問を入れると、しばらく考えてから答えてくれます。

以下のように、思考過程は日本語で表示されています。

以上の手順で、LM Studioを使用してローカル環境でDeepSeek R1を構築し、利用することができます。この方法により、インターネット接続がない環境でもAIモデルを活用でき、データのプライバシーを保護しながら自然言語処理を行うことが可能です。

DeepSeekの政治的なバイアスについて

政治的な意見がわかれる質問をしてみたところ、Web版のDeepSeekとは違って、日本語で追加学習されたモデルは多面的に質問を分析して考えてくれます。

(思考時間が長いのはGPUを積んでいないノートPCでローカルLLMを動かしているからです)

サーバーとしての機能もある

さらに、LM Studioは言語モデルをサーバーとして利用する機能も備えており、他のアプリケーションからAPI経由でアクセスすることも可能です。

参考)公式サイト(lmstudio.ai

監修者:服部 一馬

フィクスドスター㈱ 代表取締役 / ITコンサルタント / AIビジネス活用アドバイザー

非エンジニアながら、最新のAI技術トレンドに精通し、企業のDX推進やIT活用戦略の策定をサポート。特に経営層や非技術職に向けた「AIのビジネス活用」に関する解説力には定評がある。
「AIはエンジニアだけのものではない。ビジネスにどう活かすかがカギだ」という理念のもと、企業のデジタル変革と競争力強化を支援するプロフェッショナルとして活動中。ビジネスとテクノロジーをつなぐ存在として、最新AI動向の普及と活用支援に力を入れている。

高セキュリティと低コストを実現するローカルLLM

ある日本企業に対する調査では、72%が業務でのChatGPT利用を禁止していると報告されています。社内の機密情報がChatGPTのモデルに学習されて、情報漏洩の可能性を懸念しているためです。

そのため、インターネットに接続されていないオンプレミス環境で自社独自の生成AIを導入する動きが注目されています。ランニングコストを抑えながら、医療、金融、製造業など機密データを扱う企業の課題を解決し、自社独自の生成AIを導入可能です。サービスの詳細は以下をご覧ください。

いますぐサービス概要を見る▶▶▶
タイトルとURLをコピーしました