DeepSeekをローカル環境で即動かす方法

DeepSeekは最新の大規模言語モデル（LLM）として、自然言語処理の分野で革新的なパフォーマンスを発揮します。クラウド環境だけでなく、ローカル環境で手軽に動かすことで、プライバシーの保持やカスタマイズの自由度が大幅に向上します。この記事では、ollama と Cherry Studio という便利なツールを活用し、DeepSeekをあなたのPCで即動かすための手順を詳しく解説します。

1. はじめに

ローカル環境でDeepSeekを実行することで、以下のメリットがあります。

  • 高速な応答性：外部サーバーに依存せず、低遅延でAIの機能を活用できる
  • データの安全性：機密情報をクラウドに送信せず、ローカル内で完結できる
  • カスタマイズの自由度：自分好みの設定や拡張が容易に行える

これらの理由から、DeepSeekをローカルで即動かす方法は、開発者や研究者、企業のエンジニアにとって非常に魅力的です。

2. 必要な環境と準備

ハードウェア要件

  • GPU（推奨VRAM 8GB以上）：高速な推論処理のため、GPUの搭載が望ましい
  • 十分なメモリ：モデルサイズに合わせた十分なRAMが必要
  • SSD：大容量のモデルデータを高速に読み込むために推奨

ソフトウェア要件

3. DeepSeekのセットアップ

ollama の導入

・公式サイト（ollama.com）から最新バージョンをダウンロードし、インストールを行います。

・DeepSeek（https://ollama.com/library/deepseek-r1）のモデルをダウンロードします

こちらには複数のバージョン（1.5B、7B… 671B）がありますが、これは引数の量を示しています。
引数が多いほどモデルの性能は向上しますが、高性能なパソコンが必要になります。
自身のマシンの性能に応じて、適切なバージョンを選択してください。
（GPUが搭載されていないマシンでは、最も軽量な 1.5B バージョンをおすすめします。）

私のマシンはメモリ16GB、NVIDIA GeForce GTX 1660 SUPER を搭載しているため、今回は 7B バージョンを使用します。

・ダウンロード方法

  1. 左赤い枠をダウンロードするモデルバージョンを選択
  2. 右赤い枠のコードをコピーして、Windows Comand Lineで実行します

コマンドプロンプトを開き、指定のコマンドを実行します。
しばらくすると「success」のメッセージが表示され、DeepSeek との対話が可能になります。

試しに「中国はどんな国ですか？」と聞いてみたところ、思考は英語で行われ、回答は英語・中国語・日本語が混ざったような感じになりました。7Bモデルは日本語があまり得意ではないようですね。

今後 DeepSeek と会話したいときは、コマンドプロンプトを開いて、ollama run deepseek-r1:7b を実行すれば利用できます。（モデルはすでにダウンロード済みのため、次回以降はダウンロード不要です。）

Cherry Studio のインストールと利用

以上でコマンドプロンプトを使ってDeepSeekと会話できるようになりますが、より使いやすいため、UIツールCherry Studioを導入します。

１．インストール：Cherry Studioの公式サイトからアプリケーションをダウンロードし、インストールします。

２．アプリの言語を日本語に変更します。

３．モデルプロバイダーの設定で、先程ダウンロードしたモデルを追加します。

  • モデルリストからOllamaを選択します
  • APIホストはhttp://localhost:11434に変更します
  • 追加ボタンをクリックして、先程ダウンロードしたモデル名を入力します
  • APIキーのところのチェックをボタンをクリックして、モデル接続できるかどうかを検証します。接続成功と表示したらOKです。

４．準備が整いました。会話ダイアログで DeepSeek と対話しましょう。

  • 左の赤い枠 をクリックして、会話ダイアログを開きます。
  • 上の赤い枠 をクリックして、先ほど追加したモデルを選択します。

先程と同じ質問を聞いてみました。

7. おわりに

本記事では、ollamaとCherry Studioを活用してDeepSeekをあなたのPC上で迅速に動かすための具体的な手順を紹介しました。これにより、クラウド環境に依存せずに最新の大規模言語モデルを自由に扱える環境が整い、開発や研究の幅が広がります。

ぜひこの手順を参考に、あなたのローカル環境でDeepSeekのパワーを体験してください。質問や問題が発生した場合は、各ツールの公式ドキュメントやコミュニティフォーラムを活用し、さらなる最適化を目指しましょう。

コメント

タイトルとURLをコピーしました