Ollamaのセットアップ

Tags:

以下の手順に従ってLocal LLMをOllamaでセットアップする。

ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.

Ollamaでモデルのインストール

ollama pull deepseek-r1

モデルの一覧の確認

ollama list
NAME                  ID              SIZE      MODIFIED
deepseek-r1:latest    0a8c26691023    4.7 GB    5 minutes ago
mistral:latest        f974a74358d6    4.1 GB    7 days ago
llama3.2:latest       a80c4f17acd5    2.0 GB    8 days ago
llama3:latest         365c0bd3c000    4.7 GB    8 days ago

Ollamaを起動して永続化

nohup ollama start &