前提と注意事項
この記事では以下を前提としています。
- Ubuntu 22.04
この記事のゴール
以下のように Ubuntu にインストールした Ollama で Phi3 （mini）を動かすところまでをゴールとします。
Phi3への日本語での質問と回答例
>>> 日本語に対応していますか？
はい、私の機能を日本語でも利用可能です。どのようなご質問や作業がありますか？お手伝い
できることがあればお知らせください。
>>> 日本には四季がありますか？
はい、日本には四季があります。春（はる）は3月の終わりから5月に入っており、桜の花や新
緑が特徴的な時期です。夏（なつ）は6月にかけて7月を含むことが多く、暖気帯にあるため湿
度が高く、さいぜんの天気も見られます。秋（あき）は9月にかけて10月を含む時期で、紅葉の
美しさや稲穂田中などの自然が魅力的です。冬（ふゆ）は12月にかけて1月を含む時期で、雪が
多く見られる場合もありますが、日本の北方では雪がしばしば訪れるため、季節感が特に顕著
です。Ubuntu に Ollama をインストールする
Ollama の公式サイトの手順に従い、以下を実行して Ollama を Ubuntu にインストールします。
Ollamaをインストールする
$ curl -fsSL https://ollama.com/install.sh | s上記を実行すると、ダウンロードが開始されます。少し時間がかかります。
Ollamaをインストールする
$ curl -fsSL https://ollama.com/install.sh | sh
>>> Downloading ollama...
######################################################################## 100.0%##O#-# ############ 17.1%最終的に以下のように表示されればインストールが完了です。
Ollamaのインストール完了時
$ curl -fsSL https://ollama.com/install.sh | sh
>>> Downloading ollama...
######################################################################## 100.0%##O#-# ######################################################################## 100.0%
>>> Installing ollama to /usr/local/bin...
[sudo] hisui のパスワード:
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> The Ollama API is now available at 127.0.0.1:11434.
>>> Install complete. Run "ollama" from the command line.
WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.バージョンを確認してみます。
Ollamaのバージョンを確認する
$ ollama -v
ollama version is 0.1.39Phi3 を動かす
Phi3 は Ollama にて公式にサポートされており、以下を実行するだけで Phi3 を動かすことができます。
Phi3 mini を動かす
$ ollama run phi3:mini上記を実行すると、phi3:miniのダウンロードから開始されます。なお、phi3:miniは最も小さいもモデルであり、サイズが 2.4GB ほどです。他にもモデルサイズが大きいphi3:mediumや他のモデルも用意されています。
ダウンロードが終わって起動すると、以下のように表示されます。
Phi3 mini を動かす
$ ollama run phi3:mini
pulling manifest
pulling b26e6713dc74... 100% ▕█████████████████████████▏ 2.4 GB
pulling fa8235e5b48f... 100% ▕█████████████████████████▏ 1.1 KB
pulling 542b217f179c... 100% ▕█████████████████████████▏ 148 B
pulling 8dde1baf1db0... 100% ▕█████████████████████████▏ 78 B
pulling f91db7a2deb9... 100% ▕█████████████████████████▏ 485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)phi3:mediumなどの他のモデルについて以下の Ollama の公式サイトを見てみてください。
phi3
Phi-3 is a family of lightweight 3B (Mini) and 14B (Medium) state-of-the-art open models by Microsoft.
ollama.com
試しに適当に質問してみると、以下のように回答が返ってきます。ただ、みて分かる通り少々不自然な部分も確認できます。
Phi3への日本語での質問と解答例
>>> 日本語に対応していますか？
はい、私の機能を日本語でも利用可能です。どのようなご質問や作業がありますか？お手伝い
できることがあればお知らせください。
>>> 日本には四季がありますか？
はい、日本には四季があります。春（はる）は3月の終わりから5月に入っており、桜の花や新
緑が特徴的な時期です。夏（なつ）は6月にかけて7月を含むことが多く、暖気帯にあるため湿
度が高く、さいぜんの天気も見られます。秋（あき）は9月にかけて10月を含む時期で、紅葉の
美しさや稲穂田中などの自然が魅力的です。冬（ふゆ）は12月にかけて1月を含む時期で、雪が
多く見られる場合もありますが、日本の北方では雪がしばしば訪れるため、季節感が特に顕著
です。まとめ
以上で Ubuntu に Ollama をインストールして Phi3 を動かすまでの手順を解説しました。