Loading...

2024-06-03(月) 15:00

🐧 UbuntuにOllamaをインストールしてPhi3を動かすまでの手順

UbuntuAIPhi3
UbuntuにOllamaをインストールしてMicrosoft社のSLMであるPhi3を動かすまでの手順を解説します。

目次

前提と注意事項

この記事では以下を前提としています。

  • Ubuntu 22.04

この記事のゴール

以下のように Ubuntu にインストールした Ollama で Phi3 (mini)を動かすところまでをゴールとします。

Phi3への日本語での質問と回答例
>>> 日本語に対応していますか?
 はい、私の機能を日本語でも利用可能です。どのようなご質問や作業がありますか?お手伝い
できることがあればお知らせください。
 
>>> 日本には四季がありますか?
 はい、日本には四季があります。春(はる)は3月の終わりから5月に入っており、桜の花や新
緑が特徴的な時期です。夏(なつ)は6月にかけて7月を含むことが多く、暖気帯にあるため湿
度が高く、さいぜんの天気も見られます。秋(あき)は9月にかけて10月を含む時期で、紅葉の
美しさや稲穂田中などの自然が魅力的です。冬(ふゆ)は12月にかけて1月を含む時期で、雪が
多く見られる場合もありますが、日本の北方では雪がしばしば訪れるため、季節感が特に顕著
です。

Ubuntu に Ollama をインストールする

Ollama の公式サイトの手順に従い、以下を実行して Ollama を Ubuntu にインストールします。

Ollamaをインストールする
$ curl -fsSL https://ollama.com/install.sh | s

上記を実行すると、ダウンロードが開始されます。少し時間がかかります。

Ollamaをインストールする
$ curl -fsSL https://ollama.com/install.sh | sh
>>> Downloading ollama...
######################################################################## 100.0%##O#-#    ############                                                              17.1%

最終的に以下のように表示されればインストールが完了です。

Ollamaのインストール完了時
$ curl -fsSL https://ollama.com/install.sh | sh
>>> Downloading ollama...
######################################################################## 100.0%##O#-#    ######################################################################## 100.0%
>>> Installing ollama to /usr/local/bin...
[sudo] hisui のパスワード:
>>> Creating ollama user...
>>> Adding ollama user to render group...
>>> Adding ollama user to video group...
>>> Adding current user to ollama group...
>>> Creating ollama systemd service...
>>> Enabling and starting ollama service...
Created symlink /etc/systemd/system/default.target.wants/ollama.service → /etc/systemd/system/ollama.service.
>>> The Ollama API is now available at 127.0.0.1:11434.
>>> Install complete. Run "ollama" from the command line.
WARNING: No NVIDIA/AMD GPU detected. Ollama will run in CPU-only mode.

バージョンを確認してみます。

Ollamaのバージョンを確認する
$ ollama -v
ollama version is 0.1.39

Phi3 を動かす

Phi3 は Ollama にて公式にサポートされており、以下を実行するだけで Phi3 を動かすことができます。

Phi3 mini を動かす
$ ollama run phi3:mini

上記を実行すると、phi3:miniのダウンロードから開始されます。なお、phi3:miniは最も小さいもモデルであり、サイズが 2.4GB ほどです。他にもモデルサイズが大きいphi3:mediumや他のモデルも用意されています。 ダウンロードが終わって起動すると、以下のように表示されます。

Phi3 mini を動かす
$ ollama run phi3:mini
pulling manifest
pulling b26e6713dc74... 100% ▕█████████████████████████▏ 2.4 GB
pulling fa8235e5b48f... 100% ▕█████████████████████████▏ 1.1 KB
pulling 542b217f179c... 100% ▕█████████████████████████▏  148 B
pulling 8dde1baf1db0... 100% ▕█████████████████████████▏   78 B
pulling f91db7a2deb9... 100% ▕█████████████████████████▏  485 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)

phi3:mediumなどの他のモデルについて以下の Ollama の公式サイトを見てみてください。

phi3

Phi-3 is a family of lightweight 3B (Mini) and 14B (Medium) state-of-the-art open models by Microsoft.

ollama.com

試しに適当に質問してみると、以下のように回答が返ってきます。ただ、みて分かる通り少々不自然な部分も確認できます。

Phi3への日本語での質問と解答例
>>> 日本語に対応していますか?
 はい、私の機能を日本語でも利用可能です。どのようなご質問や作業がありますか?お手伝い
できることがあればお知らせください。
 
>>> 日本には四季がありますか?
 はい、日本には四季があります。春(はる)は3月の終わりから5月に入っており、桜の花や新
緑が特徴的な時期です。夏(なつ)は6月にかけて7月を含むことが多く、暖気帯にあるため湿
度が高く、さいぜんの天気も見られます。秋(あき)は9月にかけて10月を含む時期で、紅葉の
美しさや稲穂田中などの自然が魅力的です。冬(ふゆ)は12月にかけて1月を含む時期で、雪が
多く見られる場合もありますが、日本の北方では雪がしばしば訪れるため、季節感が特に顕著
です。

まとめ

以上で Ubuntu に Ollama をインストールして Phi3 を動かすまでの手順を解説しました。