Ollama + Open WebUIを使う
Open WebUIとOllamaのセットアップ手順
mainly by ChatGPT.icon
Dockerのインストール
sudo apt-get update
sudo apt-get install -y docker-ce docker-ce-cli containerd.io
Dockerのインストール確認
sudo service docker start
sudo service docker status
Ollamaコンテナのダウンロードと起動
NVIDIAのGPUを使用しない場合
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
Open WebUIコンテナのダウンロードと起動
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
コンテナの確認
docker ps
Open WebUIにアクセス
ブラウザで以下のURLにアクセス
初回アクセス時に表示される画面で、適当なユーザー名とメールアドレスを入力して登録
モデルのダウンロードと設定
ログイン後
右上の歯車アイコンをクリック
サイドバーの「Models」を選択
「Pull a model from Ollama.com」にダウンロードするモデル名を入力し、ダウンロードアイコンをクリック(例: gemma:7b)
モデルの選択
ダウンロードが完了したら、画面上の「Select a model」をクリックし、ダウンロードしたモデルを選択
テキスト生成の開始
画面下の「Send a Message」にプロンプトを入力し、送信ボタンを押すと、テキストが生成されます
参考にした記事