Radiataを導入する
Radiataを導入したのでレポートwogikaze.icon
Windows11
RTX 3060 12GB
インストール済みのもの
Python 3.10
Git
とりあえず起動編
適当にフォルダーを作ってクローン
$ git clone https://github.com/ddPn08/Radiata
Readme.mdに沿って以下のコマンドで起動
code:code.cmd
cd Radiata
./launch-user.bat
いろんなモジュールがインストールされた後起動する
リンクが表示されるのでクリックするとwebで開くwogikaze.icon
なんか起動しなかったのでバージョンを一つ下げてみる
エラー文的に無限ループが起きてるっぽい?
code:code.cmd
git stash
git reset --hard 822a760bb5b0fc1ff5a34895b894acc504248c75
これでwogikaze.iconは問題なく動いた
モデル追加編
wogikaze.iconはStable Diffusion web UIを使っているので同じモデルを使いたい
しかしもう1回ダウンロードするとファイル容量が馬鹿にならないのでシンボリックリンクで解決した
$ mklink .\models\checkpoints\models ..\stable-diffusion-webui-1.3.1\models\Stable-diffusion
といった感じ
ファイルの位置はそれぞれ違うと思うので各個人で変えてください
(わからなくてもmodels\checkpoints\にsafetensorsをおいておけば大丈夫
何も考えずに.safetensorsが使えるのとても良いwogikaze.icon
TensorRT導入編
RTX30~のみ高速なTensorRTを使える(らしい)
Nvidiaアカウントの作成
https://developer.nvidia.com/ からアカウントを作成する
名前とか入れるだけなのですぐ終わる
以下のインストールのために必要
CUDAをインストール
バージョンが11.0以上かつグラボが対応していればOK
wogikaze.iconは新しいバージョンがあることを知らずに11.6を入れてしまったがhttps://developer.nvidia.com/cuda-downloads 最新のでいいと思う
この先のバージョン表記は11.6になるが適宜読み替えてください
windows-11-exe(local)を選択しダウンロード
開いてそのまま流れに沿ってインストール実行
cuDNNをインストール
バージョンは8.8.0
https://developer.nvidia.com/rdp/cudnn-archive
https://gyazo.com/7f9055d030810f4e4d2647bd507ae9e1
上でインストールしたCUDAのバージョンに合わせて選ぶ
Local Installer for Windows (Zip)を選択しダウンロード、解凍
それぞれのフォルダーをC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6に入れる
すべて置き換えでok
システム環境変数のPathにC:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\binを追加
TensorRTをインストール
https://developer.nvidia.com/nvidia-tensorrt-8x-downloadから8.6をダウンロード,展開
TensorRT 8.6 GA for Windows 10 and CUDA 11.0, 11.1, 11.2, 11.3, 11.4, 11.5, 11.6, 11.7 and 11.8 ZIP Packageにしたwogikaze.icon
C:\Program Files\NVIDIA GPU Computing Toolkitにコピー
https://gyazo.com/9c8d67de9bb9c1d611969b4aa91d7142
環境変数PathにC:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.6.1.6\libを追加
nvinferのプラグインを置き換え
ここ何しているかわからなかったのでfくんのブログ https://zenn.dev/aics/articles/c3d9d1d8606b04に乗る
https://github.com/fkunn1326/TensorRT/releases/tag/dllからRelease.zipをダウンロード、展開
C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT-8.5.3.1\libのファイルを置き換え
起動変数を変更して実行
Radiataフォルダーのlaunch-user.batを変更(--tensorrtつけただけ)
code:bat
@echo off
set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=--tensorrt
call launch.bat
モデルをONNX形式に変換
起動した後モデルを選択しTensorRTタブをクリック
https://gyazo.com/4a3f44bb85eef89c567a521124c74151
そのままの設定でRun！
15分程すると終了する
https://gyazo.com/c4dbf70e9e6470c5e77050a8bc15cd25
右上のサイクルボタンを押せば読み込まれるのでTensorRTを選択
いざ生成
https://gyazo.com/a83a4614c28b31923c1eeab55c7940f8
3秒ぐらいで256x256が出力されるwogikaze.icon