アップスケール
#信号処理 #画像
アップスケール (Upscale) は、画像などの離散信号の解像度を高くする処理
https://en.wikipedia.org/wiki/Image_scaling
https://dic.pixiv.net/a/アップスケール
https://e-words.jp/w/アップスケーリング.html
手法
補間・再標本化
入力信号を補間・再標本化 (resampling) するアプローチ
最も単純な補間は最近傍補間であるが、多くの場合は不適切
ピクセルアートをPixel-perfectで補間したい場合に適している
基本的には、カーネル関数を選定して畳み込みを行う
以下のような選択肢がある
バイリニア補間
バイキュービック補間
sinc補間・Lanczos filter
フーリエ変換
フーリエ変換によって、画像を一度周波数領域に変換してからアップスケールするアプローチ
TODO: 事例?
ピクセルアート向け手法
ピクセルアートのアップスケールに用いられるアルゴリズムが多く開発されている
主にゲームのエミュレーターに用いられる
hqx・xBRなどが代表例
https://en.wikipedia.org/wiki/Pixel-art_scaling_algorithms
ベクター化
ベクター化は、画像を一度ベクターグラフィックスにしてしまうアプローチ
TODO
SDF化
画像を一度Signed Distance Fieldにしてしまうアプローチ
TODO
See: Improved Alpha-Tested Magnification for Vector Textures and Special Effects
CNN
機械学習・ニューラルネットワークを用いたアプローチ
画像のアップスケールに特化した畳み込みニューラルネットワークを用いる
waifu2xの登場以降、よく選択される手法となった
ゲームにおいては、NVIDIAのGPUが提供するDeep Learning Super Sampling (DLSS) が用いられていることが多い
Hires.fix
Hires.fixは、Stable Diffusionなどの拡散モデル・image-to-imageモデルを用いて画像のアップスケールを行う手法
プロンプトによって画像のコンテキストを指示することができるが、元の画像から逸脱した結果となることも多い
生成AIコミュニティでよく用いられる手法
スーパーサンプリング
そもそも画像のレンダリングを高解像度でやってしまおうという本末転倒の解決手法もあるよ、もちろん