AviUtlの高さ上限
なので本当の高さ上限を調べてみました。
入力自体はたくさん入りますが大きすぎる場合は、決定してAviUtlを開き直した時に240などと減っていたりします。
それを考慮したうえで上限値を調べたところ2,147,483,640（2の31乗－8）ということになりました。（1増やすと8の倍数になるように調整されてオーバーフローとなる）
https://scrapbox.io/files/641bc36600e49d001d6134a8.png
条件によっては描画の高さが4096を超えるオブジェクトが正常に描画できないバグがあります。（横幅の方では起こらない）
あくまでオブジェクト単体描画での高さ制限なので、高さ4096以下に分けたオブジェクトを縦に2つ並べて正常な高さ8192を描画できます
現実的な上限
高さ2147483640などと設定したところでエラーを吐いてまともに動かせずに終わりです。
また、エラーを起こさないために幅を下限の320にしたり小細工をすれば高さ50000などもエラー無く行ける可能性はありますが、そのような設定で動画を作ることは無いと思われます。
それを考慮すると設定をかなり頑張ったとしても8Kサイズ（7680×4320）の7680程度がエラー無くできる普通サイズの現実的な上限になると思われます