ComfyUI-BAGEL
https://github.com/neverbiasu/ComfyUI-BAGELneverbiasu/ComfyUI-BAGEL
同名のノードが存在するようだ
BAGELをComfyUIで動かすラッパー
できる事
https://github.com/neverbiasu/ComfyUI-BAGEL/blob/master/example_workflows/bagel_text_to_image.pngtext2image
https://github.com/neverbiasu/ComfyUI-BAGEL/blob/master/example_workflows/bagel_image_understanding.pngプロンプトに応じたImage理解(自動プロンプトの素体に使える？)
https://github.com/neverbiasu/ComfyUI-BAGEL/blob/master/example_workflows/bagel_image_editing.pngImage編集
https://github.com/purinnohito/ComfyUI-BAGEL-NoFlashAttentionひとまず最低限の正常動作を確認した非FlashAttention版フォークを作ったmorisoba65536.icon
originalのFlashAttention版と結果に微妙な差はあるが概ね同じようなのが出ているので一旦これをRepositoryに反映
インストールに置いて幾つか気をつける点がある
https://github.com/neverbiasu/ComfyUI-BAGEL?tab=readme-ov-file#2-install-dependenciesまず、nf4やDFloat11形式のファイルを使う場合pipで別途パッケージのインストールが必要
https://github.com/mjun0812/flash-attention-prebuild-wheels?tab=readme-ov-file#windows-x86_64FlashAttentionなしに直せなかった場合のバイナリ置き場
https://github.com/neverbiasu/ComfyUI-BAGEL?tab=readme-ov-file#2-nameerror-qwen2config-is-not-defined加えてFlashAttentionやTritonも必要なようだ、Qwen2Configのエラーが出たらこれらを入れる必要がある
FlashAttentionがややこしすぎるので、CodeXに頼んでこれを使わないで動かせるようにしたnomadoor.icon
Workflow自体は動かせるところまで行けばテンプレートに存在するのでスムーズに使えるはず…？
https://gyazo.com/114277cabef823c5cb217acb5e07033f
BAGEL_7B_MoE.json