Krea2 Turbo INT4をComfyUIで試してみた｜生成時間が約400秒→約40秒に！ほんとか？

スポンサーリンク

はじめに

以前からComfyUIでKrea 2を使って画像生成していました。
Krea 2の画質にはかなり満足していたのですが、ひとつ気になっていたのが生成速度。

私の環境では、1枚生成するのにだいたい400秒前後かかっていました。

「もう少し速くならないかな」と思って調べていたところ、Hugging FaceでKrea 2 TurboのINT4版を見つけました。

INT4ならモデルを軽量化できるので、

「これ、RTX 5060 Ti 16GBでもかなり速くなるんじゃないか？」

と思い、実際にComfyUIへ導入して試してみることにしました。
結論から言うと……

約400秒 → 約40秒。

想像以上に速くなりました。
ただし、そこにたどり着くまでの環境構築には約3時間かかりました（笑）。

この記事では、実際に導入してみて分かったことや、途中でハマったポイントをまとめます。

私のPC環境

  • CPU：Ryzen 7 5700X
  • GPU：RTX 5060 Ti 16GB
  • メモリ：16GB
  • OS：Windows 11

そもそもKrea 2 Turbo INT4とは？

今回試したのは、Hugging Faceで公開されているWinnougan氏のINT4 ConvRot版Krea 2 Turboです。

Winnougan/INT4-Convrot-Comfy-Models

通常のKrea 2とは違い、INT4量子化されたモデルになっています。
また、Krea 2 Turboなので、通常版と比べて少ないステップでの高速生成を狙ったモデルです。

今回はこちらをComfyUIで動かしてみました。

使ったファイルはこちら

※ClipLoaderはtext_encodersにぶち込んでください。

まずは導入……のはずが

ここからが今回の本題です。
最初は、

Workflowを読み込んで、モデルをダウンロードして足りないノードいれて終わりでしょ

くらいに思っていました。ところが、実際にやってみるとそう簡単にはいきませんでした。

Custom Nodeを入れてもWorkflowが動かない

今回のWorkflowでは、いくつかのCustom Nodeが使われています。
大抵はComfyUIでエラーが出て、Node Managerから足りないノードをインストールすれば終わりです。

ですが、今回はCustom Node自体はちゃんとインストールされているはずなのに、ノードがないってエラーが。。

最初は、

「Custom Nodeがちゃんと入っていないのかな？」

と思っていたのですが、確認すると実際にはインストール済み。そこで試しに、Workflow上に配置されていた該当ノードを一度削除。

そして同じノードを新しく配置し直してみました。
すると……

動いた。

どうやら今回のWorkflowに最初に配置されていたノードが、インストールされたカスタムノードより古いバージョンだったらしく、何度やってもエラーになっていたことが原因でした。

SeedVR2でもいろいろ必要だった

今回使ったWorkflowには、Krea 2だけではなくSeedVR2も組み込まれていました。SeedVR2は、生成した画像や動画をAIで高品質化するためのモデルです。

そのため、SeedVR2を使う為のモデルをダウンロードする必要がありました。今回は特に必要ないので、SeedVR Updateの中にあったノードを全てパイパス化して対処。

FlashAttentionでもハマる

これでやっと生成開始！と思ったら、さらに途中でFlashAttentionがないというエラが！
正直もうメンドクセー、となってました。
ネットでよくAIに全部環境づくりまで任せました！っていうのを見るたび

「いいなぁ」

と思うわけですが、うちの環境ではまだ動かせてないので…

仕方なく調べてみることに。

調べてみると、Windows環境ではFlashAttentionを簡単に入れられるわけではなく、

  • Pythonのバージョン
  • PyTorchのバージョン
  • CUDAのバージョン

などの組み合わせを合わせないと、インストールすらできない。

今回はKrea 2を動かすこと自体が目的だったので、無理にFlashAttentionを導入するのではなく、以下のノードをバイパス。

すると、FlashAttentionなしでもKrea 2の生成自体は問題なく動作しました。

そしてKrea 2 Turbo INT4を実際に生成

ここまで来て、ようやく生成成功。

そして気になる生成時間を測ってみました。

通常のKrea 2

約400秒

↓

約40秒

なんと、約10分の1です。

これはかなり快適。

今まで1枚生成するたびに数分待っていたのが、40秒程度なら「ちょっと試してみよう」と気軽に生成できます。

画質はどうだった？

速度だけではなく、気になるのが画質です。
左が通常版のkrea2、右が高速化したKrea2。
同じプロンプトで生成したものです。

どうでしょう？
そもそも絵のタッチが変わっているような。。
少なくとも私の用途では、問題なしです。

というか、、400秒の生成時間を再確認する為に、前のKrea2のWorkflowで再生成してみたら約80秒で生成できてる？

は？

思考停止…

💡

これはおそらく、おそらくですがローカルでAIエージェントを使うべく以下のものを起動してました。

  • LM Studio
  • Open WebUI
  • SearXNG / Docker
  • ComfyUIAgent

そのせいでVRAM食って生成時間が遅かったってこと？
何も起動せずに生成したら早かった？

orz

環境構築に約3時間かかった

今回、生成自体は40秒程度になりましたが、ここまで来るための環境構築には約3時間かかりました。Workflow落としてきて生成しようと思ってもエラー。
原因不明のエラー、エラー、エラー。

記事では解決した方法だけ書いてるのであっさり進めたようになってますが、めっちゃ苦労しました。

正直、

「40秒で生成するために3時間かかった」

という状態です（笑）。

というか、素でComfyUI起動して生成してたら速かった、というオチ。
なんなんだよー。

ComfyUIを「安定版」と「実験版」に分けることにした

ちなみに今回の経験をきっかけに、ComfyUIを2つの環境に分けることにしました。

安定版

普段使う環境。

  • 動作確認済みのWorkflowを使用
  • 新しいCustom Nodeはなるべく入れない
  • ComfyUI本体も不用意に更新しない
  • 「壊さない」を優先

実験版

新しいAIモデルやCustom Nodeを試すための環境。

  • 最新版ComfyUI
  • 新しいCustom Node
  • 新しい量子化モデル
  • 新しいWorkflow
  • 動作確認前のもの

などはこちらで試します。

これなら、実験でComfyUIが壊れても普段使いの環境には影響しません。

まとめ

今回はKrea 2 Turbo INT4をComfyUIで試してみました。

結果は、
約400秒 → 約40秒

と、大幅な高速化になりました。
これもなんか怪しくなってきた。

単にローカル環境で色々起動してなかっただけじゃね？
どうでもいい記事になってしまった。。

少しでもお役に立てば幸いです。

コメント

タイトルとURLをコピーしました