ComfyUI v0.27.0「convrot int8」形式のモデルに公式サポート

ComfyUI v0.27.0にて、「convrot int8」形式のモデルが公式サポート AIラボ

ComfyUI v0.27.0にて、コミュニティ発の軽量・高速化フォーマットである「convrot int8」モデルが公式サポートされました

量子化モデルをより高速に扱えるようになりました。これまで低VRAM環境ではGGUFやFP8がよく使われていましたが、ComfyUI本体がINT8を公式に扱うようになったことで、今後は「軽くて速いモデル運用」の選択肢が大きく変わる可能性があります。

特に大型画像モデルや動画系モデルでは、VRAM使用量と生成速度がボトルネックになりやすいため、INT8対応はかなり実用寄りのアップデートで、今後の低VRAM・高速化ワークフローの本命候補です。

convrot int8形式の特徴

元々はコミュニティによって発見・実装された量子化(モデル軽量化)フォーマットです。一般的なfp8よりも高品質でありながら、速度面でも優れているとされています。

従来の主要なフォーマットと比較して、画質と処理速度の両面で非常に優れたパフォーマンスを発揮し、多くのNVIDIA製GPU(GeForce RTX 20、30、40、50シリーズ)において、従来のfp16やGGUF形式と比較して2倍以上高速に動作します。

動作要件とハードウェア

INT8のテンソルコア(Tensor Core)演算が最適化されているNVIDIA Ampere(RTX 30)以降やAda Lovelace(RTX 40)、Blackwell(RTX 50)世代で特にその恩恵(劇的なスピードアップ)を受けやすい性質があります。

公式提供・テスト用モデルリンク

以下のComfy-OrgのHugging Faceリポジトリ等にて、以下の対応モデルが公開されています。

コミュニティの反応

  • fp8より画質面で有利、fp16より軽い
  • GGUFより速い可能性がある
  • RTX 20 / 30世代でも恩恵がある
  • WAN、FLUX、QWEN系への展開に期待
  • 今後の量子化モデル運用の標準候補
  • 既存のconvrotモデルは変換が必要な場合がある
  • 公式対応=常に最速ではない
  • 量子化モデルの品質は変換方法次第
  • INT8の次はINT4 / W4A4にも期待

多いのは 「これは実用的な高速化だ」 という反応です。特に RTX 20 / 30世代でも恩恵がある点が評価されています。StableDiffusion側の関連スレでも、RTX 3090で40〜50%速くなった、RTX 3050 8GBでもかなり速い、5060 Tiで Krea の int8-convrot が mxfp8 より速かった、という報告が出ています。

一方で、現時点ではネイティブ対応より BobJohnson系のFastINT8ノードの方が速いケースがあるという指摘もあり、原因調査中という流れです。

さらに、既存の convrot モデルがそのまま全部動くわけではなく、量子化データに format フィールドがないモデルは変換が必要という話も出ています。Kijai氏が「convrotはサポートされているが、BobJohnsonノード由来の形式はそのままだとComfyUIネイティブ形式と合わない」と説明しています。

画質については、fp8より良い、BF16にかなり近いという見方が多いです。ただし、量子化は雑にやればよいわけではなく、Krea 2比較スレでは「適切な量子化には calibration samples、optimizer、iterations などが関係する」という指摘もあります。つまり「int8 convrotなら何でも高品質」ではなく、変換済みモデルの品質次第という見方も出ています。

ConvRot(Convolutional Rotation)の技術的背景

ConvRotは、LLMや拡散モデル(Diffusion Models)の重みを効果的にアクティベーションの偏りを均一化(回転)させ、精度低下を極限まで抑えながらINT8(8ビット整数)へと量子化する技術です。

一般的に、従来のFP8量子化は手軽ですが、特定のチャネルに大きな値(アウトライアー)が集中すると画質やテキスト追従性が低下する問題がありました。ConvRotはこれらを数学的に整えることで、8ビットでありながらFP16(16ビット浮動小数点)に近い表現力を維持します。

ConvRotは、LLMや拡散モデル(Diffusion Models)の重みを効果的にアクティベーションの偏りを均一化(回転)させ、精度低下を極限まで抑えながらINT8(8ビット整数)へと量子化する技術です。

一般的に、従来のFP8量子化は手軽ですが、特定のチャネルに大きな値(アウトライアー)が集中すると画質やテキスト追従性が低下する問題がありました。ConvRotはこれらを数学的に整えることで、8ビットでありながらFP16(16ビット浮動小数点)に近い表現力を維持します。

動画生成AI(Wan 2.1 / LTX-Videoなど)への影響

昨今の非常に巨大な動画生成AIモデル(Wan 2.1やLTX-Videoなど)は、VRAM消費量が激しく、個人環境での実行(特に16GB〜24GBのVRAM)においてはGGUF等の量子化が必須でした。

今回の公式サポートにより、従来のGGUF(Q4/Q8)やFP8による速度低下や画質劣化に悩まされていた動画生成・画像生成のワークフローが、劇的に軽快かつ高画質化する可能性を秘めています。

今後の展望

高品質かつ高パフォーマンスであるため、今後はComfyUIのデフォルトのテンプレートをこれから「convrot int8」モデルを使用するように更新していく予定らしいです。

コミュニティからの「WAN、FLUX、QWENなどのモデルも変換・アップロードする予定はあるか」という質問に対し、ComfyUI側は“That’s the plan.”「その予定です」と回答しています。