Arcana001 を DownLoad してくださった２名の方に連絡したいことがあります
Civitai の Chat 機能でご連絡ください、お手数ですがよろしくお願いします
※ 必ずご連絡くださいますようお願い申し上げます
QPOLA 的 CCSVDメソッド による均一化モデル QPOLAnima Arcana版 です、
他への無断転載防止のため buzz を求めます(最低 100buzz は、Civitaiの仕様／blue 可)
最低限のキャプションで学習し Anima の豊富なアニメ知識をできるだけ残しています、
｢CCSVDメソッドによる疑似フルランク微調整のためマージ等はご注意ください｣
マージ等を行う場合、上記の注意を必ず表記し CCSVD について注意を促してください、
謝辞：circlestone-labs の取り組みに心から感謝します
Arcana001fix LoRA作成向け (画風を均一にしました) ※ これは アニメ調 です
これにより LoRA 作成･確認 に使いやすいのではないかと思います、
特に ポーズ、表情、衣服、その他、リファレンス用、などで "画風抜き" を実施しやすいのではないでしょうか、
※ Anima の豊かな画風をすべて削ぎ落しているため通常生成には向きません！
CCSVDメソッドとは？
CCSVD (Clean Covariance-Optimized SVD) 260915 by muooon
これは QPOLA optim の更新手法を静的重みへ応用しています
CCSVD： https://github.com/muooon/CCSVD-method
QPOLA： https://github.com/muooon/QPOLA
差分の抽出と個別クレンジング
ΔWᵢ₍ᶜˡᵉᵃⁿ₎ = rSVDᵣ ( clamp(ΔWᵢ, μᵢ - c · σᵢ, μᵢ + c · σᵢ) )
グラム行列 (共分散) によるホワイトニング
dᵢ = vec(ΔWᵢ₍ᶜˡᵉᵃⁿ₎) ∈ ℝᴰ、Gᵢⱼ = ⟨dᵢ, dⱼ⟩ = dᵢᵀ dⱼ、Gᵢₙᵥ = (G + εI)⁻¹、w = (K / (𝟏ᵀ Gᵢₙᵥ 𝟏)) Gᵢₙᵥ 𝟏
ベースモデルへの統合
ΔW₍ᶠⁱⁿᵃˡ₎ = b × Σᵢ₌₁ᴷ (wᵢ · ΔWᵢ₍ᶜˡᵉᵃⁿ₎)、W₍ᵐᵉʳᵍᵉᵈ₎ = W₍ᵇᵃˢᵉ₎ + ΔW₍ᶠⁱⁿᵃˡ₎
これを LoRA類 (LyCORIS含) 同士やモデルへの統合、モデル同士の統合に適用します
※ これは概要です、実施ではさらに細かい微調整等を行います
※ 統合時は L2ノルムによる相対差 を求めバラつきを抑制します
なぜ疑似フルランク更新になるのか？
QPOLA optim からわかることは｢空間整合性｣を得ることで、重みの自由度を適切に制限できることがわかります、
これを静的重みに対し、複数の seed、タスク、等を｢空間整合性｣で最適化すれば無理なく LoRA を統合できるはずです、
よって上記のように、seed、タスク、等の違いから生じるノイズや外れ値をきれいにすることで、
複雑なランドスケープを多方面から観察しフラットミニマへ至るフローを合成で得られることになります、
これはフルランク更新の自由度に近い空間特性を後付けで再現可能にするという考え方になります、
履歴
QPOLA optim による Anima (v1.0) のリアル化モデル、QPOLAnima Base版です、
real、photo、等のタグによる指示や、自然語の指示、でリアル化を強めます、
｢QPOLA optim による微調整(FT･フルランク)のためマージ等はご注意ください｣
マージ等を行う場合、上記の注意を必ず表記し QPOLA について注意を促してください、
Base007 では CCSVD という自ら考案したマージ手法を用いました
CCSVD (Clean Covariance-Optimized SVD) 260915 by muooon
マージモデルは、animaFinalcutNew、comanimaRealistic_v10、cyberrealisticAnima_v60、realDream_animaV5、unnamedaANIMA_v10、です、
これらから QPOLAnima と離れすぎない･衝突しない、親和性のある似た成分の重みのみを抽出し、安全な範囲を自動でマージしています (ベースモデルはQPOLAnima)
簡単にいうと QPOLAnima が、QPOLA optim 更新で学習した 背景、小物、身体、などを強化する方向のマージ、選択的学習効果の取り入れみたいな感じです、
※ それぞれのモデル作者に心から感謝します
Base005 にてリアルを深めました、QPOLA Optim v1.2.0 使用しています、